擬音、換臉，AI詐騙新套路不斷！“眼見(jiàn)不一定為實(shí)”如何防范？

日前，小米集團(tuán)董事長(zhǎng)雷軍的AI語(yǔ)音包刷屏了。一些網(wǎng)友用AI克隆雷軍的聲音，或是吐槽不文明行為，或是表達(dá)對(duì)他人的不滿，言辭尖銳，十分逼真，再次引發(fā)公眾對(duì)于技術(shù)加速迭代的深層次思考。

近年來(lái)，人工智能技術(shù)加快發(fā)展，在帶來(lái)創(chuàng)新和便利之際，也一并帶來(lái)了侵權(quán)、詐騙等違法行為的可能。如何防范AI技術(shù)被濫用？AI詐騙上當(dāng)后怎么辦？近日，記者對(duì)此進(jìn)行了相關(guān)采訪。

用10秒就能克隆任何人的聲音

雷軍的聲音是如何被克隆的？近日，記者在某微信公眾號(hào)上發(fā)現(xiàn)一文章標(biāo)題，“僅用10秒，用AI克隆任何人的聲音”。順著文章指引，記者注冊(cè)了某款A(yù)I音頻軟件，發(fā)現(xiàn)軟件上有上百種真人聲音模板，其中不少都是公眾人物，部分模板使用次數(shù)高達(dá)近29萬(wàn)人次，直接轉(zhuǎn)發(fā)2500多次。

這類“擬音”軟件使用門(mén)檻很低。記者隨機(jī)選擇了其中一款公眾人物的聲音模板，輸入文本，幾秒鐘內(nèi)，與文本相對(duì)應(yīng)的聲音內(nèi)容就被成功克隆出來(lái)了，語(yǔ)氣、音色都十分逼真，還能直接下載、轉(zhuǎn)發(fā)。網(wǎng)絡(luò)上類似的AI聲音軟件并不少見(jiàn)，不僅如此，還有各類AI換臉軟件和教程層出不窮，覆蓋圖片、視頻等，在手機(jī)上就可以操作。

工信部信息顯示，伴隨著人工智能快速發(fā)展，合成技術(shù)門(mén)檻持續(xù)降低，逐漸向低算力、小樣本學(xué)習(xí)方向演進(jìn)，利用手機(jī)終端即可完成，對(duì)算力和數(shù)據(jù)的要求下降明顯。同時(shí)，隨著AI大模型的技術(shù)加持，正逐步由面部合成向全身、3D合成發(fā)展，效果更加逼真。

去年4月，通過(guò)微信上的智能AI換臉技術(shù)，電信詐騙分子佯裝成福州市某科技公司法人代表郭先生的好友，在10分鐘內(nèi)騙取郭先生430萬(wàn)元。最終通過(guò)警銀聯(lián)動(dòng)，成功緊急止付涉嫌電信詐騙資金330多萬(wàn)元。郭先生表示，當(dāng)時(shí)騙子給他打視頻，在視頻中他也確認(rèn)了面孔和聲音，才放松了戒備。

業(yè)內(nèi)人士表示，如今AI技術(shù)正加速向網(wǎng)絡(luò)詐騙、虛假信息等領(lǐng)域滲透。如在一些網(wǎng)絡(luò)平臺(tái)上假冒明星、公眾人物生成視頻圖像，吸引網(wǎng)民。此外，AI技術(shù)也可能被用來(lái)規(guī)模化地實(shí)施違法犯罪，如批量、自動(dòng)維護(hù)網(wǎng)絡(luò)賬號(hào)，發(fā)送虛假信息，模擬人工在線聊天等。

“用科技打敗科技”

今年4月，北京互聯(lián)網(wǎng)法院宣判全國(guó)首例“AI聲音侵權(quán)案”，原告獲賠25萬(wàn)元。法院表示希望通過(guò)此類案件裁判，為新業(yè)態(tài)新技術(shù)劃定應(yīng)用邊界，并亮明兼顧保護(hù)人格權(quán)益與引導(dǎo)技術(shù)向善的司法態(tài)度。

目前，我國(guó)法律法規(guī)也對(duì)AI深度偽造作出了一定規(guī)制。2022年12月施行的反電信網(wǎng)絡(luò)詐騙法加強(qiáng)預(yù)防性法律制度構(gòu)建，加大對(duì)違法犯罪人員的處罰，對(duì)尚不構(gòu)成犯罪的人員也要從嚴(yán)處罰，沒(méi)收違法所得，處違法所得1~10倍罰款或者10萬(wàn)元以下罰款，由公安機(jī)關(guān)拘留。

2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也明確，“提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意”“可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)”等。

眼下，福州也正試圖“用科技打敗科技”。10月6日，劉某通過(guò)一網(wǎng)絡(luò)社交平臺(tái)接收兼職任務(wù)，利用QQ視頻通話和手機(jī)號(hào)碼對(duì)提供兼職者進(jìn)行詐騙，福州移動(dòng)AI外呼智能化系統(tǒng)智能篩選出劉某的作案號(hào)碼，精準(zhǔn)識(shí)別GOIP設(shè)備，協(xié)助公安部門(mén)迅速追蹤并精準(zhǔn)抓獲嫌疑人。

福州移動(dòng)相關(guān)負(fù)責(zé)人介紹，AI外呼通過(guò)試點(diǎn)提升反詐回呼模型稽核能力，制定回訪研判機(jī)制和規(guī)則，研判存在詐騙誘導(dǎo)的電話號(hào)碼、電子郵件及短信，識(shí)別GOIP設(shè)備，向警方推送線索，進(jìn)而助力詐騙窩點(diǎn)精準(zhǔn)打擊。截至目前，系統(tǒng)已協(xié)助公安機(jī)關(guān)完成181個(gè)重要線索核查，打擊人數(shù)170余人次，繳獲設(shè)備70余臺(tái)。

此外，依托e體+智慧賦能警務(wù)實(shí)戰(zhàn)平臺(tái)，福州公安部門(mén)打通刑偵、經(jīng)偵、網(wǎng)安、合成偵查中心等警種資源共享，建成應(yīng)用網(wǎng)絡(luò)信息攔截系統(tǒng)和警銀聯(lián)動(dòng)預(yù)警平臺(tái)，對(duì)于新型網(wǎng)絡(luò)詐騙實(shí)行快速響應(yīng)、快速研判，以及推進(jìn)快偵、快破、快抓逃、快追贓、快挽損。

牢記“三不一多”謹(jǐn)防受騙

“近年來(lái)，電信網(wǎng)絡(luò)詐騙類型層出不窮，詐騙手段不斷更新，讓人防不勝防，成為一個(gè)極其復(fù)雜的社會(huì)治理問(wèn)題，需要社會(huì)各界通力合作、齊抓共管、綜合治理。”市公安局臺(tái)江分局相關(guān)負(fù)責(zé)人說(shuō)。

成立福州大數(shù)據(jù)反詐聯(lián)合專班，研發(fā)福州市互聯(lián)網(wǎng)詐騙防范攔截系統(tǒng)，加大電信網(wǎng)絡(luò)詐騙犯罪案件辦案懲治力度，建立不良信用通信用戶名單庫(kù)和違法失信懲戒聯(lián)動(dòng)機(jī)制……近年來(lái)，新型網(wǎng)絡(luò)詐騙已引起公檢法及電信、金融監(jiān)管等多部門(mén)的關(guān)注，打擊網(wǎng)絡(luò)詐騙多元共治的治理模式正在逐步形成。

要扼制AI仿造技術(shù)的濫用影響，細(xì)致完善的法律規(guī)范配套措施必不可少。北京市盈科（福州）律師事務(wù)所律師羅錦斌認(rèn)為，AI仿造技術(shù)不僅可能涉嫌侵害他人肖像權(quán)和名譽(yù)權(quán)，甚至可能涉嫌犯罪。民事侵權(quán)案件中受害方難以舉證證明其損害結(jié)果、侵權(quán)行為與損害結(jié)果的因果關(guān)系等，這種情況下，網(wǎng)絡(luò)服務(wù)提供者的責(zé)任又該如何監(jiān)管和加強(qiáng)是需要考量的。因此，需要細(xì)化法律條款，完善配套措施，才能讓法律條款落到實(shí)地。

針對(duì)性的反詐宣傳也必不可少，尤其是針對(duì)一些老年人、學(xué)生等群體。羅錦斌認(rèn)為，未來(lái)AI可根據(jù)大數(shù)據(jù)創(chuàng)造出無(wú)比接近真實(shí)的“真實(shí)”，“要通過(guò)持續(xù)的宣傳教育改變大眾觀念，讓人知道眼見(jiàn)不一定為實(shí)，有圖不一定有真相，提升對(duì)網(wǎng)絡(luò)信息的辨別力”。

公安部門(mén)也再次提醒廣大公眾，各類電信網(wǎng)絡(luò)詐騙手法雖然形式多變，但萬(wàn)變不離其宗，公眾要牢記“三不一多”原則：未知鏈接不點(diǎn)擊，陌生來(lái)電不輕信，個(gè)人信息不透漏，轉(zhuǎn)賬匯款多核實(shí)。一旦遇到詐騙分子，要及時(shí)報(bào)警，防止財(cái)產(chǎn)損失。（記者 沐方婷）