“AI換臉擬聲”亂象頻現(xiàn)如何治理？專家這樣說……

“AI換臉擬聲”亂象頻現(xiàn) 如何治理？

福州法律專家：為人工智能套上法治韁繩

“雷軍回應‘國慶7天被AI雷軍罵了8天’”“靳東兩會建議AI換臉立法”……今年全國兩會期間，“AI換臉擬聲”技術的濫用問題引發(fā)代表委員關注，相關話題頻頻登上熱搜，也引發(fā)福州市民熱議。

手機應用商店有許多“AI換臉”App（頁面截圖）。

代表委員發(fā)聲：

治理“AI換臉擬聲”

近年來，一些不法分子利用“AI換臉擬聲”等高科技手段實施詐騙，令一些演藝界人士、專家學者、知名企業(yè)家等公眾人物飽受困擾。

“一些喜歡我作品的觀眾，被AI換臉視頻騙得很慘。這種犯罪性質非常惡劣，希望能建立更好的規(guī)則。”在3月5日的政協(xié)小組討論上，全國政協(xié)委員、中國煤礦文工團團長靳東回應了AI換臉引發(fā)的詐騙問題。

同樣深受其擾的，還有全國人大代表、小米集團創(chuàng)始人雷軍。3月4日，雷軍公開了今年兩會的5條建議，其中“加強‘AI換臉擬聲’違法侵權重災區(qū)治理”尤為引人關注。他表示，他本人就是“AI換臉擬聲”的受害者。去年國慶長假期間，短視頻平臺上大量“雷軍AI配音”的惡搞視頻涌現(xiàn)，言辭犀利甚至爆粗口，不少網友“被AI雷軍罵了8天”。

雷軍表示，“AI換臉擬聲”濫用成了違法侵權行為的重災區(qū)，易引發(fā)侵犯肖像權、侵犯公民個人信息罪及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風險。AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)。

如何更好把握人工智能發(fā)展機遇、更好應對新技術帶來的風險挑戰(zhàn)？雷軍建議，加快單行法立法進程，提升立法位階；強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責任和義務；加大普法宣傳的廣度和力度，增強民眾的警惕性和鑒別力。

全國人大代表、TCL創(chuàng)始人李東生建議，加快出臺人工智能深度合成內容標識管理規(guī)章制度，明確懲罰制度。同時，加強國際合作，有效監(jiān)管人工智能生成、合成內容。

業(yè)內人士剖析：

技術便捷滋生亂象

隨著AI技術的發(fā)展，“AI換臉擬聲”操作愈發(fā)簡單，只需獲取照片和聲音等個人信息，就能借助技術以假亂真。

11日，記者嘗試使用了某款AI換臉軟件。在上傳一張人物照片并按照提示進行簡單操作后，短短幾分鐘，軟件便生成了一段換臉后的視頻，人物表情和動作雖有些生硬，但整體已具有較高的相似度。

據(jù)了解，利用聲音合成功能，同樣能快速生成一段模仿目標人物聲音的音頻。

基于此類技術，不法分子在網絡上制造出各種違法亂象。從假冒名人誘導中老年人轉賬，到偽裝單位領導要求匯款，甚至有線上游戲平臺利用AI技術，將某明星的肖像、聲音及過往視頻片段，合成制作為帶有賭博性質的代言宣傳片。

“GitHub這類知名開源平臺上有大量AI換臉、語音合成的開源代碼與工具，大大降低了技術使用門檻。例如，熱門的開源項目Deep?FaceLab，不法分子只需簡單下載、調試，即便技術水平有限，也能快速搭建起簡易的‘AI換臉擬聲’程序。”福州大學計算機與大數(shù)據(jù)學院博士生肖博懷告訴記者，一些AI開源代碼和工具降低了技術使用門檻，讓合法的創(chuàng)新探索、創(chuàng)意實踐變得更為便捷，但這也使得惡意利用技術變得輕而易舉，不法分子能夠輕易獲取并運用這些資源，實施違法犯罪行為。

一名深耕互聯(lián)網行業(yè)多年的資深從業(yè)者表示，在當下網絡環(huán)境中，用戶注冊各類網絡平臺賬號時風險意識普遍薄弱。不少用戶為圖便捷，隨意填寫真實姓名、身份證號、聯(lián)系方式等關鍵個人信息。注冊過程中，對平臺隱私設置選項視而不見，默認全部公開。這些泄露的信息與“AI換臉擬聲”技術相結合，無異于給詐騙分子提供了“作案利器”。

法律專家建言：

為AI套上法治韁繩

近年來，我國《互聯(lián)網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等法律法規(guī)已頒布實施，《人工智能生成合成內容標識辦法（征求意見稿）》完成社會意見征集，對人工智能治理進行了有益探索。然而，鑒于技術的迅猛發(fā)展，治理的“工具箱”仍需不斷擴容。

福建省司法廳行政立法咨詢顧問專家?guī)斐蓡T、福建三山律師事務所主任洪必景表示，當前對于涉及深度偽造、一鍵換臉等濫用人工智能侵權乃至詐騙行為的相關治理規(guī)則還不完善，這也導致利用人工智能侵權的違法成本極低，受害者的維權成本極高。技術的發(fā)展離不開制度保障，通過立法明確倫理規(guī)范和治理規(guī)則，確保人工智能的發(fā)展與應用始終符合人類福祉顯得十分迫切和必要。

福建融成律師事務所合伙人齊海緒建議，面對“AI換臉擬聲”等新型詐騙的出現(xiàn)，首先應加快制定相關法律法規(guī)，明確“AI換臉擬聲”等技術的應用邊界與違法后果，建立AI生成內容強制標識制度，增強信息透明度。其次，進一步強化互聯(lián)網平臺審核責任，要求互聯(lián)網企業(yè)采用技術手段攔截虛假信息，并建立“先行賠付”機制。再次，應完善法律適用標準，推動建立AI內容追蹤溯源體系，結合《中華人民共和國反電信網絡詐騙法》等現(xiàn)行法規(guī)，形成全鏈條治理。（記者 肖遠強）