齊向東：人工智能帶來新的安全問題，需要人工智能技術(shù)化解

海峽網(wǎng)5月24日訊（海峽網(wǎng)記者 李牧晨）5月24日，以“釋放數(shù)據(jù)要素價(jià)值 發(fā)展新質(zhì)生產(chǎn)力”為主題的第七屆數(shù)字中國建設(shè)峰會在福州開幕。在“數(shù)據(jù)資源與數(shù)字安全”分論壇結(jié)束后，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團(tuán)董事長齊向東接受了媒體采訪，他表示：“人工智能帶來的新的安全問題，還需要人工智能技術(shù)進(jìn)行化解。這次BCS大會我們將主題定為‘AI驅(qū)動安全’，就是希望立足安全領(lǐng)域，以全局視角和大家共同探討人工智能與安全的未來。我們要用AI驅(qū)動安全，跟數(shù)據(jù)投毒者、數(shù)據(jù)篡改者、數(shù)據(jù)竊取者進(jìn)行賽跑，借助大模型的開發(fā)、應(yīng)用和創(chuàng)新，把他們遠(yuǎn)遠(yuǎn)甩在后面。”

奇安信集團(tuán)董事長齊向東接受媒體采訪。海峽網(wǎng)記者 李牧晨 攝

齊向東說，在數(shù)據(jù)、算力、算法“三駕馬車”的拉動下，人工智能正從“智慧型工具”，進(jìn)化成人類的“全能型伙伴”。它給我們帶來的影響是全方位、顛覆性的，除了在促發(fā)展上起到的提質(zhì)增效作用外，人工智能所帶來的安全問題最受人關(guān)注。當(dāng)前，“飽和式”攻擊、深度偽造、數(shù)據(jù)投毒等等安全新風(fēng)險(xiǎn)，嚴(yán)重沖擊原有的網(wǎng)絡(luò)安全防線和安全體系，加劇了我們的不安全感，引人深思。

具體到數(shù)字安全方面，有三大新挑戰(zhàn)：

一是AI投毒安全隱患加重，攻擊者可以通過在訓(xùn)練數(shù)據(jù)中加入精心構(gòu)造的異常數(shù)據(jù)，破壞訓(xùn)練數(shù)據(jù)集的準(zhǔn)確性；

二是數(shù)據(jù)篡改隱患加重，AI的大規(guī)模內(nèi)容生產(chǎn)能力可能產(chǎn)生真假難辨的信息，控制社交軟件乃至媒體的輿論聲音，激化意識形態(tài)矛盾；

三是數(shù)據(jù)泄露隱患加重，在向人工智能投喂數(shù)據(jù)的過程中，也會產(chǎn)生商業(yè)機(jī)密泄露問題，進(jìn)而導(dǎo)致企業(yè)喪失核心競爭力。

安全是人們對美好生活最本質(zhì)的向往，網(wǎng)絡(luò)安全是人工智能發(fā)展過程中無法回避的挑戰(zhàn)。作為人工智能最快落地、最快見到實(shí)效的行業(yè)之一，網(wǎng)絡(luò)安全產(chǎn)業(yè)肩負(fù)重任。未來人工智能給人類帶來的影響是正還是負(fù)，取決于當(dāng)下如何培養(yǎng)和訓(xùn)練它。如果培養(yǎng)得當(dāng)，人工智能將會帶給人類應(yīng)對新時(shí)代、新挑戰(zhàn)的“最優(yōu)解”。做好“人工智能+安全”，關(guān)鍵要從提高防護(hù)效率入手。“去年，奇安信創(chuàng)新發(fā)布了QAX-GPT安全大模型，從開始訓(xùn)練我們就制定了明確的目標(biāo)：生產(chǎn)力是硬道理，一定要讓客戶在使用奇安信的GPT產(chǎn)品時(shí)就像是雇請了一個(gè)高級安全專家隊(duì)伍，把產(chǎn)品領(lǐng)回去就能變成自己的力量。”齊向東說。