齊向東：AI深度僞造引發社會混亂，“眼見未必爲實”將成爲常態

21世紀經濟報道 記者鍾雨欣 北京報道

人工智能新時代不僅帶來了生產力的大幅提升，也給網絡安全提出了前所未有的挑戰，安全風險由“點”向“面”擴散。7月9日，奇安信集團董事長齊向東在出席2024（第二十三屆）中國互聯網大會時表示，要以AI驅動安全，應對三大安全威脅，並補齊三大薄弱環節，全方位提升新時代安全能力。

齊向東認爲，網絡安全攻擊會造成嚴重的經濟損失，網絡安全事故會嚴重威脅國家安全。奇安信威脅情報中心今年2月發佈的《全球高級持續性威脅（APT）2023年度報告》顯示，在2023年全球至少有80個國家遭遇過APT攻擊，中國及周邊地區已經成爲網絡空間戰爭的焦點。

在齊向東看來，人工智能新時代面臨三大安全威脅。

第一，AI“飽和式”攻擊打垮網絡安全運營體系。攻擊者可以利用AI工具對網絡攻擊進行改造和升級，短時間內發動大範圍連續進攻，在飽和攻擊的狀態下，防護的難度就大大增加了。那些原本就缺少安全專家的政企機構，會陷入“攻強守弱”的境地。

第二，AI深度僞造引發社會混亂。一些不法分子利用換臉、變聲、搭建虛擬環境等手段進行“深度僞造”，冒用身份混淆視聽，進行網絡詐騙，“眼見未必爲實”“耳聽未必爲真”將成爲常態，極有可能引發社會認知混亂。同時，人工智能可以加快編寫惡意軟件和惡意代碼的速度，讓欺詐事件頻發。

第三，“AI投毒”污染數據衝擊安全防線。人工智能時代，黑客組織利用AI升級攻擊手段，通過對抗樣本、數據投毒、模型竊取等多種方式對AI算法進行攻擊，使其產生錯誤的判斷，同時由於算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防範。

他同時提到，政企機構的網絡安全建設還處於探索階段，存在着三大薄弱環節，即人力不足、思路落後、體系不全。

“想要應對三大安全威脅、補齊三大薄弱環節，就要用AI驅動安全，爲安全能力帶來指數級躍升。”齊向東表示，AI可以對過去人工漏掉的告警進行全面研判，實現安全能力十倍級提升。通過AI賦能、綜合分析和聯動，可以實現安全體系能力的百倍級提升。在威脅發現和溯源反制方面，AI可以快速溯源、快速反制，實現安全響應能力千倍級提升。

“我們可以通過AI提升全場景的安全防護能力。如AI+安全開發、AI+終端用戶、AI+應用等，全面激發網絡安全的最大效能。”齊向東說。