智能體跨APP服務帶來安全挑戰 20餘家頭部公司“抱團”應對
本報記者 李暉 北京報道
當你開着車準備去看電影，當下最流行的方式可能是——提出一個需求調動起智能助理，讓它在幫你設計駕駛路線的同時，順便查詢、訂票甚至提前點一杯咖啡。
2024年以來，AI智能體已成爲賽道內各玩家的重要戰略佈局，手機終端、大模型及APP廠商紛紛推出“AI管家”等智能體產品。通過共享感知數據和任務協調優化實現智能響應，多個智能體協同工作，可以爲用戶提供更豐富的功能體驗，但跨APP的服務調動也帶來了不可預測的新風險。
爲應對智能體高速發展帶來的安全挑戰，國內首個智能體安全生態協作組織——“IIFAA智能體可信互連工作組”（以下簡稱“工作組”）12月19日在北京成立。中國信通院、榮耀、OPPO、小米、華爲、智譜、字節、阿里、螞蟻、京東、中國移動、高通等20餘家頭部科技企業和單位成爲工作組首批成員。
工作組技術總監張璇向《中國經營報》記者透露，接下來，工作組將圍繞智能體可信認證、服務可信調用、數據可信流轉、用戶隱私與權益保護等方向，建設智能體可信互連行業規範，推動行業安全、健康發展。
多智能體間尚未可信互連
在上述開車買電影票和點咖啡的場景中，此前的路徑是用戶在各個互不關聯的APP上獲取服務。而在智能互連的生態系統中，一次調動涉及很多煩瑣的操作步驟——需要由用戶調動的智能體，去與負責出行的智能體、購票的智能體以及點餐智能體和社交智能體進行交互，最終完成所有需求。
“對用戶而言，一條指令，往往會涉及到多個APP智能體產品，而智能體之間的打通很難，如何在端上實現多智能體間的可信互連，成爲智能體發展中至關重要的問題。目前行業還在初期階段，新技術在給用戶帶來便利的同時，也隱藏着安全風險。”信通院泰爾終端實驗室信息安全部副主任傅山表示。
在此前的APP孤島時代，很多問題不會出現，當APP之間真正開放連接的時候，很多問題開始出現。比如，智能體之間的服務互聯最終要完成用戶指令，這中間涉及到意圖數據的共享傳遞和複雜任務拆解等必經流程。
在IIFAA聯盟秘書長鄭亮看來，這些流程在沒有規範約束的情況下，就像開車沒有紅綠燈，非常容易滋生亂象，黑灰產有時候對新技術的掌握速度比防禦方更快。
有一些亂象是主觀行爲。張璇舉了一個例子：“我明明說要去北京，智能體偷偷幫我改成了要去上海，或者是明明以爲買到了機票，但智能體幫我僞造了付款的賬戶。一些犯罪分子會把惡意的智能體進行僞裝，加入到協作的智能體中，如果不能快速地把它識別出來，會對用戶造成很大的傷害。”
而有一些亂象則是客觀結果。“比如一個用戶在某購物平臺上買一瓶白酒沒問題，但如果緊接着買一盒頭孢，大概率會被定義成有危險，平臺很可能會進行提示或阻斷。但如果通過智能體購買，由於這兩個行爲分別是孤立的，不是在一個APP裡面發生的，就可能被疏忽掉。”IIFAA互聯網可信認證聯盟技術負責人萬小飛向記者表示。
“我們不能在問題出現之後再開始討論秩序，這也是這個工作組存在的必要性。”鄭亮認爲，智能體之間需要開放協作，也需要共建安全互信的行業規範。這對行業長遠的健康發展有至關重要的意義。
國外亦有相關探索
IIFAA互聯網可信認證聯盟成立於2015年，致力於可信身份認證等工作，擁有300多家成員單位。此次成立“IIFAA智能體可信互連工作組”，是希望通過制定跨智能體交互的相關標準等形式，爲智能體行業的發展提供一個更加規範健康的協作環境。
“接下來，工作組將圍繞智能體可信認證、服務可信調用、數據可信流轉、用戶隱私與權益保護等方向，建設智能體可信互連行業規範，推動行業安全、健康發展。”張璇介紹。
萬小飛在回答記者提問時表示，工作組重心不會在智能體內部問題的定義和約束上，而更多建立智能體之間的協助機制，首先是身份的鑑別機制，怎麼去鑑定對方向我發起的請求是可信的？未來可能還包括類似“買藥買酒同時進行”時這種用戶意圖識別。
記者注意到，從整個OEM（原始設備製造商）的生態來看，包括國內的各大手機廠商和很多芯片的IP設計商，已經開始形成相關的技術白皮書。不過，在當前智能體廠商內部標準尚不健全的階段去探索行業標準是否過早？
對此，萬小飛認爲，智能體行業的發展遠超預期，整個工作組的預判是智能體本身的發展和它的行業標準制定，包括智能體和智能體互連的行業標準的制定，可能是並行進行的。
在工作抓手上，萬小飛認爲有三個關鍵點——第一個是硬件載體提供方即手機廠商要做相關的基礎設施，第二個是APP智能體包括三方智能體要遵循相關的規範，串通這兩個錨點的關鍵是有三方機構去拉通一些標準。
記者注意到，從國際範圍看，雖然尚未有公開信息披露美國也已經針對智能體生態成立相關聯盟機構，但有業內人士透露，這是由於中國智能體生態發展得更快，但目前google等公司也已經在做相關探索。
作爲成員單位，智譜AI CEO張鵬認爲，作爲專注AI的公司，智譜非常注重技術安全和治理的同步發展，成立智能體行業組織在當下很有必要，可有效避免由於缺乏統一標準而可能導致的惡意攻擊、隱私侵犯等安全隱患，促進整個行業的健康發展。”
螞蟻集團副總裁李俊奎則表示，將會支持工作組推動智能體技術在各個應用場景中的廣泛普及與信任建立，讓AI更安全地服務於用戶和行業。
（編輯：李暉 審覈：何莎莎 校對：顏京寧）