林宜敬:臺灣須發展主權AI 讓繁體中文能力更好
數發部次長林宜敬。(數發部提供)
詐騙猖獗,網路也有很多訊息來自中國,數位發展部政務次長林宜敬今天表示,臺灣必須發展主權AI,運用中央社新聞等文字,讓繁體中文能力更好,也較接近臺灣的需要和觀點。
林宜敬今天出席國家資通安全研究院在臺南市歸仁區舉辦的AI(人工智慧)打詐技術發表會,他接受媒體聯訪指出,臺灣必須以自身資料發展主權AI,包括新聞媒體及網路文章,以訓練臺灣AI模型。
林宜敬說,AI生成訊息很多來自中國,而不是臺灣觀點訊息,政府已陸續資助及開發主權AI,以中央社新聞等文字訓練,讓繁體中文能力更好,AI回答也比較接近臺灣的需要和觀點,這就是臺灣主權AI。
國家資安院指出,生成式AI使詐騙文本生成自動化,機器人帳號大量投放詐騙廣告及留言按贊,營造文章受到羣衆踊躍支持假象,且在社團、羣組發文,增加機器人帳號活動範圍和影響力。
此外,機器人帳號也會修改用戶資訊,頻繁更換個人檔案、相片和活動模式,掩飾真實身分,躲避相關單位追查,必須以AI對抗AI。
資安院AI偵測結果顯示,目前投放過詐騙廣告粉專帳號約1萬6000個,隨機取其中1000個比對可發現特徵類似,但尚未投放過詐騙廣告粉專帳號約有10萬個,可推估出面投放過詐騙廣告帳號背後還有160萬個帳號發派使用,稱爲百萬機器人大軍一點也不誇張。
資安院表示,詐騙廣告帳號每天投放5000則至1萬則只存活1到2天詐騙廣告,營造羣衆多樣性與熱度,且利用同溫層免費傳播。末端清掃策略只能對詐騙廣告下架,但每天最快僅處理數千則,不太可能處理160萬個機器人帳號。
因此,源頭打擊策略須在粉專帳號投放廣告時,由廣告代理商進行第2層粉專帳號或真實帳號驗證機制,不能單靠平臺業者對廣告代理商的第1層驗證,面對不斷推陳出新的詐騙手法,需要技術、法規及國際,纔能有效遏制。