工商社論》比取代人類更加嚴重的AI風險

谷歌等少數幾家科技大廠爲其他企業提供便捷的AI服務，但這也是AI風險的放大器。圖／美聯社

隨着演算能力的推進，人工智慧（AI）的各種運用也有突飛猛進的發展。雖然也有人擔心其對社會帶來的衝擊，特別是取代人類的工作。事實上以金融領域來講，AI對金融穩定的衝擊，遠比取代人類更值得我們重視。

過去十幾年來，AI與機器學習技術廣泛被運到反洗錢與防詐，大幅提高工作效率。近來由於算力的飛躍成長、計算成本的降低以及相關技術的發展，使得運用層面更廣。根據國際貨幣基金（IMF）今年的報告指出，美國股市運用演算法交易的比例快速上升到7成以上，期貨市場也過半。此外，理財機器人所管理的投資金額也爆炸式成長，近期可能就會超過2兆美元。因此AI對金融穩定的影響更不容忽視。

基本上來說，一個穩健的市場應該同時存在有人看多，有人看空，有人買進，有人賣出。但由於使用AI作爲投資決策工具時，許多演算法使用相同的模式來訓練，造成大家同步買同步賣的「羊羣效應」。再加上目前高頻交易的盛行，將推升市場「閃崩」的風險。這也是爲什麼美國證期會（SEC）主席詹斯勒（Gary Gensler）多次闡述這個風險，並認爲AI可能造成下一場的大型的系統性金融風險。

美財政部長葉倫也指出，AI工具往往非常技術性與不透明，不容易解釋，也不容易監測其缺點。假如金融業或監理機關對AI不夠了解，那就很可能造成偏差或不正確的結果。而且，AI依賴大量的外部資料庫，或是第三方供應商，也加深個資保護與資安風險的疑慮。

IMF在今年邀集金融從業人員與學界專家，共同討論使用生成式AI將伴隨而來哪些風險。會議中先討論出會有哪些風險，再請與會專家進行投票。得票最多的風險項目依序是：羊羣效應與市場集中度、供應商集中度、市場脆弱性與操控、資安風險，最後纔是取代人類工作。由得票結果也可知，與會專家對前面三項與金融穩定相關的憂慮，遠比取代人類工作還擔心。

雖然AI大幅增強了資料的處理和生成能力，但其產出的品質與正確性還是高度依賴所餵食的資料品質。目前AI能夠處理的資訊除了數據外，非結構化資料如文字、電腦代碼、語音和圖像也可處理。但由於其基礎模型的訓練方式，AI更容易「學習」並持續保留其訓練資料中固有的偏見或錯誤。另一項挑戰則涉及資料隱私，特別是在使用資料庫時是否尊重使用者輸入的資料隱私（例如，這些資料可能包含公司專有的機密資訊），以及是否存在資料泄露的風險。

一般企業不會自己開發AI運用技術，而是仰賴亞馬遜、微軟與谷歌等幾家科技大廠。這些科技大廠爲其他企業提供便捷的AI服務，加速了AI技術滲透到各企業。但這也是AI風險的放大器，使得AI的風險擴大到系統層面，甚至對金融穩定性造成影響。因爲這幾家AI供應商所提供的決策模式，在不同金融機構中被廣泛應用到各種流程。如果大多數金融機構使用相同或相似的基礎模型時，那麼受AI偏見的衝擊將更巨大，對供應商依賴的風險也越大。過度依賴少數的AI供應商，可能使金融系統的運營基礎變得更加脆弱。甚至相關風險將從個別金融機構的問題，擴大爲系統性問題。

AI還可能被惡意利用，用於網絡攻擊、虛假信息、操縱市場、使用深度僞造技術以破壞對金融機構的信心等。因此近期IMF與主要國家央行纔會深入探討此議題。

但即將執政的美國川普陣營已揚言，將撤銷現任總統拜登簽署的「安全、可靠且值得信賴的開發及使用AI」的行政命令，因爲這妨害AI的發展。川普內閣對於加密貨幣也將大幅鬆綁，這在在都與SEC主席詹斯勒的觀點相左。因此之前擔任麻省理工學院（MIT）教授的他，已經宣佈將在川普就任總統那一天離職，雖然他的法定任期到2026年。美國股市已有過熱之虞，不管是本益比，或是巴菲特指數都創歷史新高，特別是所謂的AI概念股。未來股市若有風吹草動，在AI的放大效果下，值得我們關注。

水能載舟也能覆舟，在善用AI帶來的機會的同時，也應隨時保持警惕，避開可能帶來的金融風險，不可掉以輕心。