AI"魔改"名人帶貨行騙 監管如何趕上技術的發展

《甄嬛傳》變身槍戰片、《紅樓夢》改成武打戲、孫悟空騎着摩托車揚長而去，在AI加持下，觀衆永遠猜不到下一秒會發生什麼，更讓某些人發現了所謂“新的商機”。

例如，有人利用AI合成了劉德華的聲音，爲自己增加流量。AI合成的“張文宏”深夜帶貨，自然也不令人意外。

ChatGPT的人機交流帶給世界的興奮還沒持續多久，人工智能黑暗的另一面就令人警惕。統計顯示，2023年，基於AI的深度僞造欺詐暴增了3000%，今年上半年，AI詐騙案超過1.85億，美國過去一年裡人工智能詐騙事件同比增幅超過了50%。此前，世界經濟論壇發佈《2024年全球風險報告》，將人工智能生成的錯誤信息和虛假信息名列“未來兩年全球十大風險”之首。

面對危機，各國也有所行動。日前，廣電總局網絡視聽司發佈管理提示，要求各相關省局督促轄區內短視頻平臺排查清理這類視頻，並且對在平臺上使用、傳播的各類相關技術產品嚴格准入和監看。歐洲今年通過了史無前例的《人工智能法案》，禁止某些“威脅公民權利”的AI應用，還要求所有AI生成的圖像、音頻或視頻等，都要有明確的標籤。

針對AI技術導致的不法行爲，公衆意見不一，激進的意見甚至覺得應該徹底抵制。當然，技術本身是中性的，該被繩之以法的，還是那些其心不正的使用者。監管能不能趕上AI技術的進步，現在還是個問題，人工智能的監管和治理需國際合作，共同防範風險。

而我們人類自身，也要不斷自我調節適應新變化，眼下，就是保護好包括人臉等生物信息，不過度分享照片、視頻。更重要的是，要認識到AI生成技術面前，有圖不一定有真相，眼見更不一定是實。

編輯: 趙歆

責編: 宋懿