生成式 AI 遭惡意濫用，美國政府敦促科技行業遏制換臉視頻傳播

IT之家 5 月 25 日消息，據美聯社，美國政府要求科技行業和金融機構關閉日益猖獗的“利用人工智能生成色情圖像”市場。

報道指出，新出現的生成式 AI 工具可以輕鬆將一個人的肖像變成具有性暗示內容的 AI 換臉視頻，從而便於這類逼真的深度僞造圖像在網上傳播，而受害者（無論是名人還是兒童）都幾乎沒有辦法阻止這種情況的發生。

白宮呼籲企業主動採取合作，並通過一系列具體行動遏制這種未經當事人同意就創作、傳播 AI 圖像並從中獲利的行爲發生，尤其要打擊涉及兒童的色情內容。

“當生成式 AI 出現時，每個人都在猜測第一個真正意義上的危害會出現在哪裡。我認爲我們已經有了答案”，拜登的首席科學顧問、白宮科學技術政策辦公室主任阿拉蒂・普拉巴卡爾（Arati Prabhakar） 解釋說。

她告訴美聯社，由於人工智能工具的推動，未經同意傳播圖像的情況“大幅增加”，尤其針對女性和女孩，而這類內容可能會顛覆她們的生活。“我們看到這類問題正在加速發展，因爲生成式人工智能正在飛速發展。最快的解決辦法就是讓這些公司站出來承擔責任。”

美聯社記者拿到的一份文件指出，美國政府不僅僅只是呼籲 AI 開發者採取行動，還希望支付處理機構、金融機構、雲計算供應商、搜索引擎以及“互聯網看門人”—— 即蘋果、谷歌等這類公司採取行動，嚴格把控應用商店中的內容。

白宮認爲，這些商業公司應該加大力度，遏制此類侵犯行爲的“貨幣化”過程，限制支付渠道，尤其限制那些發佈未成年人露骨圖片的網站。

普拉巴卡爾提到，許多支付平臺和金融機構已經發表聲明，表示他們不會爲傳播此類圖片的公司提供服務支持。不過她也強調有些人並沒有嚴格執行，這些服務條款（即幫助受害者快速清理此類侵權內容）相當於不存在。

美聯社指出，最出名的色情僞造圖片受害者恐怕要數泰勒・斯威夫特（Taylor Swift）。今年 1 月，有大量關於這位歌手的 AI 色圖開始在網上流傳，而斯威夫特的粉絲也對此進行了反擊。後續，有部分僞造圖像被追查至微軟公司旗下的 AI 視覺設計工具，而微軟也承諾將加強防護措施。實際上，在美國和其他地方，也有數量衆多的學生在與深度僞造裸照作鬥爭，部分屬於校園暴力，也有部分是學生好奇心作祟。

美國政府去年10 月簽署了一項行政命令，旨在引導人工智能的健康發展，希望各大科技公司能夠在不危及公共安全的情況下獲利。拜登也表示，政府的人工智能保護措施需要得到法律的支持，相關團體目前正在敦促國會在未來三年內至少投入 320 億美元（IT之家備註：當前約 2320 億元人民幣）來開發 AI，併爲控制和監管 AI 的能力提供資金。

白宮性別政策委員會主任珍妮弗-克萊因（Jennifer Klein）對此表示：“鼓勵公司參與進來並做出自願承諾，並不能改變國會在此採取行動的根本需要。”

斯坦福大學互聯網觀察站去年 12 月宣佈，它在龐大的人工智能數據庫 LAION 中發現了數千張疑似兒童色情的圖片。

本月早些時候，聯邦檢察官對威斯康星州一名男子提出指控，該男子涉嫌使用 AI 圖像生成器 Stable Diffusion 製作了數千張未成年人性行爲圖像。

對此，Stable Diffusion 背後的 Stability AI 公司本週表示，它 “沒有批准發佈 ”威斯康星州男子使用的模型，但也承認這種開源模型“覆水難收”，因爲其技術組件已經完成在網上公佈。

普拉巴卡爾表示，造成危害的不僅僅是開源 AI 技術。“這是一個更廣泛的問題。不幸的是，很多類似的人似乎都在使用這種 AI 圖像生成器。我們剛剛看到那個領域出現了爆炸式的增長，而我不認爲開源系統和專有系統可以完美切割開來。”