聽說過AI造謠嗎？

來源：公安部網安局

隨着人工智能(AI)技術的發展，AI在文本生成、圖片創作等方面有着廣泛應用。

輸入幾個關鍵詞即可快速生成一張畫或一篇文章，一些網民爲博眼球、蹭熱度將AI技術用以編“僞消息”、造“假新聞”，以此來獲得網民關注和點贊量，進而實現流量變現。

今天，我們就來一起學習，面對網上疑似利用AI造謠時，如何增強“免疫力”。

AI網絡謠言案例

2024年6月，網絡平臺上的一條“廣東省五華縣華陽鎮一70多歲老人被毆打致昏迷，其孫子爲此跳河自殺，打人者一審被判九年十個月”的短視頻在互聯網平臺傳播，引發大量網民關注、討論。公安網安部門迅速開展調查，發現該視頻的圖文內容系移花接木、肆意編造的網絡謠言。據造謠人員任某供述，這段長達幾分鐘、聲色並茂的視頻全是由AI合成的。目前，公安機關已依法對任某追究法律責任。

2024年1月，廣西東興市駱某某爲博取流量，使用AI軟件自動編輯抗洪、救災視頻，捏造了新疆烏什縣發生地震的虛假視頻信息，造成該謠言信息在互聯網平臺大量傳播。目前，公安機關已依法對駱某某追究法律責任。

2024年5月，河南一網民在某平臺發佈《一場驚心動魄的“鈔票大戰”巴中市警民對峙引發轟動誰將成爲勝利者》的謠言文章，引發大量網民關注、討論。經查，該涉謠文章由AI系統生成併發布，相關言論及照片均爲不實信息。目前，公安機關已依法對造謠人員追究法律責任。

AI網絡謠言特徵

定製化

生成式人工智能能夠利用多類機器學習方法從數據中學習不同內容的生成特徵以及主體的表達風格，只需要輸入關鍵詞，AI軟件可在網絡上抓取素材生成文本，形成定製化的文章、新聞、報告等信息。

門檻低

相比此前造謠者單純靠人工捏造、散佈謠言這一略顯“原始”的方式，現在利用AI造謠者只需在AI工具輸入關鍵詞即可“一鍵生成”可以假亂真的文章、圖片。

識別難

AI生成的虛假信息在形式上非常逼真，往往新聞要素齊全、內容完整，甚至可能包含圖像和視頻，這使得公衆難以辨別真僞，這種僞裝性和欺騙性讓謠言更加具有迷惑性。

破壞大

利用AI工具製造謠言能生成極爲逼真的圖片、音視頻，顛覆了“有圖有真相”的常規認知，蠱惑性極強，短時間內就能快速傳播，易引發社會恐慌，擾亂社會公共秩序。

網絡謠言危害

泄露敏感數據

AI對話、文字創作等AI工具可收集並存儲用戶信息，造成個人隱私數據泄露，甚至可能從一些涉密敏感人員數據中推斷出敏感信息。

損害他人名譽

網絡謠言往往針對特定個人或羣體，散佈虛假信息，惡意攻擊和詆譭他們的名譽和利益。這可能導致受害者遭受經濟損失、社會壓力和精神創傷。

誤導公衆認知

網絡謠言往往利用人們的認知和心理弱點，製造虛假信息，誤導公衆對特定事件或人物的認知和評價。這可能導致公衆價值觀的混亂。

擾亂公共秩序

網絡謠言可能引發公衆恐慌和不安，破壞社會信任和穩定。虛假信息的傳播可能引發羣體性事件，甚至導致社會動盪。

如何增強“免疫力”

1

保持警惕。仔細分析信息的邏輯性，若存在明顯漏洞、矛盾或與常理不符的地方，很可能是虛假信息。比如，一些謠言中事件的發展過程不符合常理，或者數據存在不合理的誇張等。

2

多方驗證。不要僅僅依賴單一的信息來源，應從多個權威渠道獲取信息進行對比。對於一些熱點事件，可以檢索官方媒體的報道，以驗證信息的真實性。

3

謹慎分享。在確定信息真實可靠之前，不要隨意轉發，以免無意中成爲謠言傳播的推手。

4

保護隱私。注意保護個人隱私，不隨意泄露個人信息給不可信的網站或應用程序，防止個人信息被用於生成虛假內容。

素材│廣西網警