美國聯邦調查局警告稱犯罪分子正利用生成式AI擴大欺詐活動

生成式人工智能服務在互聯網用戶和網絡犯罪分子中都大受歡迎。 據美國聯邦調查局（FBI）稱，"合成"內容正越來越多地被用於實施各種欺詐行爲。 不過，只要採取正確的預防措施，個人仍然可以有效地保護自己的網絡安全。

美國聯邦調查局（FBI）已就濫用人工智能生成技術的犯罪行爲發出警告。 在最近發佈的一份公共服務公告中，該局警告美國人，欺詐者正在利用人工智能生成的內容來使他們的非法計劃更有說服力和更有效。

據聯邦調查局稱，生成式人工智能使犯罪分子能夠減少欺騙目標所需的時間和精力。 這些人工智能工具根據用戶輸入的提示"合成"全新的內容。 它們甚至可以幫助糾正可能會引起懷疑的人爲錯誤，尤其是在人工智能生成的文本中。

用人工智能創建內容本質上並不違法，但當這些內容被用於欺詐或勒索企圖時，就變成了犯罪。 聯邦調查局的警報概述了生成式人工智能如何被濫用的幾個例子，並提供了實用建議，以幫助用戶保護自己的網絡安全。

在社交工程或魚叉式網絡釣魚活動中，人工智能生成的文本看起來極具說服力。 欺詐者正在利用人工智能生成技術製作大量虛假內容、創建虛假社交媒體資料、發送信息，並以更高的準確性和更少的語法錯誤翻譯語言。 現在，整個欺詐網站可以在創紀錄的時間內建立，聊天機器人也被用來誘騙受害者點擊惡意鏈接。

毫無疑問，人工智能生成的圖像是當前趨勢的前沿，網絡犯罪分子正在充分利用它們。 欺詐者正在使用人工智能生成的視覺效果來增強虛假社交媒體資料和僞造身份證件，從而支持欺詐活動。 據聯邦調查局稱，人工智能算法可以生成"逼真"的圖像，這些圖像正被用於社交工程活動、魚叉式網絡釣魚、詐騙甚至"殺豬盤"。

人工智能生成的音頻和視頻內容也會帶來類似的風險。 現在，犯罪分子可以冒充公衆人物甚至目標人物本人，要求提供經濟援助或獲取銀行賬戶等敏感信息。

聯邦調查局建議用戶與可信賴的家人和朋友建立一個"密語"或短語，作爲驗證身份的快速方法。 防範生成式人工智能犯罪的其他提示包括仔細檢查圖像和視頻是否有異常或不一致之處，以及儘量減少個人圖像或錄音在網上的可獲得性。

在處理金融請求時，聯邦調查局強調通過直接電話而不是依賴文本或電子郵件來驗證其合法性的重要性。 切勿與只在網上認識的人分享敏感信息。 雖然這似乎顯而易見，但聯邦調查局還重申，在網上向陌生人發送金錢、禮品卡或加密貨幣具有很高的風險，往往會遭遇詐騙。