馬斯克想用AI總結用戶發帖生成新聞，這次特朗普遭槍擊事件出大錯

7月18日消息，埃隆·馬斯克（Elon Musk）設想的未來願景中，人們可以通過其人工智能模型Grok在X平臺獲取新聞資訊。然而，這一願景最近面臨現實的挑戰，暴露出當前人工智能技術的侷限。

在美國前總統唐納德·特朗普（Donald Trump）遭暗殺未遂事件的敏感時刻，Grok迅速生成了多條誤導性頭條，引發關注。其中一條錯誤報道聲稱副總統卡瑪拉·哈里斯（Kamala Harris）被槍擊，這一錯誤可能源於X平臺上用戶對之前事件的諷刺性評論，那次事件中拜登總統曾將特朗普的名字與哈里斯混淆。

另一條由Grok生成的新聞摘要錯誤地指認了槍手，並錯誤地將其與極左派網絡antifa聯繫起來。官方後來公佈了嫌疑人的真實姓名，並尚未確定其動機。

Grok的內容實質上將網絡笑話、謠言及誤解轉化爲了平臺上的新聞報道。雖然每則新聞摘要下方都附有免責聲明：“本文爲X平臺帖子的總結，內容或隨時間推移而變動。Grok可能會犯錯誤，請自行驗證其輸出。”

馬斯克一直在推廣他的社交媒體平臺X，並利用Grok的AI能力，基於數億用戶的帖子自動生成新聞頭條和摘要。他曾多次批評傳統新聞媒體效率低下並不可靠，並鼓勵X用戶定期查看Grok獲取新聞。

馬斯克在一次廣告業會議上說：“我們在X平臺上的做法是聚合。我們利用AI技術綜合數百萬用戶的智慧輸入，我堅信這將成爲新聞傳播的新模式。”

對於Grok標題的準確性問題，X平臺尚未作出迴應。

Grok是馬斯克旗下人工智能公司xAI的產品，從去年開始研發並逐步推出新功能，包括爲X平臺用戶提供聊天機器人服務。

Grok在一些新聞總結中展示了其準確性，顯示出該技術的潛力。馬斯克稱，Grok能實時接入X上的帖子是一大優勢，它被視爲“略帶幽默感的人工智能搜索助手”。

然而，最近的錯誤也顯示出，當這種傾向幽默的模型試圖實時處理各種來源的海量帖子時，可能存在的弱點。

Facebook前公共政策主管凱蒂·哈巴思（Katie Harbath）指出，儘管有所進步，但處理如槍擊這樣的突發新聞時，仍需人類的參與，以提供必要的背景和事實覈查。

經驗豐富的記者也可能在處理突發事件時犯錯，但Grok的失誤超出了常見的混亂範疇。

另一起Grok引發的誤解案例正浮出水面，其標題是：“《小鬼當家2》演員在特朗普集會上遭遇槍擊？”這一說法實則源於電影《小鬼當家2》中特朗普的短暫客串，以及X上用戶間對該影片的討論。遺憾的是，Grok在生成此標題時，未澄清所謂的“演員”是否即指特朗普本人。

生成式人工智能工具在追求效率和創新時，準確性常常受到挑戰。例如，谷歌最近修正了其AI功能，在某些情況下產生了不合邏輯的結果，如建議用膠水使披薩上的奶酪固定。

面對這些挑戰，一些公司選擇了與馬斯克不同的路線，沒有將其產品定位爲實時新聞工具。例如，OpenAI的ChatGPT在迴應有關特朗普襲擊事件的查詢時，提供了事件概要並鏈接到了PolitiFact等事實覈查網站，同時明確表示自己“不是實時新聞產品”。

與此同時，Meta平臺的高管表示，他們不打算在其Threads平臺上推廣政治內容，以避免政治和硬新聞帶來的負面影響。

上週末，有用戶抱怨Threads平臺在報道槍擊事件方面比X慢，顯示出X在新聞傳播方面的優勢。

據《華爾街日報》獲得的一封內部郵件顯示，X的首席執行官琳達·亞卡里諾（Linda Yaccarino）在週日向全體員工發出指示，稱這次未遂暗殺事件爲“重大事件”，並承諾優先處理違反平臺規則的帖子，如讚揚襲擊行爲的內容。

值得注意的是，Grok在總結新聞事件時的挑戰並非首次出現。在今年6月的總統辯論後，由於誤解了關於加州州長加文·紐森（Gavin Newsom）的討論，Grok生成了“紐森在辯論中勝出”的錯誤標題。實際上紐森並未參加辯論，只是出席了該活動。

此前，Twitter有一個專門團隊負責手動編寫熱門話題摘要。但Twitter前高管埃文·漢森（Evan Hansen）透露，在馬斯克接管後的大規模裁員中，這個團隊被解散了。

漢森還說，馬斯克接管前Twitter已開始嘗試用AI編寫摘要，但仍需要人工審覈內容。他指出：“AI能發揮作用，但必須非常小心地處理，才能確保內容的質量和準確性。”（小小）