美媒已經開始害怕了：這樣的AI假信息恐淹沒明年大選

（觀察者網訊）“人工智能的快速發展，可能會讓2024年大選充斥著虛假視頻。”美國《華爾街日報》6月5日以此為題發文稱，新興的生成式人工智能（AI）工具允許用戶更加輕松地合成圖片和視頻，這讓美國社會開始擔心，隨著政治分裂加劇，AI生成的虛假信息可能會干擾明年的美國總統選舉。

《華爾街日報》報道截圖

(資料圖片僅供參考)

文章稱，美國民主、共和兩黨的顧問表示，他們已經開始測試使用ChatGPT等工具幫助起草演講稿、籌款電子郵件和短信，以及建立選民檔案。盡管AI生成的內容仍需要進一步的審查和編輯，但這項技術可以大幅減少競選活動的籌備時間。

這似乎意味著，AI正在成為“規則的改變者”，它允許美國政客在不依賴顧問和數字專家的情況下，以更低的成本和更快的速度生成內容，幫助政客在競選活動中實時響應社會事件。

但《華爾街日報》指出，隨著生成式AI的快速發展，成千上萬的用戶只需輸入簡單的信息，將可以合成復雜的視頻、照片、音頻和文本。這使得美國選舉官員面臨新的挑戰，即大量虛假信息可能干擾2024年美國總統選舉。

曾在美國前總統奧巴馬的競選團隊擔任數字總監的泰迪·戈夫（Teddy Goff）說：“AI還不會創造出我們從未想象過的全新類型的虛假信息，但它會讓生成虛假信息變得更容易、更快速、更廉價。其影響將是相當深遠的。”

今年3月，美國網民使用AI生成的“特朗普被捕”圖片，一度在網上瘋傳

事實上，AI生成的虛假信息已經開始干擾美國的政治活動。《華爾街日報》舉例稱，在今年2月舉行的芝加哥市長選舉第一輪投票前夕，社交媒體上出現了一段關于候選人保羅·瓦拉斯（Paul Vallas）的音頻，偽造瓦拉斯的聲音發表了“縱容警察暴力”的言論。

瓦拉斯在2月的第一輪投票中位居第一，但在4月舉行的第二輪投票中落敗。他的競選經理布萊恩·湯恩（Brian Towne）表示，競選團隊推測這段音頻是用AI偽造的，不過由于音頻沒有廣泛傳播，可能沒有對投票結果產生太大影響。

湯恩警告說，這起事件可能成為一個“危險的先例”，“對于知情的選民來說，他們能夠確定音頻是偽造的。但還有會很多不知情的選民，他們可能只看到了一小段視頻，然后就傾向于投票反對候選人。”

5月22日，美國社交媒體上還出現過一張“五角大樓附近發生爆炸”的圖片。盡管美國政府官員很快證實，相關圖片是用AI偽造的，圖片發布者的賬號已經被封禁，但這起事件一度導致美國股市下跌，并引發混亂。

美國消費者新聞與商業頻道5月22日報道：“偽造五角大樓附近發生爆炸的AI生成圖像瘋傳”

《華爾街日報》還提到，美國前總統特朗普的競選團隊和部分共和黨人最近也開始合成AI圖像，用于嘲諷民主黨陣營。4月25日，在美國總統拜登宣布將競選連任后，美國共和黨全國委員會在社交媒體上發布了一段視頻，描述了“拜登連任的噩夢場景”。該視頻的畫面均由AI生成。

美國共和黨全國委員會4月25日推文截圖，使用AI生成了有關“拜登連任”的場景

美國監管機構已經發出警告，稱AI技術可以被用于“邪惡目的”，例如傳播有關投票時間和地點、選民登記截止日期或投票方式的虛假信息。美國科技行業領袖也呼吁社交媒體構建新的標簽系統，幫助用戶確定相關信息是否由AI生成。

美國國家人工智能安全委員會負責人、谷歌前CEO埃里克·施密特（Eric Schmidt）稱，“顯然，用戶不應該在不知道信息來源的情況下，受到虛假信息的影響。”正在大力投資AI技術的美國谷歌和微軟公司都表示，它們已經著手研發可以標記AI生成內容的工具。

出于對AI技術可能造成危害的擔憂，拜登政府開始考慮對ChatGPT等AI工具進行審查。據《華爾街日報》報道，美國商務部在4月11日正式就問責措施公開征求意見，包括新AI模型在發布前是否應該通過認證程序等問題。

本文系觀察者網獨家稿件，未經授權，不得轉載。