OpenAI首度披露　中俄等四國利用AI產生貼文帶風向

美國OpenAI公司週四（5/30）表示，發現中國、俄羅斯、伊朗、以色列利用該公司的生成式人工智慧ChatGPT產生的內容，試圖帶動政治風向並影響地緣政治。

《紐約時報》、《衛報》報導，OpenAI表示已發現至少5個網軍行動是利用ChatGPT生成內容，已將這些網軍的帳號移除；其中包括中國、俄羅斯、伊朗的國家級網軍、一間以色列政治網軍公司、以及一個先前未知的俄國網軍組織「壞文法」（Bad Grammar）。

OpenAI指出，包括中國官方網軍「垃圾訊息偽裝」（Spamouflage）、俄國「分身靈」（Doppelganger）等研究人員已追蹤多時的網軍組織，都使用該公司的工具。

OpenAI指出，這些網軍利用生成式AI工具產生社群媒體貼文、翻譯並編輯文章、下標題、或為電腦程式除錯，藉此影響公眾對地緣政治衝突的意見。

其中中國網軍「垃圾偽裝訊息」利用OpenAI的技術產生中、英、日、韓等語言的社群，貶損那些批評中國政府的人群，發布在X平台與Medium等社群媒體；該組織也利用AI技術為電腦程式除錯、詢問如何分析社群媒體、研究當前時事等。

社群媒體研究人員說，這是首次有大型人工智慧公司揭露其工具被用於網路欺騙活動。

OpenAI首席研究員尼莫（Ben Nimmo）指出，外界有各種關於生成式AI用於這類活動的猜測，因此該公司的目的是要實際展示生成式AI如何改變網路欺騙活動的實際情況。
他表示，這些認知戰經常使用OpenAI的技術發布政治內容，但該公司很難確定這些內容是針對特定選舉，或只是為了激化民意。

尼莫宣稱，這些認知戰內容並未獲得太多關注，使用AI工具也並未讓這些認知戰擴大影響力。但華府智庫大西洋理事會（Atlantic Council）數位鑑識研究實驗室高級主任布魯奇（Graham Brookie）警告，隨著生成式AI功能日益強大，網路假訊息的模式可能出現變化，「會產生什麼效果還有待觀察」。