快訊

    OpenAI首度披露 中俄等四國利用AI產生貼文帶風向

    2024-05-31 12:13 / 作者 李寧怡
    OpenAI推出的聊天機器人ChatGPT是目前最為人熟知的AI技術之一。美聯社
    美國OpenAI公司週四(5/30)表示,發現中國、俄羅斯、伊朗、以色列利用該公司的生成式人工智慧ChatGPT產生的內容,試圖帶動政治風向並影響地緣政治。

    紐約時報》、《衛報》報導,OpenAI表示已發現至少5個網軍行動是利用ChatGPT生成內容,已將這些網軍的帳號移除;其中包括中國、俄羅斯、伊朗的國家級網軍、一間以色列政治網軍公司、以及一個先前未知的俄國網軍組織「壞文法」(Bad Grammar)。

    OpenAI指出,包括中國官方網軍「垃圾訊息偽裝」(Spamouflage)、俄國「分身靈」(Doppelganger)等研究人員已追蹤多時的網軍組織,都使用該公司的工具。

    OpenAI指出,這些網軍利用生成式AI工具產生社群媒體貼文、翻譯並編輯文章、下標題、或為電腦程式除錯,藉此影響公眾對地緣政治衝突的意見。

    其中中國網軍「垃圾偽裝訊息」利用OpenAI的技術產生中、英、日、韓等語言的社群,貶損那些批評中國政府的人群,發布在X平台與Medium等社群媒體;該組織也利用AI技術為電腦程式除錯、詢問如何分析社群媒體、研究當前時事等。

    社群媒體研究人員說,這是首次有大型人工智慧公司揭露其工具被用於網路欺騙活動。

    OpenAI首席研究員尼莫(Ben Nimmo)指出,外界有各種關於生成式AI用於這類活動的猜測,因此該公司的目的是要實際展示生成式AI如何改變網路欺騙活動的實際情況。
    他表示,這些認知戰經常使用OpenAI的技術發布政治內容,但該公司很難確定這些內容是針對特定選舉,或只是為了激化民意。

    尼莫宣稱,這些認知戰內容並未獲得太多關注,使用AI工具也並未讓這些認知戰擴大影響力。但華府智庫大西洋理事會(Atlantic Council)數位鑑識研究實驗室高級主任布魯奇(Graham Brookie)警告,隨著生成式AI功能日益強大,網路假訊息的模式可能出現變化,「會產生什麼效果還有待觀察」。
    李寧怡 收藏文章

    本網站使用Cookie以便為您提供更優質的使用體驗,若您點擊下方“同意”或繼續瀏覽本網站,即表示您同意我們的Cookie政策,欲瞭解更多資訊請見