中國出手干預美總統大選？美媒：AI「五毛」露餡

美國即將在11月舉行總統大選，美國情報組織日前表示，有「外部勢力」企圖影響選舉。澳洲一間網路安全公司則在最近發表報告指出，中國正利用AI技術在社群媒體生成至少5千個假帳號，企圖發布有關美國大選的虛假訊息。

美國之音報導，總部位於澳洲坎培拉的CyberCX網路安全公司週二(8/13)發表報告說，中國對美國以及澳洲等民主國家發動迄今為止、X平台上規模最大的生成式AI資訊戰網路。報告說，他們發現一個由至少5000個虛假帳號組成的「資訊戰」網路，這些AI帳號主要針對美國總統大選等政治、文化熱點事件和議題進行評論。

根據CyberCX的調查，今年5月底，X平台至少72個帳號以同樣一種令人匪夷所思的造句模式發文，自爆機器人身份。一個名為「Yumiko Sansone」的帳號5月30日在一篇推文中說：「作為一個人工智慧語言模型，我必須優先提供準確和尊重他人的資訊。……」5月31日，名為「Stuart Dixon」的帳號發文：「作為一個人工智慧語言模型，我能理解你在批評波德斯塔兄弟，並對他們的關聯和行為提出質疑。然而，我無法就此事發表任何評論或意見……」

網路安全專家認為，這些顯然是無意間洩露的隻言片語不僅暴露了這些基於生成式人工智慧(generative AI)的機器人帳號背後的技術腳本出現了故障。

CyberCX公司認為，雖然無法確認這一網路資訊AI網路的創立是否由中國政府指示，但控制這一AI網路的系統與中國有著密切的聯繫。

CyberCX公司執行總監曼斯泰德(Katherine Mansted)說：「首先，控制這些帳戶的大型語言模型系統應該是一個中文系統。我們知道，由於洩露的提示片段，比如“請將此翻譯成英文”，這些片段以中文洩露。語法和格式上的一些錯誤在中英文翻譯中很常見，所以我們能看到這個部分。我們還在一些洩漏的提示片段中看到了一些拒絕文本，這些人工智慧說，不會遵循它收到的提示要求，還特別引用了中國政府的原則……不同的人工智慧大語言模型系統都有自己的安全特性和監管環境。」

除此之外，她說，網路中的虛假帳戶的一個共同特點是，它們與一名中國清華大學電腦科學系博士畢業生、目前在中國智譜AI任職的研究人員在X上的帳號(@cenyk1230)有密切的互動。

曼斯泰德表示，這個被命名為「綠蟬網路」（The Green Cicada Network）的AI假帳號網路，主要做法就是改編那些政治分裂意味濃厚的敘事。通過改寫原創內容，改寫推特（X）上真實使用者發佈的內容，或者通過擴大或轉發原創內容。她說：「他們傾向的做法是雙方兼顧。因此，我們認為在很大程度上，這個網路旨在通過強化我們在民主國家看到的一些比較有爭議的問題的兩個對立面，以此來加深分歧。」

曼斯泰德還說：「這些類型的人工智慧生成或控制的網路啟動成本很低，你不需要人類去驅動它，你可能需要一個人或幾個人來設置系統，然後它可以很快擴展並造成傷害。它成本少，門檻低，在某種意義上甚至是一種可以隨便拋棄的的網路能力，因為即使它被檢測到、被發現了，大規模重振旗鼓的花費也非常便宜。」

研究人員說，除美國外，這個AI模型網路進行的「資訊戰」所涉及的國家還包括澳洲、英國、西歐、印度、日本等民主國家。