佛州州長迪尚特陣營發布的影片,出現三張AI生成的川普擁抱及親吻佛奇照片(右下、中下及左上)。翻攝NPR/推特@DeSantisWarRoom
積極爭取共和黨總統候選人提名的美國佛州州長迪尚特,本週發布一支抨擊對手川普的宣傳影片,內容竟出現川普與前白宮防疫大將佛奇相擁甚至親吻的畫面。這明顯是以人工智慧(AI)生成的假照片,影片卻未加註說明,突顯AI技術已成為政客混淆事實與虛構的利器。
美國全國公共電台(NPR)報導,這段5日發布的影片是由迪尚特(Ron DeSantis)的快速反應團隊製作,內容抨擊川普在總統任內支持佛奇(Anthony Fauci)的新冠病毒(Covid-19)防疫政策。
共和黨內強硬派均對佛奇要求接種疫苗、戴口罩的防疫政策不滿。迪尚特執政的佛州,就對聯邦政府實施的強制口罩令與疫苗注射規定多所反抗。
迪尚特團隊在推特發布的影片中,結合多段川普在總統任內拒絕開除佛奇的談話,約00:25處出現的畫面則由六張照片組合而成,其中三張照片是川普與佛奇在2020年3月疫情初起時期的記者會中並肩談笑,另三張照片則是川普擁抱及親吻佛奇。
法新社率先發現影片中出現假照片,且影片內容與推特文字均未說明照片是AI生成。
加州大學柏克萊分校數位分析專家法里德(Hany Farid)指出,三張假照片都包含許多AI生成照片的特徵,包括髮絲的質感怪異且模糊,手臂與手掌的姿勢不自然、背景中的白宮新聞簡報室背板出現無意義的文字等。
法里德指出,將真假照片混合在一起是特別鬼崇的手段,因為可增加假照片的可信度。
對此,一名熟知迪尚特陣營運作的人士向路透社表示,川普陣營「也不斷發布假照片與假論據來誣衊州長(迪尚特)」。
路透社指出,目前在共和黨總統參選人中支持度領先的川普,確實曾用修過的照片攻擊緊追在後的迪尚特,不過他主要是發布一看就知是虛構的照片,例如迪尚特騎犀牛,諷刺迪尚特只是「虛有其名的共和黨人」(Republican in Name Only,縮寫RINO為犀牛之意)。
川普陣營8日在推特抨擊「迪尚假仙」(Ron DeSanctimonious)的影片,指控他「假裝不知迷因梗圖與騙人假照片的差別」。「迪尚假仙」是川普在造勢時常用於嘲弄迪尚特的說法。
在此之前,美國最知名的AI生成政治廣告是由共和黨全國委員會(RNC)四月底發布的一支30秒影片,當時RNC已公開說明影片內容全為AI生成,以假畫面誇大展現拜登若連任可能發生的災難場景,包括中國入侵台灣、美國500間區域性銀行倒閉、舊金山因犯罪猖獗而封城等。
由於AI生成影像的品質不斷進化,沒有人確知未來是否能妥善防範它被用於大規模傳播假新聞。
加州大學柏克萊分校計算機科學教授歐布萊恩(James O'Brien)說:「總有一天,AI系統可以輸出與真實畫面無異的影像。屆時,就再無法偵測到影像是否由AI生成了。」