美國網紅維京涉嫌利用AI深偽技術,假造歐普拉等名人影片,為自己的網路課程背書。翻攝亞馬遜官網
隨著人工智慧(AI)成為科技當紅炸子雞,應用AI技術的「深偽」影音也逐漸增加,英國名嘴摩根、英國名廚奈潔拉和美國談話節目天后歐普拉都是受害者。3人被假造深偽影音,為一名美國網紅的自我成長課程「宣傳」,3人已出面闢謠並批評這種惡質的宣傳手法。
英國廣播公司(BBC)報導,美國網紅「億萬美元」維京(Wesley "Billion Dollar" Virgin)推出所謂心靈成長課程「精靈腳本」(Genie Script),售價37美元(約1170元台幣)。
維京結合偽科學、陰謀論和深偽名人背書,吹噓這項課程是希伯來文聖經中佚失的片段,僅僅20個字,就能改變一生命運。在促銷課程的相關影片中,摩根(Piers Morgan)、奈潔拉(Nigella Lawson)和歐普拉(Oprah Winfrey)皆現身「支持」這項課程。
維京在Instagram上有超過110萬名粉絲,自稱是「心靈成長教練」,且有高達4000萬美元的身家。他曾出過瘦身書籍,宣稱不用運動或節食就能減重。
在其中一段深偽影片,奈潔拉談到在電視節目教人做菜的事業及自己的食譜,旁白聲音說:「我去度假時,在一場非常特別的派對認識這個男人,他的名字叫衛斯理,給了我這段隱藏版聖經,它當時被放在某人上鎖的房間。」但事實上,影片中的畫面及聲音皆非奈潔拉本人。
奈潔拉的發言人指出,這段廣告是「詐欺」,令人關切。
另一段廣告影片則偽造成像是摩根主持的節目片段,旁白說道:「一段佚失的古老經文,曾被國王用來吸引財富,有奇蹟般治療效果,而且充滿無與倫比的愛。」影片中的人聲與影片中摩根的口型一致。
摩根本人告訴BBC,這段影片是「又一項令人憂心的趨勢,名人被AI深偽技術濫用,以遂個人財務目的。而真正的受害者是社會大眾,他們在不知情的狀況下購買這些產品,只因為相信名人背書是真的」。
這2段課程廣告影片已被YouTube下架,YouTube發言人表示,網站「長期以來禁止使用假造媒介,包括深偽和其他形式的變造內容,欺騙或誤導用戶」。
同樣被利用為這項課程的還有天后歐普拉,關於她的深偽宣傳影音出現在臉書和Instagram,畫面中歐普拉說:「我想給你們一個20字的腳本,試著把它想成,在你的腦中安裝一個新的作業系統,而這個程式能讓你致富。」
歐普拉的發言人告訴BBC,她從未為維京的任何產品提供任何宣傳素材。臉書和Instagram母公司Meta表示,正對這些違反網站政策的廣告採取行動。
負責銷售維京網路課程的平台Digistore24已和維京劃清界線,表示他已違反平台規定,將終止商業合作關係。維京仍尚未回覆BBC置評請求。