美國著名歌手泰勒絲成為最新的AI假不雅照受害者。圖為泰勒絲去年11月在阿根廷舉行演唱會。(美聯社)
由人工智慧(AI)生成、造假的美國歌手泰勒絲(Taylor Swift)不雅照從24日起,在X平台上瘋傳,一發不可收拾,導致X平台從27日起封鎖這位著名歌手的關鍵字,白宮發言人也稱,他們「警覺」到此事,主張國會應採取行動。
華爾街日報報導,由AI加持的「深偽技術」(Deepfake)、以假亂真的泰勒絲不雅照24日起在X平台上流傳,到隔日,雖然最熱門的造假不雅圖象發表帳戶遭到封鎖,但是瀏覽量成千上萬的不雅圖象在平台上依然隨處可見。
這讓泰勒絲的粉絲在25日於X平台上發起「保護泰勒絲」(protect Taylor Swift)運動,到27日,X平台封鎖「Taylor Swift」等關鍵字,平台營運主管貝納羅奇(Joe Benarroch)對此表示,這是個「臨時措施」,「由於我們優先考量安全問題,因此相關行動必須小心謹慎」。
X平台的規章禁止用戶分享欺騙,具損壞性,以及未經當事人同意的露骨圖象,但是泰勒絲假不雅照瘋傳,讓史丹佛網路觀測站(Stanford Internet Observatory)研究員狄雷斯塔(Renée DiResta)表示,即使是最突出、最引人注目的事件,X平台也無法有效處理,她還說,泰勒絲尚且有大批粉絲站出來捍衛清白,絕大多數受害者可沒這機會。
(延伸閱讀:【有片】AI偽造拜登語音電話 要選民「待在家中」不去投票)
馬斯克(Elon Musk)2022年收購X平台的前身「推特」(Twitter)後,不單放寬內容審核標準,甚至大幅削減相關人員,其中原先推特有4000名信任與安全的員工,到去年5月剩2850人,相當於人力遭砍3成。
美國廣播公司(ABC)報導,對於泰勒絲造假不雅照瘋傳的事件,白宮發言人尚皮耶(Karine Jean-Pierre)表示,白宮「警覺」到此事件,主張國會應在立法上採取行動,而社群平台雖然在內容管理上有自主權,但在管理錯誤訊息、未經當事人同意的親密圖象等內容,仍能「在管理上扮演重要角色」。
目前美國依然沒有聯邦法律約束生成、分享未經當事人同意的深偽技術圖象,不過國會議員提出的「預防親密圖像深度偽造法案」(Preventing Deepfakes of Intimate Images Act)已進入眾議院司法委員會的審查階段。