源於中國的新聞應用程式NewsBreak被控用AI寫假新聞。圖為NewsBreak的使用介面。(取自NewsBreak在Google Play頁面)
1款名為NewsBreak、源於中國的免費新聞應用程式,多次使用人工智慧(AI)編寫並發布假新聞,不僅影響美國新聞的可信性,也因NewsBreak演算法大部分的工程工作都由中國辦事處負責,引發美國用戶數據可被中國企業,甚至是政府竊取的擔憂。
路透社報導,去年12月,NewsBreak曾發布1則報導,標題是「聖誕節悲劇襲擊紐澤西州布里奇頓,小鎮槍枝暴力不斷上升」(Christmas Day Tragedy Strikes Bridgeton, New Jersey Amid Rising Gun Violence in Small Towns),但問題是,布里奇頓沒有發生任何槍擊事件。
該鎮警察局隨後也在臉書發表聲明,駁斥這則使用AI技術編寫的報導是「完完全全的假新聞」。後來,NewsBreak刪除了這篇報導,辯稱是新聞來源不準確。
NewsBreak公司總部位於加州山景城(Mountain View),在北京和上海設有辦事處,是美國下載次數最多的新聞應用程式(APP)之一,他們聲稱每月用戶人數超過5千萬。NewsBreak發布路透社、福斯新聞、美聯社、美國有線新聞網(CNN)等主流媒體的授權新聞,也會使用AI編寫或改寫美國新聞。
NewsBreak: Most downloaded US news app has Chinese roots and 'writes fiction' using AI https://t.co/X3i46Pf6rr
— Daniel Lopez (@4danlopez) June 6, 2024
不過,據路透社報導,NewsBreak自2021年起,至少有40次使用AI發布錯誤報導,影響到當地社區,曾用假名寫了至少10篇假新聞,也曾抄襲競爭對手的新聞內容。
今年初,也有多家慈善機構投訴NewsBreak,指控報導內容有誤,NewsBreak因此在3月發布免責聲明,警告自己的內容「不一定總是沒錯」。根據路透社取得該公司在2022年的備忘錄,NewsBreak當時的內部主管也對「AI生成新聞」的作法表達擔憂。
NewsBreak於2015年在美國成立,是中國新聞應用程式公司「一點資訊」(Yidian Zixun)的子公司,總部設於美國加州,在北京和上海也有辦事處,員工數約200人,其中一半在中國從事研發工作。
這2家公司都由鄭朝暉(Jeff Zheng)所創立,共享1項美國專利,是在2015年註冊的「興趣引擎」(Interest Engine)演算法,該演算法可以根據用戶的興趣和所在地推薦新聞報導。
路透社採訪7名前NewsBreak員工,其中5人證實,NewsBreak演算法大部分的工程工作都是由中國辦事處負責,這引發美國用戶數據可以被中國企業,甚至政府竊取的憂慮。不過,鄭朝暉表示,NewsBreak嚴格遵守美國的數據及隱私法,中國工作人員無法查看美國用戶的任何數據。