由26名人工智慧（AI）領域專家在21日提出的一份新報告指出，無節制地發展AI，可能在未來5年內受到罪犯、恐怖分子及獨裁政權的利用，帶來新型態的網路及實體犯罪、政治壓迫等威脅人民日常生活的風險。報告呼籲全球正視AI可能帶來的負面影響，盡早合作予以防範。

這份100頁長的報告指出，AI科技如今在多領域獲得應用，但在不當使用下可能帶來的風險，是較少被提及與注意的。報告預期，擴大應用AI可能加強現存威脅、並帶來新的威脅。如果不即時行動，AI可能大舉革新心懷不軌者的行動力，危害人民的日常生活。

Over the past year, @FHIOxford, @CSERCambridge, @OpenAI, EFF, and several other institutions worked to consider how malicious actors could misuse AI technology, and potential ways we can prevent and mitigate these threats. Here's the final report.  https://t.co/3QPa8gRcy6

— EFF (@EFF) 21 February 2018

降低惡意攻擊的行動門檻

在虛擬世界中，AI可降低惡意駭客攻擊的門檻，自動化尋找軟體弱點與潛在受害者的過程。從事網路釣魚等行為可能變得更加容易，為更多人帶來更大威脅。

在現實世界中，最常被討論的是自動化機器攻擊，俗稱為「殺戮機器」（slaughterbots）。這樣的機器攻擊也可以用來鎖定重要基礎建設以進行勒索。報告中並提出一個想像：一個被裝入炸彈的掃地機器人混入德國財政部內，直到人臉辨識出財政部長後才靠近並引爆炸彈。

AI科技也可能帶來政治層面的衝擊。政府可以採用自動化監控壓迫異議分子，更快發現並定位有意發起抗議的人士，提前予以壓制。AI也有助於發動個人化的惡意宣傳，影響選民決策。或是在社群網絡上製造大量假新聞，淹沒真實的資訊。

英國劍橋大學存在風險研究中心執行主任歐吉爾泰格（Seán Ó hÉigeartaigh）表示，這些風險都是真實的，「我們必須現在做出決定。我們的報告呼籲全球政府、機構與個人做出行動。」

Artificial intelligence is going to completely change your life https://t.co/MeszmHBHGO #AI pic.twitter.com/2rt7bLWJk6

— World Economic Forum (@wef) 21 February 2018

較樂觀者認為，AI不會帶來如此強烈的威脅。資安公司「CrowdStrike」聯合創辦人阿爾佩洛維奇（Dmitri Alperovitch）指出，資安攻防戰現在已經存在，AI對雙方都帶來影響。但他預測防禦方會較占上風，因為AI的強項在於處理大規模資料，而這個能力對防禦較有幫助。

報告也承認AI是抵抗AI最好的工具，但指出AI打造的防禦工具不是萬靈丹，尤其是在現實世界中。

第三次軍武革命

特斯拉（Tesla）及「Space X」執行長馬斯克（Elon Musk）、物理及宇宙學家霍金（Stephen Hawking）等116位相關領域學者及創業者在2017年連署要求聯合國（UN）禁止研發及使用殺戮機器人。

這份連署擔心，軍武競賽將隨AI發展迎來繼火藥與核武後的「第三次革命」。自動化武器參與的衝突規模將更勝以往，「我們沒有太多應對的時間。潘朵拉的盒子一旦被打開，將很難再關上。」

If you're not concerned about AI safety, you should be. Vastly more risk than North Korea. pic.twitter.com/2z0tiid0lc

— Elon Musk (@elonmusk) 12 August 2017

21日報告的共同作者、英國牛津大學人類未來研究所研究員布倫戴奇（Miles Brundage）表示，他特別擔心的是自動化的無人機被用來進行恐怖攻擊，與自動化網路攻擊被罪犯或官方利用。他表示，「長期來說，AI帶來的是助益或傷害，主要是人類的選擇，而非科技本質的結果。」