歐洲議會13日在表決中,通過全球主要國家或組織首份AI監管法案,使歐盟在AI管控居於全球之先。(取自歐洲議會網站)
歐洲議會13日舉行表決,通過全球主要國家、組織的首份人工智慧(AI)監管法案,成為國際規範AI能力與運用的先行者,未來AI在歐盟將進行風險分級,並且施以不同的限制,藉此維護公民權益、促進創新,立法程序將在27個會員國批准後完成。
美國財經新聞網CNBC報導,在去年12月初達成立法共識之後,歐洲議會在13日以523票贊成、46票反對,另有49票棄權的結果,正式通過於2021年所提出的《歐盟AI法案》,27個會員國預計在4月進行國內批准程序,而後於5月或6月在歐盟公報之中正式公布,並在正式成為法規後的12個月生效,各大企業必須進行調整,於2年之內合乎大部分的規範。
歐盟內部市場事務執行委員布勒東(Thierry Breton)在法案通過之後,透過社群平台X表示「歐洲已正式成為全球AI技術規範的標準」,歐洲議會主席梅索拉(Roberta Metsola)也盛讚該法案具有開創性,「AI已經是我們生活之中很重要的一部分,如今也將成為我們立法的對象之一」。
🇪🇺 Democracy: 1️⃣ | Lobby: 0️⃣
— Thierry Breton (@ThierryBreton) March 13, 2024
I welcome the overwhelming support from European Parliament for our #AIAct —the world's 1st comprehensive, binding rules for trusted AI.
Europe is NOW a global standard-setter in AI.
We are regulating as little as possible — but as much as needed! pic.twitter.com/t4ahAwkaSn
Promised. Negotiated. Approved.
— Roberta Metsola (@EP_President) March 13, 2024
Proud of Europe's trailblazing #AIAct.
It means leadership, innovation & new avenues. But equally respect for fundamental rights.
Artificial intelligence is already very much part of our daily lives. Now, it will be part of our legislation too. pic.twitter.com/dUu3IUa1lT
報導指出,這項於2021年提出的法案,將AI區分為4個風險類別,分別是「無法接受」、「高度風險」、「中等風險」與「低度風險」,根據歐盟網站介紹,其中被歸類為「無法接受」AI技術的領域,由於至關人類安全、生計或權利,因此將完全遭到禁用,藉此提升AI技術運用的安全性,避免公民權益遭到侵害,並促進資金、人才與創意流向合乎規範,適合人類的領域。
被歸類於「高度風險」領域的AI技術,包括了重要基礎建設、教育或語言訓練、各類產品的安全機制、就業或是人力資源管理、基礎公私部門服務、涉及基礎人權的執法行為、移民與邊境管理,以及民主進程等,關於前述領域所使用的AI技術,必須在實際運用之前接受充分風險評估,並應具備補償、校正機制。
被歸類於「中度風險」(或有限風險)的AI技術,代表其透明度有待提升,該法案將明確規範AI技術透明程度,確保人類在使用AI服務前建立充分認知,強化人類與軟體之間的互信;舉例而言,在使用諸如聊天機器人的AI服務時,人類必須知曉正在與機器互動,從而決定是否進行後續動作。此外,由AI技術所生成、與公眾權益或事務有關的內容,都必須清楚標註,揭示該內容並非由人類所擬撰。
對於「低度風險」或無風險的AI技術,歐盟則將確保其公民自由使用的權利,該類型包括了電玩之內的應用,或是各類垃圾郵件或廣告攔截器,目前在歐盟境內大多數的AI應用都屬於此類別。
部分歐盟成員國在此之前,傾向於提出自我控管機制,而非由政府進行規範,藉此避免AI技術發展受到阻礙,被包括來自美國、中國等地的競爭者超越的可能性,抱持該觀點的成員包括了德、法等,內部存在許多AI新創公司的國家。除了歐盟之外,部分AI技術支持者也已開始進行自我管控,藉以避免假訊息的散播,在12日,全球搜尋網站巨擘Google就宣佈將會針對旗下「雙子星」(Gemini)聊天機器人服務進行管控,限制涉及選舉可提問的類型,並且表示已在美國與印度境內實施前述限制。
負責監督歐盟AI法案協商的歐洲議會議員杜多拉契(Dragos Tudorache),12日透過社群平台X表示,這項法案「將AI發展導向人類居於控管地位的方向,並能協助我們發現有利於經濟成長、社會進步與挖掘人類潛能的新事物」,且AI法案「並非我們旅途的終點,而是在先進科技充斥的環境下,發展新治理模式的開端」。
The AI Act has pushed the development of AI in a direction where humans are in control of the technology, and where the technology will help us leverage new discoveries for economic growth, societal progress, and to unlock human potential.
— Dragoș Tudorache (@IoanDragosT) March 12, 2024
美聯社指出,受到歐盟推動AI監管的影響,美國總統拜登(Joe Biden)在去年10月簽署行政命令,要求AI技術必須在企業經營與國家安全、公民權益之間取得平衡,美國國內也有7個州正展開有關AI監管的立法程序;中國領導人習近平也提出全球AI治理倡議,促進AI技術的公平與安全。
此外,包括日本、巴西、七大工業國集團(G7)以至於聯合國等主要國家與國際組織,也都正在著手制定AI監管原則。
歐盟AI法案在完成會員國批准程序,並獲歐盟公告成為法規後,將逐步開始生效,並且預計將在2026年全面實行,未來每個歐盟會員國都將建立相應的監管架構,除了實踐歐盟制度,同時也將接受民眾對於監管不周全或有誤的申訴,歐盟也將建立專責監督AI的辦公室,未來違反該法案,最高可能面臨3500萬歐元(約12.05億元新台幣),或是企業全球營業收入7%的罰金。