歐盟委員會(huì)(European Commission)于2021年4月21日提出了人工智能(AI)法規(guī)，旨在將歐洲變打造值得信賴的人工智能(AI)的全球中心。歐盟有史以來(lái)第一個(gè)人工智能的法律框架與歐盟成員國(guó)的協(xié)調(diào)計(jì)劃相結(jié)合，將保證人們和企業(yè)的安全和基本權(quán)利，同時(shí)加強(qiáng)歐盟對(duì)人工智能的吸收、投資和創(chuàng)新。新法規(guī)將調(diào)整安全規(guī)范，以增加使用者對(duì)新一代多功能產(chǎn)品的信任。

[[395459]]

新的人工智能法規(guī)將確保歐洲人民可以信任人工智能產(chǎn)品。相稱和靈活的規(guī)則旨在解決人工智能系統(tǒng)帶來(lái)的具體風(fēng)險(xiǎn)，并在全球范圍內(nèi)設(shè)定最高標(biāo)準(zhǔn)。協(xié)調(diào)計(jì)劃(The Coordinated Plan)概述了歐盟成員國(guó)必要的政策改變和投資，以加強(qiáng)歐洲在發(fā)展以人為本、永續(xù)、安全、包容和值得信賴的人工智能方面的領(lǐng)先地位。

新的法規(guī)基于人工智能發(fā)展趨勢(shì)，依據(jù)風(fēng)險(xiǎn)高低分類，將適用于所有歐盟成員國(guó)。

不可接受的風(fēng)險(xiǎn)(Unacceptable risk)：被認(rèn)為對(duì)人們的安全、生計(jì)和權(quán)利有明顯威脅的人工智能系統(tǒng)將被禁止。這包括操縱人類行為以規(guī)避用戶自由意志的人工智能系統(tǒng)或應(yīng)用(例如，使用語(yǔ)音輔助的玩具，鼓勵(lì)未成年人的危險(xiǎn)行為)和允許政府進(jìn)行「社會(huì)評(píng)分(social scoring)」的系統(tǒng)。

高風(fēng)險(xiǎn)(High-risk)：被認(rèn)定為高風(fēng)險(xiǎn)的人工智能系統(tǒng)涉及到以下用途：

• 重要基礎(chǔ)設(shè)施(如交通)，可能使人民的生命和健康受到威脅;
• 教育或職業(yè)培訓(xùn)，可能決定某人的受教育機(jī)會(huì)(如考試評(píng)分);
• 產(chǎn)品的安全零件(如AI在機(jī)器人輔助手術(shù)中的應(yīng)用);
• 就業(yè)、員工管理和自雇管道(如征才使用的履歷分類軟件);
• 基本的私人和公共服務(wù)(如信用評(píng)分剝奪了公民取得貸款的機(jī)會(huì));
• 可能干涉人們基本權(quán)利的執(zhí)法(如評(píng)斷證據(jù)可靠性的系統(tǒng));
• 移民、庇護(hù)和邊境控制管理(如核實(shí)旅行文件真實(shí)性的系統(tǒng));
• 利用AI于司法和民主程序。

高風(fēng)險(xiǎn)的人工智能系統(tǒng)上市前，將受到嚴(yán)格的管控約束：

• 充分的風(fēng)險(xiǎn)評(píng)估和緩解系統(tǒng);
• 為系統(tǒng)提供高質(zhì)量的數(shù)據(jù)集，以盡量減少風(fēng)險(xiǎn)和歧視性的結(jié)果;
• 對(duì)活動(dòng)進(jìn)行記錄，以確?？勺匪萁Y(jié)果;
• 提供關(guān)于系統(tǒng)及其目的的所有必要信息，以便監(jiān)管單位評(píng)估其合規(guī)性;
• 向用戶提供充分且清晰的信息;
• 適當(dāng)?shù)娜肆ΡO(jiān)督措施，以最大限度地減少風(fēng)險(xiǎn);
• 高度的穩(wěn)健性、安全性和準(zhǔn)確性。

特別是：

• 所有遠(yuǎn)程生物辨識(shí)(remote biometric identification)系統(tǒng)都被視為高風(fēng)險(xiǎn)的人工智能系統(tǒng)。
• 原則上禁止在公共場(chǎng)所為執(zhí)法目的使用，狹義的例外情況有嚴(yán)格的定義和規(guī)定(例如，在尋找失蹤兒童、防止具體和緊迫的恐怖主義威脅或偵查、定位、識(shí)別或起訴嚴(yán)重刑事犯罪的肇事者或嫌疑人的需要)。
• 使用上必須取得司法或其他獨(dú)立機(jī)構(gòu)的授權(quán)，并在時(shí)間、地理范圍和搜索的數(shù)據(jù)庫(kù)方面有適當(dāng)?shù)南拗啤?/li>

有限的風(fēng)險(xiǎn)(Limited risk)：即具有透明公開(kāi)義務(wù)的人工智能系統(tǒng)。在使用人工智能系統(tǒng)(如聊天機(jī)器人)時(shí)，使用者應(yīng)該能意識(shí)到正在與機(jī)器互動(dòng)，進(jìn)而做出明智的決定。

最小的風(fēng)險(xiǎn)(Minimal risk)：法規(guī)允許自由使用人工智能的電子游戲或垃圾郵件過(guò)濾器等應(yīng)用，絕大多數(shù)的人工智能系統(tǒng)都屬于這個(gè)類別，對(duì)此不作干預(yù)，因?yàn)檫@些系統(tǒng)對(duì)公民的權(quán)利或安全只構(gòu)成最小或沒(méi)有風(fēng)險(xiǎn)。

在監(jiān)管方面，歐盟委員會(huì)建議各國(guó)市場(chǎng)監(jiān)督主管部門(mén)配合新的法規(guī)，并將設(shè)立歐洲人工智能委員會(huì)(European Artificial Intelligence Board)促進(jìn)其實(shí)施，推動(dòng)人工智能標(biāo)準(zhǔn)的發(fā)展。此外，還提議為非高風(fēng)險(xiǎn)的人工智能系統(tǒng)制定自發(fā)性的行為準(zhǔn)則，建立監(jiān)管沙盒(regulatory sandbox)以促進(jìn)創(chuàng)新。

《歐盟AI協(xié)調(diào)計(jì)劃〈Coordinated Plan on AI〉》

《歐盟AI協(xié)調(diào)計(jì)劃》首次發(fā)布于2018年，確定發(fā)展人工智能的行動(dòng)和工具，使國(guó)家策略和歐盟公私合作關(guān)系和研究與創(chuàng)新網(wǎng)絡(luò)形成了充滿活力的局面。協(xié)調(diào)計(jì)劃的全面更新提出了具體的合作行動(dòng)，并確保與歐洲人工智能策略(European Strategy on AI)和歐洲綠色新約(European Green Deal)步調(diào)一致，同時(shí)考慮到COVID-19帶來(lái)的新挑戰(zhàn)。協(xié)調(diào)計(jì)劃提出了一個(gè)加快人工智能投資的愿景，推動(dòng)疫后復(fù)蘇，刺激各國(guó)人工智能發(fā)展策略，消除碎片化，應(yīng)對(duì)全球挑戰(zhàn)。

協(xié)調(diào)計(jì)劃將透過(guò)數(shù)字歐洲(Digital Europe)和展望歐洲(Horizon Europe)計(jì)劃，以及歐盟復(fù)蘇基金20%數(shù)字支出目標(biāo)和歐盟凝聚政策(Cohesion Policy)分配的資金來(lái)進(jìn)行：

• 通過(guò)交流政策見(jiàn)解、數(shù)據(jù)共享和對(duì)關(guān)鍵計(jì)算能力的投資，為人工智能的發(fā)展創(chuàng)造有利環(huán)境;
• 透過(guò)公私協(xié)力伙伴關(guān)系(PPP)，建立研究、開(kāi)發(fā)和創(chuàng)新能力，并向中小企業(yè)和公共管理部門(mén)提供測(cè)試和實(shí)驗(yàn)設(shè)施以及數(shù)字創(chuàng)新中心，促進(jìn)人工智能的商業(yè)化。
• 支持?jǐn)?shù)字領(lǐng)域的培訓(xùn)計(jì)劃、博士生網(wǎng)絡(luò)和博士后獎(jiǎng)學(xué)金來(lái)培養(yǎng)人才和技能，在全球范圍內(nèi)促進(jìn)歐洲人工智能愿景，確保人工智能為人們服務(wù)，成為社會(huì)的一股力量;
• 在高影響力的部門(mén)和技術(shù)中建立策略領(lǐng)導(dǎo)地位，包括人工智能對(duì)永續(xù)環(huán)境的貢獻(xiàn)、擴(kuò)大跨境信息交流來(lái)推動(dòng)智能醫(yī)療系統(tǒng)，以及人工智能在公共部門(mén)、交通、農(nóng)業(yè)，以及機(jī)器人技術(shù)的應(yīng)用。
• 《機(jī)械條例〈Machinery Regulation〉》：涵蓋了廣泛的消費(fèi)者和專業(yè)產(chǎn)品，從機(jī)器人到割草機(jī)、3D打印機(jī)、建筑機(jī)械、工業(yè)生產(chǎn)線。確保新一代的機(jī)械保使用者和消費(fèi)者的安全，并鼓勵(lì)創(chuàng)新。雖然人工智能法規(guī)將解決人工智能系統(tǒng)的安全風(fēng)險(xiǎn)，但新的機(jī)械條例將確保人工智能系統(tǒng)與整個(gè)機(jī)械的安全整合。企業(yè)將只需要執(zhí)行一個(gè)單一的合格評(píng)估。

此外，新的機(jī)械條例將使現(xiàn)行規(guī)定更加明確，透過(guò)允許文件的數(shù)字格式和調(diào)整中小企業(yè)的合格評(píng)估費(fèi)用，簡(jiǎn)化企業(yè)的行政負(fù)擔(dān)和成本，同時(shí)確保與歐盟產(chǎn)品立法框架的一致性。

歐洲議會(huì)(European Parliament)和歐盟成員國(guó)將需要在普通立法程序中通過(guò)歐盟委員會(huì)對(duì)于人工智能系統(tǒng)和機(jī)械的建議。一旦通過(guò)，這些條例將直接適用于整個(gè)歐盟。同時(shí)，歐盟委員會(huì)將繼續(xù)與成員國(guó)合作，推動(dòng)實(shí)施協(xié)調(diào)計(jì)劃。

背景：

多年來(lái)，歐盟委員會(huì)一直在促進(jìn)和加強(qiáng)整個(gè)歐盟在人工智能方面的合作，以提高競(jìng)爭(zhēng)力并確?；跉W盟價(jià)值觀的信任。

在2018年發(fā)布?xì)W洲人工智能策略(European Strategy on AI)后，經(jīng)過(guò)廣泛的協(xié)商討論，人工智能高階專家小組(High-Level Expert Group on Artificial Intelligence)在2019年制定了可信賴人工智能準(zhǔn)則(Guidelines for Trustworthy AI)，并在2020年制定了可信賴人工智能評(píng)估列表(Assessment List for Trustworthy AI)。同時(shí)，2018年12月發(fā)布了第一個(gè)的人工智能協(xié)調(diào)計(jì)劃，作為與成員國(guó)的聯(lián)合承諾。

委員會(huì)在2020年發(fā)布的人工智能白皮書(shū)(White Paper on AI)為歐洲的人工智能提出了一個(gè)清晰的愿景：一個(gè)卓越和信任的生態(tài)系統(tǒng)，為AI法規(guī)提案奠定基礎(chǔ)。關(guān)于人工智能白皮書(shū)的公眾咨詢引起了世界各地的廣泛參與。白皮書(shū)中的關(guān)于人工智能、物聯(lián)網(wǎng)和機(jī)器人的安全和責(zé)任影響的報(bào)告，提到產(chǎn)品安全立法仍不夠完整。

歐擬推AI法規(guī) 業(yè)界反彈聲浪

對(duì)于歐盟提出全新法案管制人工智能(AI)的應(yīng)用方法，如果立法過(guò)關(guān)將成為全球第一套管制AI的法規(guī)，但企業(yè)擔(dān)心新法增加AI使用成本，限制或打壓歐盟科技創(chuàng)新。

歐盟最新法案將AI應(yīng)用方法依風(fēng)險(xiǎn)高低分類，其中高風(fēng)險(xiǎn)AI應(yīng)用涵蓋重大基礎(chǔ)建設(shè)、大學(xué)入學(xué)篩選系統(tǒng)及銀行貸款審查系統(tǒng)等。根據(jù)新法，這類高風(fēng)險(xiǎn)AI應(yīng)用將受到歐盟嚴(yán)格監(jiān)管，違法企業(yè)最高面臨全球年?duì)I收6%的罰款。

除了加強(qiáng)監(jiān)管之外，新法更將禁止特定AI應(yīng)用，例如公共運(yùn)輸系統(tǒng)、公共場(chǎng)所、商店使用臉部辨識(shí)偵測(cè)、警察追查犯人的遠(yuǎn)程生物辨識(shí)系統(tǒng)，或是能夠讀取潛意識(shí)的AI技術(shù)。新法規(guī)規(guī)定，在使用前，必須先向主管機(jī)關(guān)提出法規(guī)遵從報(bào)告，詳述臉部辨識(shí)系統(tǒng)如何取得數(shù)據(jù)。

對(duì)于AI新法被批評(píng)過(guò)于攏統(tǒng)不明，實(shí)際該如何實(shí)施仍有待觀察。法律界人士認(rèn)為，法規(guī)例外情況實(shí)在太多，反而失去AI規(guī)范保護(hù)及禁止的意義。