人工智能（AI）技術(shù)正在改變世界，也在重塑著人類社會。然而發(fā)展至今，AI技術(shù)已經(jīng)顯露出許多亟需關(guān)切的監(jiān)管問題，如數(shù)據(jù)隱私和數(shù)據(jù)安全、算法黑箱、技術(shù)濫用等，尤其是個人隱私不經(jīng)允許被互聯(lián)網(wǎng)公司泄露和濫用已經(jīng)成為當(dāng)今世界一大共同難題。

歐盟委員會于4月21日正式發(fā)布一項針對AI的法律草案。這份長達(dá)81頁的草案指出，歐盟將禁止使用AI系統(tǒng)建立社會征信體系，同時將徹底禁止一些對個人隱私構(gòu)成“高風(fēng)險”的AI應(yīng)用。這意味著未來不符合準(zhǔn)入標(biāo)準(zhǔn)的AI系統(tǒng)，可能無法進(jìn)入歐盟。如果該法案獲得通過，歐盟將有望成為全球首個對AI立法的地區(qū)，這會對其他國家和地區(qū)AI監(jiān)管法規(guī)的出臺起到示范作用。

加強AI監(jiān)管

根據(jù)歐盟委員會公布的這項草案，AI在一系列活動中的使用將受到限制，這些活動包括自動駕駛汽車、申請銀行貸款、大學(xué)招生錄取以及考試評分等。它還將涵蓋執(zhí)法系統(tǒng)和法院對AI的使用，這一領(lǐng)域通常被視為“高風(fēng)險”，因其可能威脅到人們的安全或基本權(quán)利。

草案規(guī)定，如有公司違反歐盟規(guī)則使用被禁止的AI應(yīng)用，比如使用AI應(yīng)用嚴(yán)重扭曲人們的行為、剝削弱勢群體或在社會評分中使用有偏見的數(shù)據(jù)，則有可能會被處以最高3000萬歐元或相當(dāng)于其全球營收6%的罰款，高于此前提議的4%。此外，企業(yè)如果要部署被視為對個人隱私構(gòu)成“高風(fēng)險”的AI系統(tǒng)，那么不僅需要受到審查，而且系統(tǒng)的創(chuàng)建者必須證明其是通過可追溯的方式并處于人工監(jiān)督之下。

草案的另一部分涉及支持歐盟AI發(fā)展的措施，包括推動歐盟成員國建立監(jiān)管沙箱（虛擬系統(tǒng)程序）計劃，在將AI系統(tǒng)推向市場之前，初創(chuàng)企業(yè)和中小企業(yè)可以優(yōu)先獲得開發(fā)和測試AI系統(tǒng)的支持。草案規(guī)定，主管部門“應(yīng)被授權(quán)對參與沙箱實體的AI項目行使酌處權(quán)和比例杠桿，同時充分保留主管部門的監(jiān)督和糾正權(quán)力”。

歐洲議會和歐盟委員會指出，新的法律框架旨在避免歐洲在人工智能開發(fā)、部署和使用方面落后于其他國家及地區(qū)，并希望通過制定新的規(guī)則助力歐盟在這一領(lǐng)域的領(lǐng)先地位。

積極醞釀立法

近年來，歐盟不斷試圖在支持創(chuàng)新和確保AI技術(shù)不侵犯歐盟5億人口隱私兩方面尋求適當(dāng)?shù)钠胶?。在發(fā)布此次草案之前，歐盟對AI監(jiān)管的計劃已經(jīng)醞釀了一段時間。

2018年4月，歐盟委員會發(fā)布了一份政策文件《歐盟人工智能》。歐盟認(rèn)為，AI的發(fā)展可能會引發(fā)新的倫理和法律問題，歐盟必須確保AI在適宜的框架內(nèi)發(fā)展。這個框架既能促進(jìn)科技創(chuàng)新，又能尊重歐盟的價值觀、基本權(quán)利和道德原則。在歐洲價值觀的基礎(chǔ)上，歐盟委員會提出了一種三管齊下的方法：增加公共和私人投資，為AI帶來的社會經(jīng)濟變革做好準(zhǔn)備，并建立適當(dāng)?shù)牡赖潞头煽蚣堋?/p>

2019年4月8日，歐盟委員會發(fā)布一份AI道德準(zhǔn)則。準(zhǔn)則由2018年12月公布的AI道德準(zhǔn)則草案演變而來，要求不得使用公民個人資料作出傷害或歧視他們的行為。

2020年2月，歐盟委員會發(fā)布了一份《人工智能白皮書》，提出歐洲的AI戰(zhàn)略旨在提高AI領(lǐng)域的創(chuàng)新能力，同時促進(jìn)道德、可信賴AI技術(shù)在歐洲經(jīng)濟領(lǐng)域的應(yīng)用。委員會沒有在此階段提供擬議的法規(guī)，而是提出了任何法規(guī)框架都必須涵蓋的法律要求，以確保AI仍然值得信賴，并尊重歐盟的價值觀和原則。

2020年10月20日，歐洲議會通過了有關(guān)歐盟如何更好地監(jiān)管AI的三份立法倡議報告，期望推動AI的立法進(jìn)程，以促進(jìn)創(chuàng)新、道德標(biāo)準(zhǔn)和技術(shù)信任。

此次提出的立法草案是歐盟擴大其作為全球科技執(zhí)法者角色努力的一部分。如果草案獲得通過，不僅將對亞馬遜、谷歌、臉書和微軟等大型科技公司產(chǎn)生深遠(yuǎn)影響，同時還將對使用這一技術(shù)來研發(fā)藥物、承銷保險以及評判信用度的其他公司產(chǎn)生沖擊。

通過尚需時日

歐盟在技術(shù)行業(yè)監(jiān)管方面一直是全球最積極的，其發(fā)布的監(jiān)管政策常被其他國家用作模板。目前，全球僅有少數(shù)機構(gòu)提出要針對AI制定全面的法律框架，因此歐洲議會此次對AI擬定的法律新規(guī)則意義特殊、影響深遠(yuǎn)。

歐盟委員會執(zhí)行副總裁韋斯特格表示，這一監(jiān)管法規(guī)解決了AI在某些特殊用途方面給人類和社會帶來的風(fēng)險。“我們認(rèn)為這是緊急事件，我們是這個星球上首個提出這一法律框架的。”

歐洲議會認(rèn)為，完善法律條款對AI的商業(yè)發(fā)展有兩大促進(jìn)作用：一是為AI解決方案的開發(fā)者和部署者提供法律確定性，從而提高商業(yè)可預(yù)測性并促進(jìn)投資；二是在全球范圍內(nèi)創(chuàng)建公平的監(jiān)管競爭環(huán)境，促進(jìn)行業(yè)發(fā)展。

全球最大的隱私保護(hù)組織IAPP協(xié)會副主席Omer Tene在社交媒體上表示：“這項立法代表了歐盟在新技術(shù)和創(chuàng)新方面的新嘗試，當(dāng)人們對數(shù)據(jù)的使用邊界不清晰時，那么請用法律來監(jiān)管。”

不過，也有人指出，草案有些條款似乎過于模糊，有太多漏洞可鉆。

盡管褒貶不一，但可以肯定的是，這份草案在成為法律之前還有很長的路要走。在歐盟，此類法律必須得到代表歐盟27國政府的歐洲理事會和直接選舉產(chǎn)生的歐洲議會的批準(zhǔn)，整個過程可能需要數(shù)年時間。如果屆時法案被采納，那么歐洲也將成為首個以法律形式規(guī)范AI數(shù)據(jù)采集使用的地區(qū)。