-
提示:您已進(jìn)入導(dǎo)航區(qū)1,本區(qū)域含有7個(gè)鏈接，按下Tab鍵瀏覽信息
-
2024-07-17 14:53:33 -
來源： 本網(wǎng) -
【字體： 大 中 小】 打印 -
分享到：
提示:您已離開導(dǎo)航區(qū)1
隨著2024年5月21日歐盟理事會正式批準(zhǔn)歐盟《人工智能法案》（Artificial Intelligence Act，“《AI法案》”）[1]，這部歷時(shí)三年的法案,，走完歐盟立法進(jìn)程，并正式生效,。該法案被普遍認(rèn)為是全球首部對人工智能領(lǐng)域進(jìn)行全面監(jiān)管的法律,，對于歐盟乃至世界都具有里程碑意義。
《AI法案》對進(jìn)入歐盟市場的人工智能（“AI”）系統(tǒng)制定了統(tǒng)一的監(jiān)管規(guī)則,，旨在確保在歐盟范圍內(nèi)使用的AI系統(tǒng)的安全性,、透明性、可追溯性,、可解釋性和非歧視性,，減少AI系統(tǒng)對人權(quán)和社會秩序的沖擊，同時(shí)鼓勵(lì)A(yù)I領(lǐng)域投資和創(chuàng)新,，為AI領(lǐng)域技術(shù)發(fā)展留有空間,?！禔I法案》采取了“基于風(fēng)險(xiǎn)”的分級監(jiān)管方法，對社會帶來危害的風(fēng)險(xiǎn)越高,，監(jiān)管要求就越嚴(yán)格,。
近年來，歐洲已成為中國企業(yè)的出海戰(zhàn)略高地,，電動(dòng)汽車,、電池、光伏,、智能家居設(shè)備,、生物醫(yī)藥、跨境電商,、人工智能等領(lǐng)域的中國企業(yè)紛紛進(jìn)入歐洲市場,。2024年歐洲足球錦標(biāo)賽（歐洲杯）13家官方頂級贊助商中，有5家來自中國,，贊助國際賽事,，是中國企業(yè)出海浪潮的一個(gè)側(cè)寫[2]。
本文將介紹《AI法案》的主要內(nèi)容,，并分析其對中國企業(yè)出海的影響,，以期對相關(guān)中國企業(yè)在歐盟投資布局提供參考。
一,、《AI法案》的主要內(nèi)容
根據(jù)《AI法案》,，AI系統(tǒng)是指基于機(jī)器系統(tǒng)，能以不同程度自主運(yùn)行,，在部署后可能表現(xiàn)出適應(yīng)性,，并且為了明確或隱含的目標(biāo)，根據(jù)輸入來推斷如何生成可能影響物理或虛擬環(huán)境的輸出,，如預(yù)測,、內(nèi)容、建議或決定[3],，廣泛涵蓋各類AI,。
但是，《AI法案》也規(guī)定了一些例外情形,，包括：（1）不適用于專門為軍事,、國防或國家安全目的而投放市場、提供服務(wù)的AI系統(tǒng)[4],；（2）不適用于專為科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)和模型,，包括其輸出[5]；（3）不適用于處于研究,、測試和開發(fā)階段,，尚未投放市場或提供服務(wù)的AI系統(tǒng)或模型[6],；以及（4）不適用于根據(jù)免費(fèi)開源許可發(fā)布的低風(fēng)險(xiǎn)AI系統(tǒng)[7]。
2. 適用主體
《AI法案》適用于AI產(chǎn)業(yè)鏈上的各類主體,，主要包括AI系統(tǒng)提供者（provider）、部署者（deployer）,、進(jìn)口商（importer）和分銷商（distributor）,。
AI系統(tǒng)提供者是指開發(fā)AI系統(tǒng)或通用AI模型,，或擁有AI系統(tǒng)或通用AI模型,，并以自己的名義或商標(biāo)在歐盟市場投放（指首次提供，下同）或在歐盟市場提供服務(wù)的主體,，不論AI系統(tǒng)是否收費(fèi)[10],。在特定情形下，部署者,、進(jìn)口商和分銷商將被視為高風(fēng)險(xiǎn)AI系統(tǒng)的提供者,，包括：（1）在已投放市場或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)上冠以自己的名稱或商標(biāo)；（2）對已投放市場或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)行實(shí)質(zhì)性修改,；或（3）修改未被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)的預(yù)期目的,，導(dǎo)致該AI系統(tǒng)被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)[11]。另外,，對于高風(fēng)險(xiǎn)AI系統(tǒng),，如果其作為安全組件附加于特定產(chǎn)品之上，產(chǎn)品的生產(chǎn)者將被視為AI系統(tǒng)提供者[12],。AI系統(tǒng)提供者是《AI法案》下對AI系統(tǒng)的安全性負(fù)責(zé)的核心主體,，需確保所提供的AI系統(tǒng)滿足《AI法案》的要求。
AI系統(tǒng)部署者是指使用AI系統(tǒng)的主體,，但不包括非職業(yè)活動(dòng)使用AI系統(tǒng)的個(gè)人[13],。AI系統(tǒng)部署者的責(zé)任側(cè)重于保障AI系統(tǒng)在使用過程中的安全可靠，包括根據(jù)系統(tǒng)所附使用說明使用高風(fēng)險(xiǎn)AI系統(tǒng)[14],，在使用高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)應(yīng)指派有能力的自然人進(jìn)行人工監(jiān)督[15]等,。
AI系統(tǒng)進(jìn)口商是指在歐盟設(shè)立或位于歐盟,，將標(biāo)有歐盟境外主體名稱或商標(biāo)的AI系統(tǒng)投放歐盟市場的主體[16]。AI系統(tǒng)進(jìn)口商僅在向歐盟進(jìn)口高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)需承擔(dān)《AI法案》規(guī)定的責(zé)任,，包括在將高風(fēng)險(xiǎn)AI系統(tǒng)投入歐盟市場前核實(shí)該系統(tǒng)符合《AI法案》的規(guī)定[17],，且如果有充分理由認(rèn)為高風(fēng)險(xiǎn)AI系統(tǒng)可能不符合《AI法案》的規(guī)定，在其符合規(guī)定前不得將其投入歐盟市場[18]等,。
AI系統(tǒng)分銷商是指在AI產(chǎn)業(yè)鏈中除了提供者和進(jìn)口商以外,，其他在歐盟市場提供AI系統(tǒng)的主體[19]。AI系統(tǒng)分銷商僅在分銷高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)承擔(dān)《AI法案》規(guī)定的責(zé)任,，包括應(yīng)確保所分銷的高風(fēng)險(xiǎn)AI系統(tǒng)帶有所需的CE合格性標(biāo)識及歐盟合格性聲明和使用說明的副本[20]等,。
3. 域外效力
為了確保進(jìn)入歐盟市場的AI系統(tǒng)符合歐盟要求，《AI法案》的效力不僅限于歐盟境內(nèi)的自然人和法人,，在特定情況,，《AI法案》具有域外效力，對歐盟之外的主體亦產(chǎn)生較大影響,。根據(jù)《AI法案》,，在以下情形下《AI法案》適用于歐盟之外的提供者、部署者或產(chǎn)品制造者：
（1）在歐盟境內(nèi)將AI系統(tǒng)投放市場或提供服務(wù)或?qū)⑼ㄓ肁I模型投放歐盟市場的提供者,，無論這些提供者是設(shè)立于（或位于）歐盟還是第三國[21],；
（2）場所位于第三國或者位于第三國的AI系統(tǒng)提供者和部署者，其系統(tǒng)產(chǎn)生的輸出用于歐盟[22],；
（3）產(chǎn)品制造者以自己的名稱或商標(biāo)將AI系統(tǒng)與其產(chǎn)品一起投放歐盟市場或向歐盟市場提供服務(wù)[23],。
《AI法案》并未定義何為“輸出”。從廣義理解,，AI系統(tǒng)的輸出可能包括AI系統(tǒng)產(chǎn)生的任何內(nèi)容,、預(yù)測、建議或決策,，無論其形式,。
由此可見《AI法案》具有廣泛的域外效力，即便企業(yè)并未在歐盟設(shè)立實(shí)體或者并未直接以歐盟為目標(biāo)市場,，也需考慮其是否可能受限于《AI法案》的約束,，例如其AI系統(tǒng)產(chǎn)生的輸出是否可能用于歐盟。
4. 風(fēng)險(xiǎn)分級
《AI法案》采取了風(fēng)險(xiǎn)分級管理的監(jiān)管思路,，將AI系統(tǒng)分為以下四個(gè)級別,，分別施以不同的監(jiān)管要求：
《AI法案》允許歐盟委員會隨著AI技術(shù)的發(fā)展根據(jù)實(shí)際情況不斷更新和補(bǔ)充不同類型AI系統(tǒng)的范圍[32]，具有靈活性,。
5. 《AI法案》下的違法責(zé)任
《AI法案》對不遵守其規(guī)定的企業(yè)處以巨額罰款,。根據(jù)違法行為涉及的AI系統(tǒng)的風(fēng)險(xiǎn)程度，罰款分為三個(gè)層級：
（1）對于違反被禁止的AI系統(tǒng)的監(jiān)管要求的行為，將被處以最高3500萬歐元或該企業(yè)上一年度全球營業(yè)額7%的罰款（兩者取其高）,；
（2）對于違反高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求,、有限風(fēng)險(xiǎn)的AI系統(tǒng)的透明度要求和其他合規(guī)要求的行為，將被處以最高1500萬歐元或該企業(yè)上一年度全球營業(yè)額3%的罰款（兩者取其高）,；
（3）對于向監(jiān)管機(jī)構(gòu)提供不正確,、不完整或誤導(dǎo)信息的，將被處以最高750萬歐元或該企業(yè)上一年度全球營業(yè)額1%的罰款（兩者取其高）,。[33]
相較于歐盟《通用數(shù)據(jù)保護(hù)條例》規(guī)定的兩級處罰水平,，即對第一級違法行為的最高罰款為1000萬歐元或企業(yè)上一年度全球營業(yè)額的2%（兩者取其高），對第二級違法行為的最高罰款為2000萬歐元或企業(yè)上一年度全球營業(yè)額的4%（兩者取其高）[34],，《AI法案》的處罰上限顯著提升,。這體現(xiàn)了歐盟對AI治理的重視及決心，也提示相關(guān)企業(yè)應(yīng)充分關(guān)注《AI法案》的適用性及相關(guān)合規(guī)義務(wù),。
6. 《AI法案》的實(shí)施時(shí)間
《AI法案》將自生效起分階段,、分步驟實(shí)施?？傮w而言,，《AI法案》將于其登報(bào)生效后24個(gè)月內(nèi)全面實(shí)施，但以下內(nèi)容實(shí)施時(shí)間不同：（1）《AI法案》生效6個(gè)月后,，該法案第一章（總則）和第二章（被禁止的AI實(shí)踐）將實(shí)施[35],；（2）《AI法案》生效12個(gè)月后，該法案第三章第4節(jié)（通知機(jī)關(guān)和通知機(jī)構(gòu)）,、第五章（通用AI模型）,、第七章（治理）,、第十二章（罰則）（除第101條關(guān)于通用AI模型提供者的罰則）和第78條（保密）將實(shí)施[36],；（3）《AI法案》生效36個(gè)月后，該法案第6-1條（關(guān)于特定高風(fēng)險(xiǎn)AI系統(tǒng)分類及相應(yīng)義務(wù)的規(guī)定）及相關(guān)條款將實(shí)施[37],。
二,、《AI法案》對中國企業(yè)出海的影響
1. AI大模型企業(yè)出海
中國的AI大模型企業(yè)正在加速出海[38],。一方面是為了拓展市場空間,，另外相較于中國市場，一些海外市場的用戶付費(fèi)意愿更高、活躍程度更好,，因此,，許多中國AI大模型在把握中國市場的同時(shí)，亦選擇出海布局,，向海外輸出AI大模型等產(chǎn)品服務(wù)[39],。
（1）AI大模型企業(yè)的角色與適用
根據(jù)《AI法案》對AI產(chǎn)業(yè)鏈上各經(jīng)營者角色的定義，判斷一家AI大模型出海企業(yè)屬于何種經(jīng)營者需結(jié)合其商業(yè)模式判斷,。
如前文所述,，AI系統(tǒng)提供者是以自身名義首次將AI系統(tǒng)投放歐盟市場或在歐盟市場提供服務(wù)的主體。如果X公司開發(fā)了AI大模型,，但從未向歐盟市場投放或提供服務(wù),，而Y公司調(diào)用X公司開發(fā)的AI大模型并以自身名義面向歐盟消費(fèi)者提供服務(wù)，則Y公司可能構(gòu)成AI系統(tǒng)提供者,。如果X公司已經(jīng)向歐盟市場以自身名義投放AI大模型,，Y公司使用其AI大模型，則Y公司可能構(gòu)成AI系統(tǒng)部署者,；若Y公司在調(diào)用X公司基礎(chǔ)AI大模型的基礎(chǔ)上開發(fā)了行業(yè)AI大模型,，且Y公司以其自身名義首次將該行業(yè)AI大模型投放歐盟市場，則Y公司可能構(gòu)成AI系統(tǒng)提供者,；若Y公司替X公司在歐盟市場分銷其AI大模型,，則Y公司可能構(gòu)成AI系統(tǒng)分銷商。
需注意,，《AI法案》下的“提供者”與我國《生成式人工智能服務(wù)管理暫行辦法》下的“服務(wù)提供者”定義有所不同,，《AI法案》下的“提供者”限于以自身名義首次將AI系統(tǒng)投放歐盟市場的主體，《生成式人工智能服務(wù)管理暫行辦法》下的服務(wù)提供者不限于“首次”在中國市場提供服務(wù),，也不限于“以自身名義”,，因此除提供者外，其也可能包括《AI法案》下的分銷商等其他主體,。
《生成式人工智能服務(wù)管理暫行辦法》下的“技術(shù)支持者”一般指為服務(wù)提供者提供技術(shù)支持的主體,，該種技術(shù)支持可能是日常運(yùn)營維護(hù)，也可能是算法開發(fā),。如果此“技術(shù)支持者”開發(fā)AI算法后,，以自身名義向歐盟企業(yè)售賣AI算法，并且該AI算法也符合《AI法案》下AI系統(tǒng)的定義,，則此“技術(shù)支持者”有可能構(gòu)成《AI法案》下的AI系統(tǒng)提供者,。
（2）AI大模型的風(fēng)險(xiǎn)評級
企業(yè)除了判斷自身屬于何種經(jīng)營者，還需要判斷所經(jīng)營的AI大模型的風(fēng)險(xiǎn)級別,，方可明確自身的義務(wù),。
對于AI大模型出海企業(yè),，需結(jié)合產(chǎn)品的應(yīng)用場景判斷風(fēng)險(xiǎn)級別。例如,，對于同一個(gè)大語言模型,，如果其用于開發(fā)操控兒童心智的AI伴聊工具，則應(yīng)屬于被禁止的AI系統(tǒng),；若其用于發(fā)布有針對性的招聘廣告,、分析和過濾求職申請以及評估候選人，則應(yīng)屬于高風(fēng)險(xiǎn)AI系統(tǒng),；若用于生成小說,，則應(yīng)屬于有限風(fēng)險(xiǎn)的AI系統(tǒng)。
（3）通用AI模型的監(jiān)管要求
如果一種AI大模型,，在使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練時(shí),，無論該模型以何種方式投放市場，都顯示出顯著通用性,，能夠勝任各種不同的任務(wù),，并可集成到各種下游系統(tǒng)或應(yīng)用中（在投放市場前用于研究、開發(fā)和原型設(shè)計(jì)活動(dòng)的AI模型除外）,，其屬于《AI法案》中規(guī)定的通用AI模型[40],。
考慮到通用AI模型的特殊性，《AI法案》專章細(xì)化了對通用AI模型的要求,，通用AI模型的提供者在《AI法案》下的義務(wù)包括履行相關(guān)披露和透明度要求,、公布訓(xùn)練數(shù)據(jù)總結(jié)、遵守歐盟版權(quán)法等[41],。
《AI法案》將通用AI模型分為具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型和不具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型,。通用AI模型的系統(tǒng)性風(fēng)險(xiǎn)是該模型具有高度影響能力，或被歐盟委員會認(rèn)定為具有高度影響能力[42],。當(dāng)一個(gè)通用AI模型用于訓(xùn)練的累計(jì)計(jì)算量（以FLOPs方法計(jì)算）大于10^25時(shí),，即認(rèn)為具有系統(tǒng)性風(fēng)險(xiǎn)[43]。具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型的提供者將承擔(dān)更多的義務(wù),，包括開展模型評估,、評估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)、確保足夠的網(wǎng)絡(luò)安全保護(hù)水平,、向監(jiān)管機(jī)構(gòu)報(bào)告重大事件等[44]。
因此,，如果出海企業(yè)的AI大模型屬于通用AI模型的范圍,，需關(guān)注《AI法案》對于通用AI模型的特殊監(jiān)管要求，并評估模型是否具有系統(tǒng)性風(fēng)險(xiǎn),。
2. 汽車企業(yè)出海
新能源汽車（電動(dòng)汽車）,、鋰電池、太陽能電池并稱為中國出口的“新三樣”。2023年,，“新三樣”出口規(guī)模首破萬億元,，成為我國外貿(mào)增長新亮點(diǎn)[45]。2023年,，我國汽車整車出口491萬輛,，同比增長57.9%，首次躍居全球第一,；其中,，新能源汽車出口120.3萬輛，占比約25%,，同比增長77.6%[46],。無論是燃油汽車還是新能源汽車，均在不斷加速智能化,，出口車型也不例外[47],。汽車行業(yè)是AI大模型最重要的落地場景之一，比如將AI大模型應(yīng)用于車機(jī)系統(tǒng)和智能座艙,，實(shí)現(xiàn)更高智能化的人車交互,，以及和自動(dòng)駕駛進(jìn)行深度融合，最終實(shí)現(xiàn)高階智能駕駛甚至是無人駕駛[48],。
（1）汽車企業(yè)的角色與適用
對于中國出海車企,，判斷構(gòu)成《AI法案》下的何種經(jīng)營者取決于AI系統(tǒng)的功能以及車企在供應(yīng)鏈中的角色。如果汽車搭載自研的AI系統(tǒng),，那么車企可能屬于AI系統(tǒng)提供者,；當(dāng)汽車搭載技術(shù)供應(yīng)商供應(yīng)的AI系統(tǒng)并允許技術(shù)供應(yīng)商顯名，則可能技術(shù)供應(yīng)商構(gòu)成AI系統(tǒng)提供者,，整車廠構(gòu)成AI系統(tǒng)部署者,；當(dāng)高風(fēng)險(xiǎn)AI系統(tǒng)構(gòu)成汽車的安全組件時(shí)，整車廠屬于車輛生產(chǎn)者,，也將構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)提供者[49],。
值得注意的是，根據(jù)《AI法案》,，其與高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的規(guī)定尚不直接適用于汽車中的特定高風(fēng)險(xiǎn)AI系統(tǒng)（如AI系統(tǒng)意圖用作產(chǎn)品的安全組件,，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場或提供服務(wù)前需接受第三方合格性評估）,，歐盟其他相關(guān)部門立法,，包括型式認(rèn)證框架法規(guī)（EU 2018/858號條例）和通用安全法規(guī)（EU 2019/2144號條例）將繼續(xù)適用[50]?！禔I法案》明確對相關(guān)AI系統(tǒng)的監(jiān)管與歐盟現(xiàn)有車輛監(jiān)管規(guī)則保持協(xié)調(diào),，并建議對相關(guān)部門立法適時(shí)進(jìn)行修訂,，考慮《AI法案》中對高風(fēng)險(xiǎn)AI系統(tǒng)的強(qiáng)制性規(guī)定，例如將高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求引入汽車型式認(rèn)證[51],。
盡管《AI法案》的相關(guān)規(guī)定分階段適用與實(shí)施,，并且高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的監(jiān)管要求尚未直接適用于汽車，但歐盟汽車相關(guān)立法或?qū)⒁搿禔I法案》中對高風(fēng)險(xiǎn)AI系統(tǒng)的強(qiáng)制性規(guī)定,，《AI法案》關(guān)于AI系統(tǒng)的監(jiān)管要求將以不同形式適用于汽車企業(yè),。考慮到汽車產(chǎn)品的研發(fā)與生產(chǎn)周期,，對于希望出口歐盟地區(qū)的中國車企,，宜盡早關(guān)注《AI法案》對出海業(yè)務(wù)的影響并制定應(yīng)對方案。
（2）汽車應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評級
根據(jù)《AI法案》,，如果某AI系統(tǒng)是產(chǎn)品中的組件,，且該組件履行產(chǎn)品中的安全功能，或其失效或故障將危及人身健康或財(cái)產(chǎn)安全,，則該AI系統(tǒng)構(gòu)成產(chǎn)品的安全組件[52],；當(dāng)一個(gè)AI系統(tǒng)構(gòu)成汽車產(chǎn)品的安全組件，且必需通過第三方合格性評估才能投放市場或提供服務(wù),，則該AI系統(tǒng)構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)[53],。
根據(jù)安全組件的定義和高風(fēng)險(xiǎn)AI系統(tǒng)的范圍，汽車搭載的AI系統(tǒng)中,，與駕駛安全高度相關(guān)的AI系統(tǒng)可能屬于高風(fēng)險(xiǎn)AI系統(tǒng),，包括用于視覺感知（例如識別道路標(biāo)志、行人,、車輛）,、監(jiān)測汽車狀態(tài)（例如胎壓報(bào)警、發(fā)動(dòng)機(jī)溫度監(jiān)測）,、駕駛行為決策（例如自動(dòng)剎車,、自動(dòng)拐彎）等目的的自動(dòng)駕駛AI系統(tǒng)。對于一些用于娛樂或與安全相關(guān)度并不高的智能座艙AI系統(tǒng),，例如影音娛樂,、聊天機(jī)器人等，則可能不會落入高風(fēng)險(xiǎn)AI系統(tǒng)的范疇,，而屬于有限風(fēng)險(xiǎn)的AI系統(tǒng),。此外，一些能夠進(jìn)行遠(yuǎn)程生物識別的AI系統(tǒng),，例如智能座艙中的駕駛員疲勞監(jiān)測系統(tǒng),，也可能屬于高風(fēng)險(xiǎn)AI系統(tǒng)。
3. 生物醫(yī)藥企業(yè)出海
AI應(yīng)用于醫(yī)療健康行業(yè)早已不是新鮮事,。在藥物研發(fā)方面,，AI技術(shù)可用于藥物靶點(diǎn)發(fā)現(xiàn)、化合物篩選,、化合物結(jié)構(gòu)設(shè)計(jì)等,；在問診領(lǐng)域，AI技術(shù)可用于智能分診,、分析檢查結(jié)果,、輔助醫(yī)生做出醫(yī)療決策、慢病管理等,；在醫(yī)療器械領(lǐng)域,，AI技術(shù)也可打造高穩(wěn)定性的手術(shù)機(jī)器人、智能監(jiān)護(hù)患者數(shù)據(jù),、智能幫助患者康復(fù)理療等[54],。在中國企業(yè)出海熱潮中，不乏中國生物醫(yī)藥企業(yè)的身影,。
（1）生物醫(yī)藥企業(yè)的角色與適用
中國的出海生物醫(yī)藥企業(yè)在《AI法案》下的角色,，與AI系統(tǒng)在其產(chǎn)品或服務(wù)中的角色有關(guān)。例如：對于出口醫(yī)療器械的企業(yè),，如果所出口的AI系統(tǒng)本身即構(gòu)成一種醫(yī)療器械,，或AI系統(tǒng)構(gòu)成了醫(yī)療器械的安全組件，則醫(yī)療器械的制造商可能構(gòu)成AI系統(tǒng)提供者,；對于中國的制藥企業(yè),，如果企業(yè)僅利用AI工具輔助藥物研發(fā)或藥物生產(chǎn)，但出口產(chǎn)品是藥物,，考慮到AI系統(tǒng)本身并未進(jìn)入歐盟市場或向歐盟市場提供服務(wù),，制藥企業(yè)可能并不受《AI法案》約束；對于醫(yī)院而言,，其部署以AI系統(tǒng)作為安全組件的醫(yī)療器械可能被視為AI系統(tǒng)部署者,，而其專為醫(yī)學(xué)領(lǐng)域科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)或AI模型，包括其輸出,，則不受《AI法案》的監(jiān)管[55],。如果出海生物醫(yī)藥企業(yè)在歐盟已設(shè)立的研發(fā)或生產(chǎn)基地，并在研發(fā)或生產(chǎn)過程中開發(fā)或利用AI系統(tǒng),，則可能構(gòu)成AI系統(tǒng)提供者或部署者而直接受到《AI法案》的約束,。
與汽車中的高風(fēng)險(xiǎn)AI系統(tǒng)類似，根據(jù)《AI法案》,，其與高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的規(guī)定尚未適用于醫(yī)療器械中的特定高風(fēng)險(xiǎn)AI系統(tǒng)（AI系統(tǒng)意圖用作產(chǎn)品的安全組件,，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場或提供服務(wù)前需接受第三方合格性評估）,，而其他歐盟相關(guān)部門立法,，包括歐盟醫(yī)療器械法規(guī)（EU 2017/745號條例,，“MDR”）和歐盟體外診斷設(shè)備法規(guī)（EU 2017/746號條例，“IVDR”）將繼續(xù)適用[56],。我們注意到《AI法案》下不少對于高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求與MDR和IVDR下現(xiàn)行嚴(yán)格的合格評定要求存在重疊,。針對《AI法案》中的額外要求，MDR和IVDR等相關(guān)歐盟部門法規(guī)或?qū)⒂枰钥紤],，并引入第三方對醫(yī)療器械等產(chǎn)品進(jìn)行的符合性認(rèn)證程序,。
（2）生物醫(yī)藥產(chǎn)品應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評級
根據(jù)《AI法案》對高風(fēng)險(xiǎn)AI系統(tǒng)的定義，如果AI系統(tǒng)在生物醫(yī)藥產(chǎn)品上的應(yīng)用足以影響人類安全,，該AI系統(tǒng)可能構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng),。依據(jù)《AI法案》，對于需要開展符合性認(rèn)證的醫(yī)療器械（包括體外診斷醫(yī)療器械）,，如果該等醫(yī)療器械上應(yīng)用了AI系統(tǒng)作為安全組件,，或者其本身是AI系統(tǒng)，一般應(yīng)將AI系統(tǒng)指定為高風(fēng)險(xiǎn)AI系統(tǒng)[57],。
在歐盟,，用于醫(yī)療目的的各類物品（包括軟件）均屬于醫(yī)療器械[58]。因此,，如果一項(xiàng)AI系統(tǒng)本身用于醫(yī)療目的,，其可能構(gòu)成醫(yī)療器械。歐盟法規(guī)將醫(yī)療器械由低到高分為I,、IIa（如旨在提供用于診斷或治療目的的決策信息的軟件,，包括用于監(jiān)測生理過程的軟件）、IIb（如果這些決定可能導(dǎo)致一個(gè)人的健康或手術(shù)受到嚴(yán)重?fù)p害）和III級（如果這些決定可能導(dǎo)致死亡或?qū)σ粋€(gè)人的健康造成不可逆轉(zhuǎn)的損害）,，并要求IIa類及更高級別的醫(yī)療器械均需開展符合性認(rèn)證[59],。另外，所有體外診斷醫(yī)療器械均需要開展符合性認(rèn)證[60],。因此,，根據(jù)《AI法案》，本身屬于IIa類及更高級別的醫(yī)療器械或體外診斷醫(yī)療器械的AI系統(tǒng),，或作為安全組件的AI系統(tǒng)均可能構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng),。實(shí)踐中，作為醫(yī)療器械的大量軟件項(xiàng)目屬于IIa類或更高類別,。
此外,，《AI法案》在附件3中列舉的高風(fēng)險(xiǎn)AI系統(tǒng)中包括使自然人獲得和享受基本私人服務(wù)和基本公共服務(wù)的AI系統(tǒng)，這些基本私人服務(wù)和基本公共服務(wù)覆蓋了一些基本的醫(yī)療保健相關(guān)服務(wù),，包括評估自然人是否有資格獲取公共醫(yī)療保健服務(wù)以及急診患者分診服務(wù),。
高風(fēng)險(xiǎn)AI系統(tǒng)認(rèn)定標(biāo)準(zhǔn)的核心是該AI系統(tǒng)對人類健康和財(cái)產(chǎn)安全的風(fēng)險(xiǎn)。對于許多用于輔助人類決策、由人類主導(dǎo)的醫(yī)療領(lǐng)域AI系統(tǒng),，可能僅構(gòu)成有限風(fēng)險(xiǎn)的AI系統(tǒng),。這可能包括智能分診系統(tǒng)（不包括急診）、健康風(fēng)險(xiǎn)提示軟件,、檢查報(bào)告解讀軟件等,。
4. 電商平臺企業(yè)出海
近年來,，中國電商平臺紛紛開始拓展海外業(yè)務(wù),。AI系統(tǒng)在電商平臺上的應(yīng)用較為廣泛和普遍，涵蓋了商品和廣告的個(gè)性化推薦,、智能AI客服服務(wù),、繪制精準(zhǔn)用戶畫像、智能比價(jià)等多個(gè)場景,，為商家和客戶均提供了不少便利,。
（1）電商平臺的角色與適用
判斷一家電商平臺出海企業(yè)屬于《AI法案》下的何種角色需結(jié)合其商業(yè)模式進(jìn)行分析。
電商平臺企業(yè)在運(yùn)營過程中,，為了優(yōu)化用戶體驗(yàn),，提升服務(wù)質(zhì)量，實(shí)現(xiàn)精準(zhǔn)營銷和降低運(yùn)營成本,，常常利用積累的用戶數(shù)據(jù)自行訓(xùn)練算法并開發(fā)AI模型,。當(dāng)這些電商平臺將自研AI模型投放市場或用之提供服務(wù)時(shí)，其屬于AI系統(tǒng)的提供者,；而當(dāng)其采用自研AI模型時(shí),，其同時(shí)成為AI系統(tǒng)的部署者；其他采用其自研AI模型的商家或電商平臺也屬于AI系統(tǒng)的部署者,。
（2）電商平臺應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評級
為了推廣電商平臺與推銷平臺上的商品,，使消費(fèi)者更愿意從其平臺上購物，電商平臺企業(yè)傾向于開發(fā)和設(shè)計(jì)對消費(fèi)者有吸引力的用戶界面并采用更貼合消費(fèi)者喜好的個(gè)性化推薦策略,。
在《AI法案》視角下,，電商平臺企業(yè)應(yīng)注意所使用的AI系統(tǒng)不得侵犯基本人權(quán)，例如不得用于消費(fèi)者行為和心智操控,、社會評分等,，否則，該等AI系統(tǒng)將可能構(gòu)成被禁止的AI系統(tǒng),。
值得注意的是,，并不是所有依據(jù)大數(shù)據(jù)對消費(fèi)者進(jìn)行打分的AI工具都屬于被禁止的AI系統(tǒng)。許多電商平臺會對信譽(yù)良好的消費(fèi)者提供更便捷的服務(wù),，例如退貨時(shí)由平臺先行墊付退款,、允許先買后付等。電商平臺基于消費(fèi)者的歷史購買行為,、支付行為,、退換貨行為等對消費(fèi)者進(jìn)行綜合評價(jià),，本質(zhì)上不同于《AI法案》所禁止的社會評分行為?！禔I法案》所禁止的社會評分行為是指利用自然人在各種社會活動(dòng)中留下的數(shù)據(jù)蹤跡和呈現(xiàn)的性格特征對自然人打分,，并且導(dǎo)致特定自然人或群體遭遇與其行為無關(guān)且有害的、不利的或不合理的待遇[61],。
考慮到電商平臺企業(yè)所使用AI系統(tǒng)的常見目的和場景,，其AI系統(tǒng)更可能僅構(gòu)成有限風(fēng)險(xiǎn)的AI系統(tǒng)，該種情況下,，經(jīng)營者應(yīng)當(dāng)履行透明度義務(wù),，包括向消費(fèi)者公示其正在使用AI系統(tǒng)等[62]。
三,、中國企業(yè)出海如何應(yīng)對《AI法案》挑戰(zhàn)
如果企業(yè)可能受到《AI法案》的約束,，企業(yè)需要評估自身在AI價(jià)值鏈中的角色，以及所使用的AI系統(tǒng)的風(fēng)險(xiǎn)級別,。根據(jù)評估結(jié)果,，企業(yè)可能需要調(diào)整產(chǎn)品設(shè)計(jì)或業(yè)務(wù)模式，以確保符合《AI法案》的要求,，包括若作為提供者,，不得投放被禁止的AI系統(tǒng)，避免投放高風(fēng)險(xiǎn)AI系統(tǒng)（合規(guī)義務(wù)繁重）,，如無法避免,，需履行相應(yīng)合規(guī)義務(wù)；若作為部署者,，需保障AI系統(tǒng)在使用過程中的安全可靠,；若作為進(jìn)口商或分銷商，需在進(jìn)口或分銷前確保相關(guān)AI系統(tǒng)符合《AI法案》的相關(guān)要求,。
同時(shí),，企業(yè)需要密切關(guān)注歐盟立法和執(zhí)法機(jī)構(gòu)的動(dòng)態(tài)，以便及時(shí)了解《AI法案》的最新發(fā)展和變化,，并了解歐盟有關(guān)部門對《AI法案》的解釋,。由于《AI法案》是跨行業(yè)的綜合性法規(guī)，企業(yè)在理解和應(yīng)用時(shí)需要結(jié)合特定行業(yè)的歐盟以及成員國法規(guī),。
對于中國企業(yè)而言,，如果其作為高風(fēng)險(xiǎn)AI系統(tǒng)的提供者，計(jì)劃將AI系統(tǒng)投放到歐盟或在歐盟提供相關(guān)服務(wù)，歐盟的相關(guān)合作方可能會在合同中要求中方企業(yè)最終承擔(dān)由該等AI系統(tǒng)引發(fā)的賠償責(zé)任或罰款,。中國企業(yè)需要與合作伙伴協(xié)商合理的賠償機(jī)制,，并需與相關(guān)下游供應(yīng)商就賠償機(jī)制進(jìn)行約定，盡可能降低風(fēng)險(xiǎn)敞口,。
《AI法案》對目標(biāo)市場為歐盟的中國企業(yè)的影響不容忽視,。考慮到《AI法案》在生效后將分階段逐步適用和實(shí)施,，企業(yè)可盡可能利用這一緩沖時(shí)間,，分析和評估現(xiàn)有和未來的產(chǎn)品與業(yè)務(wù)是否及在何種程度上受《AI法案》的影響，并制定相應(yīng)的合規(guī)方案,，為出海經(jīng)營保駕護(hù)航,。
【腳注】
[1] European Council gives final green light to the first worldwide rules on AI: https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/。
[2] 《中國企業(yè)在歐洲杯出盡風(fēng)頭》：https://wallstreetcn.com/articles/3718282,。
[3] 《AI法案》，Article 3(1),。
[4] 《AI法案》,，Article 2-3。
[5] 《AI法案》,，Article 2-6,。
[6] 《AI法案》，Article 2-8,。
[7] 《AI法案》,，Article 2-12。
[8] 《AI法案》,，Article 2-9,。
[9] 《AI法案》前言第49段。
[10] 《AI法案》,，Article 3(3),、3(9)。
[11] 《AI法案》,，Article 25-1,。
[12] 《AI法案》，Article 25-3,。
[13] 《AI法案》,，Article 3(4)、2-10,。
[14] 《AI法案》,，Article 26-1。
[15] 《AI法案》，Article 26-2,。
[16] 《AI法案》,，Article 3(6)、3(9),。
[17] 《AI法案》,，Article 23-1
[18] 《AI法案》，Article 23-2,。
[19] 《AI法案》,，Article 3(7)。
[20] 《AI法案》,，Article 24-1,。
[21] 《AI法案》，Article 2-1(a),。
[22] 《AI法案》,，Article 2-1(c)。
[23] 《AI法案》,，Article 2-1(e),。
[24] 《AI法案》，Article 5,。
[25] 《AI法案》,，Article 5。
[26] 《AI法案》,，Article 6,，Annex I，Annex III,。
[27] 《AI法案》,，Article 8-27。
[28] 《AI法案》,，Article 50,。
[29] 《AI法案》，Article 50,。
[30] High-level summary of the AI Act: https://artificialintelligenceact.eu/high-level-summary/,。
[31] High-level summary of the AI Act: https://artificialintelligenceact.eu/high-level-summary/。
[32] 《AI法案》,，Article 7,、112。
[33] 《AI法案》,，Article 99,。
[34] General Data Protection Regulation (Regulation (EU) 2016/679) Article 83,。
[35] 《AI法案》，Article 113-2(a),。
[36] 《AI法案》,，Article 113-2(b)。
[37] 《AI法案》,，Article 113-2(c),。
[38] 《AI大模型加速“出海” 探索本地化方案刻不容緩》：http://www.news.cn/info/20240605/b1d73e61a81f48119c46b151fe0e57f1/c.html,。
[39] 《中國AI大模型密集“出?！薄罚篽ttps://www.36kr.com/p/2833232907569669。
[40] 《AI法案》,，Article 3(63),。
[41] 《AI法案》，Article 53,。
[42] 《AI法案》,，Article 51-1。
[43] 《AI法案》,，Article 51-2,。
[44] 《AI法案》，Article 55,。
[45] 《萬億“新三樣”揚(yáng)帆出海 如何乘風(fēng)破浪尋增量？》：https://m.21jingji.com/article/20240501/67a975e52ea3813335fdaaa14cb15156.html,。
[46] 《我國汽車出口首次躍居全球第一,！2023年全年整車出口491萬輛》：http://www.news.cn/auto/20240119/5ce1b8ea717e42efb6d5f05c93797b3e/c.html。
[47] 《中國汽車行業(yè)出海白皮書》：https://www.oliverwyman.cn/content/dam/oliver-wyman/v2/china-new/publications/2023/mmc-china-chinese-automakers-going-abroad-whitepaper.pdf,。
[48] 《有了AI大模型,，汽車和手機(jī)就會更智能？》：https://36kr.com/p/2687859018247555,。
[49] 《AI法案》,，Article 25(3)。
[50] 《AI法案》,，Article 2-2,、2-9、前言第49段,。
[51] 《AI法案》,，Article 2-9、前言第49段,、article 107,。
[52] 《AI法案》,，Article 3(14)。
[53] 《AI法案》,，Article 6-1,。
[54] 《醫(yī)療人工智能未來將如何布局？》：http://health.people.com.cn/n1/2024/0430/c14739-40227169.html,。
[55] 《AI法案》,，Article 2-6。
[56] 《AI法案》,，Article 2-2,、2-9、前言第49段,。
[57] 《AI法案》,，Article 6-1、前言第50段,。
[58] Regulation (EU) 2017/745, Article 2-2,。
[59] Regulation (EU) 2017/745, Article 52。
[60] Regulation (EU) 2017/746, Article 48,。
[61] 《AI法案》,，Article 5-1(c)。
[62] 《AI法案》,，Article 50,。
【文章作者】趙新華,、單文鈺,、米華林（金杜律師事務(wù)所）
【資料來源】金杜研究院微信公眾號
 |
 粵公網(wǎng)安備 44190002000375號
主辦單位：中國國際貿(mào)易促進(jìn)委員會東莞市委員會 聯(lián)系方式：0769-22113241 0769-22835965 |
