 |
上海2025年2月13日 /美通社/ -- 2025年2月2日，歐盟《人工智能法案》被禁止人工智能系統(tǒng)清單生效。即日起，面向歐盟市場的AI系統(tǒng)提供商和部署商、基于AI的服務(wù)提供商、含有嵌入式AI的產(chǎn)品制造商將面臨合規(guī)性挑戰(zhàn)。為協(xié)助中國人工智能相關(guān)企業(yè)積極應(yīng)對這一合規(guī)性挑戰(zhàn)，TÜV南德意志集團（以下簡稱"TÜV南德"）推出AI系統(tǒng)的快速評估服務(wù)，幫助企業(yè)及時識別其基于AI的服務(wù)和AI相關(guān)產(chǎn)品中可能含有的被禁止功能，控制風(fēng)險。
歐盟《人工智能法案》（Regulation (EU) 2024/1689）于2024年7月12日出版，并于20日后的8月1日生效，根據(jù)第113章的實施計劃，法案整體將在兩年后的2026年8月2日強制實施。然而，第5章"被禁止的人工智能實踐"提前于2025年2月2日強制實施。這意味著從該日期起，任何在歐盟市場提供含有被禁止人工智能的產(chǎn)品和服務(wù)的行為都將承擔(dān)相應(yīng)的法律后果。為了該禁止清單得到有效執(zhí)行，歐盟委員會還于2025年2月4日發(fā)布了《人工智能法案》所定義的"被禁止的人工智能實踐"的指南（以下簡稱"指南"）。
該指南進一步提供了對《人工智能法案》第5章（Article 5）所列被禁止人工智能實踐的解釋，以確保這些法規(guī)條款得到一致和有效的執(zhí)行。該指南再次強調(diào)了被禁止AI系統(tǒng)的供應(yīng)商和部署商可能會被處以最高3500萬歐元或其上一財年全球年營業(yè)額的7%（以較高者為準(zhǔn)）的罰款。
八類被禁止的人工智能應(yīng)用
《人工智能法案》第5章定義了八類被禁止的人工智能應(yīng)用，以下為每種類型的具體定義，適用范圍和舉例。
法規(guī)章節(jié) |
禁止項 |
內(nèi)容與舉例 |
Article |
有害的操縱 |
|
Article |
對弱勢群體 |
|
Article |
社會性評分 |
|
Article |
個人犯罪風(fēng) |
|
Article |
無差別面部 |
|
Article |
情感識別 |
|
Article |
生物特征 |
|
Article |
實時遠程生 |
|
豁免條件
除了以上八項被禁止人工智能實踐的清單，《人工智能法案》第5章還詳細規(guī)定了豁免條件，如在某些特定情況下，可以使用通常被禁止的人工智能實踐的必要保障措施和條件。例如實時遠程生物特征識別（RBI）系統(tǒng)在執(zhí)法領(lǐng)域的應(yīng)用，在滿足一定保障措施和條件下可以獲得例外許可：
使用這些系統(tǒng)時必須遵循的嚴格條件包括事先授權(quán)、必要性和成比例性評估、地理和時間限制、基本權(quán)利影響評估（FRIA）、注冊要求、通知監(jiān)管機構(gòu)以及年度報告等。這些規(guī)定旨在確保在保護執(zhí)法需求的同時，充分保護個人的基本權(quán)利和自由。
具體的例外案例如下：
一種生物特征識別系統(tǒng)（非遠程）用于驗證人員是否具有進入核電站的權(quán)限。當(dāng)人員在顯眼的攝像頭前進行驗證時，若系統(tǒng)拒絕其訪問，隨后會嘗試識別該人員是否屬于恐怖分子監(jiān)視名單。該系統(tǒng)并非遠程操作，且人員是主動參與驗證流程以獲取核電站準(zhǔn)入權(quán)限。該應(yīng)用場景不違反《人工智能法案》第5條的被禁止人工智能實踐的條款規(guī)定。
監(jiān)管與罰款
歐盟成員國指定的市場監(jiān)管機構(gòu)以及歐洲數(shù)據(jù)保護監(jiān)管機構(gòu)負責(zé)執(zhí)行《人工智能法案》中關(guān)于人工智能系統(tǒng)的規(guī)則和禁令?！度斯ぶ悄芊ò浮方⒘艘粋€分級的處罰體系，針對違反AI禁止項的最嚴重處罰如下：
不適用范圍
包括國家安全、國防等用途、與第三國的司法和執(zhí)法合作等幾種情況不適用于《人工智能法案》。為了在促進技術(shù)創(chuàng)新和保護公共利益之間取得平衡，《人工智能法案》還規(guī)定了一些排除情況。如，在投放市場前的研究與開發(fā)階段，為了符合安全和倫理要求而進行各式技術(shù)驗證，以及純粹個人目的的非專業(yè)活動以及以自由和開源許可證發(fā)布的AI系統(tǒng)。
數(shù)據(jù)保護
AI法案的禁止條款與GDPR的原則密切相關(guān)，特別是在處理個人數(shù)據(jù)時。GDPR要求數(shù)據(jù)處理必須合法、公正和透明，旨在保護數(shù)據(jù)主體的個人數(shù)據(jù)權(quán)利。AI法案中的禁止條款，旨在防止通過人工智能技術(shù)對個人進行操控、剝削或不公正對待，這與GDPR保護個人數(shù)據(jù)的目標(biāo)是一致的。因此需要同時確保不違反數(shù)據(jù)保護法律。例如，如果某個AI系統(tǒng)通過不當(dāng)方式收集和處理個人數(shù)據(jù)，導(dǎo)致對個人的操控或剝削，那么該系統(tǒng)就可能違反GDPR的規(guī)定。另外，對于具體AI系統(tǒng)還要關(guān)注廣告法、醫(yī)療器械法規(guī)、數(shù)字服務(wù)法等可能適用的法規(guī)。
結(jié)語
為協(xié)助中國人工智能相關(guān)企業(yè)積極應(yīng)對這一合規(guī)性挑戰(zhàn)， TÜV南德推出AI系統(tǒng)的快速評估服務(wù)，包含合規(guī)性評估、技術(shù)支持、培訓(xùn)和教育等服務(wù)，幫助中國出口商企業(yè)理解和滿足歐盟相關(guān)法規(guī)要求，避免踩到被禁止的AI實踐的紅線。通過這項服務(wù)，中國人工智能相關(guān)出口商可以快速確認產(chǎn)品中沒有被禁止AI系統(tǒng)，并獲得有公信力的第三方證明。在AI產(chǎn)品或服務(wù)與被禁止清單有關(guān)時，獲得豁免或排除的專業(yè)建議。
