歐盟人工智能法案將于2024年強制執行，為協助中國人工智能相關企業提前應對即將到來的國際監管，TUV南德意志集團（以下簡稱"TUV南德"）已推出人工智能評估服務：AI 質量架構評估方案。

本文為Trust AI@TUV SUD的系列專欄的第四篇：人工智能系統符合性評估框架。

AI 質量架構評估方案

2021年4月，歐盟委員會發布了歐洲議事和理事會《關于制定人工智能統一規則》的提案(以下簡稱"草案")。在專欄前三期中我們介紹了該草案嚴苛的懲罰力度以及對于人工智能的風險分類，以及四種政策選項。本期文章討論AI法案可能會采用的符合性評估框架及其執行機制。

對于草案中所列的高風險人工智能系統，提供者在其投放市場或投入使用前，應遵循基于內部控制的符合性評估程序(Annex VI)，或基于質量管理體系審核和技術文件審核的符合性評估程序(Annex VII)。提供者應起草一份歐盟符合性聲明(EU Declaration of Conformity、DOC)，并貼上符合的CE標志(Article 48)。

制造商如何選擇符合性評估流程

- 低風險人工智能系統的提供者可以采用基于內部控制的符合性評估程序(Annex VI)。

- 對于除Annex III item 2-8所列用途之外的高風險人工智能系統，提供者可以采用基于質量管理體系和技術文件的符合性評估程序(Annex VII)。提供者須選擇一個歐盟公告機構。 由公告機構確認人工智能的符合性并簽發證書。但是，如果人工智能由執法機關，移民管理或避難，救濟機構及其他官方機構使用，歐盟成員國授權的執法機構應取代公告機構進行符合性確認。

- 對于 Annex III item 2-8所列用途的高風險人工智能系統，提供者可以采用基于內部控制的符合性評估程序(Annex VI)，不需要引入公告機構，但是須考慮2013/36/EU指令的符合性評估程序要求。

- 如果提供者沒有或僅部分采用人工智能法案的協調標準，或者該協調標準和通用規范不存在，提供者必須采用基于質量管理體系審核和技術文件審核的符合性評估程序(Annex VII)。

歐盟符合性聲明（DOC）

歐盟符合性聲明應說明符合人工智能法案中規定的要求并及時更新，在投入市場后的十年內由歐盟成員國主管機構保管(Article 48)。聲明應包含以下內容：

- 人工智能系統的名稱和類型;

- 提供者或者其歐盟代表(如適用)的名稱和地址;

- DOC由提供者簽發并全權負責的聲明;

- 符合人工智能法案及其他相關立法(如適用)的聲明;

- 參考的協調標準或其他通用規范;

- 公告機構的名稱及公告號(如適用);

- 聲明的發布地點和日期，簽署人的姓名和職務等。

符合性評估

符合性評估將主要包含三個方面：質量管理體系，技術文檔的要求，和持續監督。

1. 提供者應建立質量管理體系，并形成相關書面文件，(Article 17)，應至少包括：符合法規的策略;設計、設計控制和設計驗證;開發、質量控制和質量保證;開發之前、之間和之后要進行的檢查、測試和驗證的程序和頻率;擬采用的技術規范/標準;數據管理的系統和程序;風險管理系統;投入市場后的監測系統;與嚴重事故和故障有關的報告程序;與相關方的溝通處理;記錄所有相關文件和信息的系統和程序;資源管理;問責框架等。

2. 技術文件應包含所需法律要求的信息，在投放市場使用前制定，并及時更新(Article 11)。其內容應包括以下信息(Annex IV)：對人工智能系統的一般描述;系統的組成及其開發過程的詳細描述;監測、運行和控制的詳細資料;風險管理系統的詳細描述;在其生命周期內所做的任何改變的說明;適用的協調標準或其他通用規范的清單;歐盟符合性聲明的副本;投入市場后的性能評估制度。

并且，系統在運行時應自動記錄日志(Article 12)，以保證整個產品生命周期內的可追溯性，從而防范可能出現的重大風險，并配合上市后的監管。日志記錄系統功能應至少記錄以下信息：每次使用的時間;數據庫及對應的輸入數據;搜索對應的輸入數據;參與結果驗證的自然人身份等。

3. 對上市或投入使用后的人工智能系統應進行持續的監督。提供者應以與人工智能的性質和風險相匹配的方式，建立并記錄投入使用后的檢測系統。該系統應在產品整個生命周期內積極、系統地收集、記錄和分析由使用者提供或其他來源的相關數據，以使得AI提供者能夠持續地評估該人工智能系統是否符合法案規定的要求。

公告機構應定期進行審查(Audit)，以確保AI提供者適當地履行經批準的質量管理體系中的條款和條件，并應向AI提供者提供報告。

相關方的義務

關于TUV南德意志集團

TUV南德意志集團成立于1866年，前身為蒸汽鍋爐檢驗協會。發展至今，已成為了全球化的機構。TUV南德意志集團在50個國家設立了1,000多個分支機構，擁有25,000多名員工，致力于不斷地提高自身的技術、體系及專業知識。集團的技術專家在工業4.0、自動駕駛及可再生能源的安全與可靠性方面均作出了顯著的技術創新。

(新媒體責編：pl0902)