2023美歐人工智能法案對比研究

--PAGE1-美歐人工智能法案對比研究20214（2022年10（以，兩者均把人工智能安全建設作為法案的核心內分類分級風險管控措施及完善的治理規(guī)則?！斗ò浮坊陲L險預防理念，為人工智能系統(tǒng)制定了覆蓋全過程的風險規(guī)制體系，是全球首個針對人工智能風險規(guī)制的法案。在風險流程監(jiān)控方面，《法案》鼓勵建立國家或歐盟層面的監(jiān)管沙別系統(tǒng)原則上禁止在公眾可進入的空間和場所內使用。美國人工智能權利法案藍圖歐盟人工智能法案側重范圍美國政府機構適用歐盟境內或第三國向歐盟市場提供人工智能系統(tǒng)服務的提供者、歐盟境內人工智能系統(tǒng)使用者、輸出內容在歐盟境內被使用的第三國人工智美國人工智能權利法案藍圖歐盟人工智能法案側重范圍美國政府機構適用歐盟境內或第三國向歐盟市場提供人工智能系統(tǒng)服務的提供者、歐盟境內人工智能系統(tǒng)使用者、輸出內容在歐盟境內被使用的第三國人工智能系統(tǒng)提供者和使用者。自動平性本法案不過多涉及風險管控本法案不涉及風險分級對人工智能系統(tǒng)風險程度進行分級，分為不可接受的風險、高風險、有限風險、最小風險，并對不同風險程度采取不同的監(jiān)管措施。技術規(guī)制措施在技術管理方面，僅陳述問題，并未給予實際規(guī)制措施。對于創(chuàng)建和應用人工智能技術的公司或企業(yè)，提案規(guī)定了在八種高風險領域范圍內使用人工智能技術，嚴格的防護機制，若企業(yè)違反規(guī)定將處以高達3000萬歐元的行政罰款或者其全球年度總營業(yè)額的2%-6%，取兩者較高金額處罰。數(shù)據(jù)來源：賽迪無線電所整理綜合來看，美國的《藍圖》雖未提出明確規(guī)則舉措，但已將公平和隱私保護視為法案的核心宗旨，后續(xù)細則也將圍繞強化公平和隱私保護展開。歐盟《法案》則首次在人工智能風險管控方面制定了實施細則，分場景、分級別的監(jiān)管措施給完善治理體系提供了操作路徑。二、帶來的啟示規(guī)制措施應進一步明確細化。美國《藍圖》提出了五項基本原則，但只限于“行動呼吁”，并未給出實際規(guī)制措施。目前，我國人工智能治理體系也未明確和細化實施措施。具體而言，我《數(shù)據(jù)安全法》等法律條例，分別對網(wǎng)絡運營商和個人敏感信息以及數(shù)據(jù)處理的安全監(jiān)管保護做了詳細規(guī)定，但在法律層面對人工智能系統(tǒng)和算法的公平性尚未有明確規(guī)定，治理方案缺失。出于填補上述空白、進一步規(guī)范和細化人工智能治理體系的考慮，我國應及時出臺人工智能相關規(guī)則，強化管控風險，推動人工智能產(chǎn)業(yè)健康發(fā)展。三、對策建議加快完善算法公平性管理相關條例。一是立足算法監(jiān)管明確從源頭抓起的基本出發(fā)點，引入公平性約束、算法可解釋性等原則要求，規(guī)范算法監(jiān)管的手段和范圍。二是確立可追溯性原則，將算法行為決策置于監(jiān)管范疇，確保案例調查中可還原追溯算法執(zhí)行過程，對算法不當之處強制要求修正。三是重點關注算法在人工智能系統(tǒng)中的設計、開發(fā)與部署，要求系統(tǒng)開發(fā)設計人員明晰算法在人工智能系統(tǒng)中的運用。一是建立健全人工智能系統(tǒng)風險管控的“事前事中-事后在人工智能產(chǎn)品流入市場前進行風險評估，實現(xiàn)風險管控；事中階段，持續(xù)性進行市場監(jiān)督，實施產(chǎn)品召回制度；事后階段，進行總結分析，實現(xiàn)人工智能風險事故的數(shù)據(jù)共享和風險監(jiān)測。二是根據(jù)風險場景制定有層次有梯度的風險等級管控機制。對歸屬于同一風險場景中的人工智能系統(tǒng)進行統(tǒng)一風險管控，建立起場景明確、等級清晰自下而上限制逐步加深的“風險金字塔”模型的監(jiān)管細則。三是加大違規(guī)處罰力度。明確人工智能系統(tǒng)開發(fā)企業(yè)或獨立開發(fā)者運用算法的風險防范紅線，對風險防范違規(guī)行為給予嚴格懲治，增強監(jiān)管措施的強制約束性。推動技術創(chuàng)新和安全監(jiān)管并重并行。一是采取包容審慎的原則，針對人工智能創(chuàng)新應用場景和技術采取“沙盒監(jiān)管”等創(chuàng)新范圍和手段，迭代試點經(jīng)驗，形成較為成熟的制度化措施。二是推動安全監(jiān)管技術創(chuàng)新。設立人工智能安全技術創(chuàng)新平臺，推進人工智能安全核心技術攻關，建設人工智能安全創(chuàng)新中