1、1第8期（總第33期）美歐數字外交研究系列之一：美歐人工智能政策協調進程、挑戰及啟示2022 年第 8 期（總第 33 期）REPORT01第8期（總第33期）美歐數字外交研究系列之一：美歐人工智能政策協調進程、挑戰及啟示張丁、王星懿、湯文君、鄭樂鋒、董汀、孫成昊清華大學戰略與安全研究中心美歐研究項目2022年12月5日，美歐貿易和技術委員會（TTC）首次發布可信賴人工智能和風險管理評估與測量工具聯合路線圖（簡稱“聯合路線圖”），從術語規范、標準制定以及風險監測等三方面指導雙方人工智能風險管理和可信賴人工智能發展，并促進相關國際標準的制定。本報告將主要探討美歐在人工智能領域政策協調的背景、政策

2、合作路線圖、分歧以及相關啟示。一、美歐人工智能領域政策協調進程2021年6月15日，美歐貿易和技術委員會（TTC）正式啟動，并成立技術標準工作組，將人工智能等新興科技領域的國際標準制定提上合作日程。在2021年9月第一次部長級會議后發布的聯合聲明中，美歐不僅再次申明雙方對于發展可信賴人工智能的愿景，也表示要依照機構議程在部長級會議以外成立10個工作組，分別由美歐各相關機構牽頭組織，聚焦開發人工智能等新興技術領域標準制定的方法，應對技術濫用對安全和人權帶來的威脅，其中專門提及在開發可信賴人工智能項目上增進合作。合作內容具體包括兩方面：一是雙方肯定彼此在人工智能風險管理框架制定的成果外，提出將致力

3、于在可信賴和負責任的人工智能概念和原則層面達成共識，并有意在此基礎上建立共同的測量和評估工具。二是雙方在可信賴人工智能用于更好的機器學習、隱私保護技術研發及人工智能對未來就業的影響等方面也表02國際戰略與安全研究報告明合作意向。a2022年5月TTC第二次部長級會議之后發布的美歐聯合聲明顯示，雙方將工作組的合作深化到各職能機構的協同行動，為12月第三次部長級會議前希望達成的目標制定具體工作計劃。工作組重點關注的，是如何在遵循諸如經濟合作與發展組織（OECD）有關人工智能發展的原則建議等已有共識基礎上，使其適應美歐各自的法律體系，并和歐盟人工智能法案、美國人工智能權利法案藍圖以及人工智能風險管控

4、框架等內部政策倡議相結合。這一過程離不開美歐各有關機構的協作，美國國家標準與技術研究院（NIST）以及歐盟委員會正和歐洲各標準化組織（ESOs）協調行動，嘗試在人工智能風險管理、評估與測量工具及發展可信賴人工智能的社會技術要求方面達成一致，以對抗其他“非市場經濟體”日益上升的影響力。此外，雙方進一步強調開發可互操作的方法，加大信息和資料庫共享的程度。b在剛剛舉行的第三次部長級會議后，TTC發布了新的聯合聲明，整理了會議的主要成果。在發展可信賴人工智能方面，美歐發布了聯合路線圖，為雙方在風險管理和可信賴人工智能方面合作提供指引，并推動國際標準制定；另外，雙方還達成一項評估醫療衛生領域隱私保護技術

5、應用的試點項目，同時在研究人工智能如何影響就業、極端天氣和氣候預測、能源等領域增進合作。在技術標準制定合作方面，美歐雙方已推出5月聯合聲明中提出的戰略標準信息機制（SSI），這將有助于使雙方在標準化及戰略性事件上保持信息共享和協同行動。a “US-EU Trade and Technology Council Inaugural Joint Statement”,The White House,September 29,2021,https:/www.whitehouse.gov/briefing-room/statements-releases/2021/09/29/u-s-eu-trade

6、-and-technology-council-inaugural-joint-statement/.b “US-EU Joint Statement of the Trade and Technology Council”,The White House,May 16,2022,https:/www.whitehouse.gov/wp-content/uploads/2022/05/TTC-US-text-Final-May-14.pdf.03第8期（總第33期）二、美歐聯合路線圖主要內容目前，以美歐各自已推出的相關法規、政策文件為藍本，雙方將基于共同價值觀指導新興技術發展，力求未來在風險監

7、管方式等層面達成一致。（一）在充分尊重既往成果的基礎上謀求共識在聯合路線圖發布之前，美歐雙方各自已發布人工智能相關監管政策文件。美國出臺了人工智能風險管控框架 人工智能權利法案藍圖，歐盟則出臺了歐盟人工智能法案。這些政策文件是雙方進行協商的重要基礎。聯合路線圖所構想的工作將與包括國際標準制定組織（ISO）、OECD和電氣與電子工程師學會（IEEE）在內的國際組織的各項全球性工作保持一致，并參考美歐雙方的既往成果和理念，綜合推進可信賴的人工智能和風險管控。謀求概念和術語的一致性。聯合路線圖指出，推進概念、術語在理解和應用層面相一致在有效風險管控方面具有重要意義，在基本術語層面達成一致將在制定標準

8、和明確責任、實踐和政策時提供可互操的分類法。TTC將著力推進包括但不限于以下概念和術語的一致性：風險、風險管理、風險容忍度、風險認知、可信賴的人工智能的社會技術特征。此前，歐盟曾指出成員國內部存在人工智能風險評估標準不一致、需要引入明確的人工智能風險標準等問題c；美國國家標準與技術研究院則有明確的人工智能風險和可信賴度術語概念d。聯合路線c “Regulatory divergences in the draft AI act:Differences in public and private sector obligations”,European Parliamentary Researc

9、h Service,May 2022,https:/www.europarl.europa.eu/RegData/etudes/STUD/2022/729507/EPRS_STU(2022)729507_EN.pdf.d “AI Risk Management Framework:Initial Draft”,National Institute of Standards and Technology,March 2022,https:/www.nist.gov/system/fi les/documents/2022/03/17/AI-RMF-1stdraft.pdf.04國際戰略與安全研究

10、報告圖對概念、術語的強調，反映了雙方對這一問題共同的重視。（二）尋求人工智能國際標準規則制定國際技術標準制定、可信賴的人工智能和風險管理工具的開發和使用以及人工智能風險監測和評估，是影響全球人工智能領域規則解釋、標準應用、新興技術賦能、市場開發的核心要素，直接影響利益相關方和人工智能透明化、公開化、公正化、包容化發展進程。在這方面，聯合路線圖提出的具體舉措如下：在國際技術標準制定層面，聯合路線圖提出應共同遵守：一是人工智能國際標準中的需求、規范、測試方法和指南應與可信賴特征相關；二是人工智能國際標準的全球領導；三是美歐共同支持和領導國際技術標準制定工作；四是在與各自法律體系相一致的前提下，充分

11、遵守世貿組織技術性貿易壁壘標準；五是鼓勵廣泛的利益相關方參與國際技術標準制定工作。在開發可信賴的人工智能和風險管理工具層面，依據OECD對“工具”一詞的定義，聯合路線圖提出：一是建立美歐共享指標和方法的數據庫，評估人工智能可信賴度和存在風險；二是支持利益相關方針對可信賴的人工智能相關工具開展分析，分析結果用以支持國際技術標準制定。在監測、評估已出現的和潛在的人工智能風險層面，聯合路線圖提出，TTC將推動建立人工智能前沿科學及其相關風險研究的知識共享機制，并明確具體實施步驟：一是基于現有背景條件、具體案例、影響和傷害數據，持續跟蹤已出現的和潛在的風險和風險類別；二是測試和評估人工智能風險的可互操

12、性。（三）聯合路線圖的短期和長期目標聯合路線圖明確了短期和長期目標，從標準制定、工具開發和風險監測與評估等方面建立雙邊合作機制開始，逐步拓展到在國際層面發揮引領作用：05第8期（總第33期）短期目標長期目標推動建立具有包容性的合作渠道建立 3 個專家組，分別負責國際技術標準制定、可信賴的人工智能和風險管理工具的開發和使用以及人工智能風險監測和評估工作；制定每個專家組的工作計劃；制定利益相關方與專家組之間的協商計劃，包括舉行專家研討會。為國際標準的使用和領導提供信息，舉辦相關專家研討會；審查和評估進展，必要時更新路線圖；確定合作契機，分享經驗成果。推動術語和分類法共享實現包括但不限于以下概念和術

13、語的一致性：風險、風險管理、風險容忍度、風險認知、可信賴的人工智能社會技術特征。進一步加深對術語和分類法的共同理解，并開展修訂工作。推動國際人工智能技術標準制定開展美歐雙方關心的標準的前景分析，評估各方對標準制定的參與度和貢獻度；完成雙邊關心的國際標準的制定；加強與國際標準制定機構的溝通交流。組織國際標準制定論壇，并就已確定的項目開展合作；在共同關心的標準的制定和應用方面與專家開展合作，并提供相應支持。開發可信賴的人工智能和風險管理工具建立工具選擇、納入和修正程序；為相關工具建立評估標準。明確增加到共享中心/數據庫指標和方法；更新和維護共享中心/數據庫。推動監測、評估已出現的和潛在人工智能風險

14、根據工具使用情況，標記已出現的人工智能風險，建立跟蹤辦法，并嘗試建立風險分類標準；確定對新出現的人工智能風險測試和評估方法。通過對人工智能傷害事件的實證研究，建立風險分類標準和評估機制；針對新出現和潛在的風險進行理論預判。06國際戰略與安全研究報告三、美歐人工智能合作面臨的挑戰美國過去許多分散和漸進式的人工智能監管政策在近幾年正匯聚出積極變化。2022年2月，美國布魯金斯學會發布的報告稱歐盟和美國開始在人工智能監管領域趨同對標。e自2021年9月召開的首次TTC會議將人工智能政策問題納入重點討論范圍后，美國已開始啟動監管引擎，招募人工智能治理專業人士，與歐盟開展更加積極主動的監管舉措。這顯示出

15、拜登政府正趨向與歐盟相類似的人工智能監管目標，客觀上將加強美歐在人工智能治理政策上的一致性。此次TTC會議提出的路線圖旨在為美歐跨大西洋人工智能風險管理和發展可信賴人工智能方法提供信息，并推進與人工智能相關的國際標準機構的協作方法。f為使歐盟和美國在基于風險的方法上保持一致，路線圖提出的推進術語共享、領導國際標準和新型風險監測三項具體方案，是美歐推進人工智能合作監管的重要共識。然而，路線圖也指出，對于風險管理制度的建立以及監管和自愿措施之間的適當平衡，歐盟和美國在如何應用監管技術方面仍有差距。具體表現為在風險評估的責任分配、建立風險管理系統的可能法律責任，還有風險評估的法律責任等監管問題上存在

16、潛在分歧。此外，人工智能作為美歐跨大西洋技術合作的關鍵領域，雙方合力推動可信人工智能和風險管理制度仍存在以下阻力。第一，戰略與理念沖突。一方面，美歐人工智能戰略并不一致。e “The EU and U.S.are starting to align on AI regulation”,Brookings,Feburary 1,2022,https:/www.brookings.edu/blog/techtank/2022/02/01/the-eu-and-u-s-are-starting-to-align-on-ai-regulation/.f “EU-US Joint Statement o

17、f the Trade and Technology Council,European Comission”,December 5,2022，https:/ec.europa.eu/commission/presscorner/detail/en/STATEMENT_22_7516.07第8期（總第33期）對于開發人工智能及其監管工具，美國安全和外交政策機構將之視為大國競爭的重要國家安全資產，要使其成為拓展技術影響力的工具g，但歐盟基于經濟發展與民主價值觀更關注人工智能技術的倫理挑戰。此外，歐盟對減少技術依賴性與脆弱性的尋求，使之渴望在人工智能領域擁有一定程度的戰略自主，這包括事前技術監管上的

18、獨特優勢。自2020年以來，美歐在人工智能監管領域出臺法案并成立相關工作組。相比之下，美國推動的人工智能法案中對人工智能的定義更窄，通用人工智能的豁免范圍更廣，并在提出自身的個性化風險評估。在今年10月美國就TTC合作提交歐盟委員會的非正式反饋文件中，美國反對通用人工智能提供商必須與其用戶合作以幫助擁護遵守人工智能法的觀點，包括披露機密商業信息或商業秘密。美國更側重商業利益的追求一定程度上與歐盟重視人權與隱私的技術發展觀相悖。此外，基于雙方的不同發展戰略與研發創新基礎，歐盟人工智能發展相對美國總體落后。當前通用人工智能系統的主要供應商多來自微軟和IBM這樣的大型美國公司，而據生命未來研究所（F

19、LI）11月發布的報告顯示，歐洲通用人工智能模型研發明顯滯后，歐盟企業越來越依賴Meta、谷歌、微軟和百度等美國和中國公司的通用人工智能系統來開發其他人工智能應用工具。h這種依賴可能阻礙歐盟參與制定人工智能全球標準的努力，也將加大美歐人工智能互操作性的阻力。ig Schmidt,Eric.“AI,Great Power Competition&National Security.”Daedalus 151,no.2(2022):28898.https:/www.jstor.org/stable/48662042.h “Emerging Non-European Monopolies in th

20、e Global AI Market”,Future of Life Institute,November 2022,https:/futureofl ife.org/wp-content/uploads/2022/11/Emerging_Non-European_Monopolies_in_the_Global_AI_Market.pdfi Luca Bertuzzi,“The US unoffi cial position on upcoming EU Artifi cial Intelligence rules”,October,26,2022,https:/ cial-position

21、-on-upcoming-eu-artifi cial-intelligence-rules/.08國際戰略與安全研究報告另一方面，美歐對人工智能風險管理理念亦存差異。美國更鼓勵人工智能技術創新與發展，強調監管的科學性和靈活性，致力于確保和增強美國在該領域的科技和經濟領導地位。歐盟的人工智能方法強調以人為本，其監管風格兼顧發展與規制，期望通過高標準立法和監管來重塑全球數字發展模式。美國極力限制監管范圍以促進創新與發展，歐盟意圖加強監管以強化個人權利保護。對歐洲而言，自身的數字脆弱性正在成為一種地緣政治安全問題，而美國人工智能的發展影響歐洲防務及更廣泛領域，當前美歐的戰略合作可能會導致跨大西洋數

22、字鴻溝。j因此，雙方在開展人工智能領域的治理行動難免產生摩擦與分歧。第二，技術監管差異。人工智能作為數字技術的重要領域，其監管模式將受到整體數字監管環境的影響。在監管方式上，美國與歐盟在人工智能監管方面遵循兩種不同思路，美國側重于技術應用和流程監管，而歐盟側重組織管理與風險管理。2020年1月，美國政府發布的人工智能應用監管指南代表美國在人工智能監管上科學審慎監管、不監管、非監管措施多管并舉下共促創新與發展的總體思路。同年2月，歐委會在人工智能白皮書提出投資和監管并舉的思路，包括基于風險路徑對人工智能建立新監管框架，目的在于使各種風險和潛在損害最小化。相比之下，歐盟人工智能監管框架延續GDPR

23、的立法初衷，更強調個人權利保護和人工智能應用的負面影響，而美國更強調促進人工智能創新與發展，因而為人工智能應用創設“安全港”、監管例外、監管豁免等制度。歐盟為人工智能應用進入監管領域設置較低門檻，其監管要求具體入微，監管和執法覆蓋全過程，而美國所倡導的科學審慎監管、風險評估與管理、成本效益分j Soare,Simona R.“DIGITAL DIVIDE?:Transatlantic Defence Cooperation on Artificial Intelligence.”European Union Institute for Security Studies(EUISS),2020.

24、http:/www.jstor.org/stable/resrep25027.09第8期（總第33期）析、靈活敏捷等理念，會很大程度壓縮監管空間。美國也并不希望完全采用歐盟自上而下的人工智能監管方式影響自身技術創新優勢。k由于歐盟市場的規模和美國在數字監管方面的相對不作為，世界各地的國家和公司目前多在該領域采用一些歐洲標準，這常使歐盟與美國科技公司和政府發生直接沖突。雖然美歐雙方曾就歐盟技術監管對美國的影響，以及共同監管的跨大西洋聯盟的可行性進行討論，但美國表示不會完全接受歐盟式的監管。當前在與數字監管相關的關鍵點上美歐存在三大分歧：美國反壟斷立法對政府的支持程度低于其歐洲同行；缺乏真正的美國

25、數字監管框架；美國憲法第一修正案對在線平臺的保護程度不足。l在平臺監管與數字審核方面，歐盟正采取事前監管，而美國為事后監管。m在監管落實速度上，參考通用數據保護條例（GDPR）的生效過程，歐盟人工智能法案主導下的重大監管決定出臺仍有待時日，而在通過TTC加強與歐盟治理合作的背景下，美國無論是現階段國內監管政策的調整還是未來幾年政策變化的趨勢，都有可能與歐盟逐漸靠攏，甚至在決策和執行速度方面領先于歐盟。值得注意的是，美歐的不同監管方式也將影響各自技術和產業發展，過度強調監管存在拉大歐盟與美國人工智能總體發展差距的風險，并限制自身標準的全球k AdamThierer,“Why is the US

26、following the EUs lead on artificial intelligence regulation?”,The Hill,July 21,2022,https:/ cial-intelligence-regulation/l “The EU as a digital regulatory superpower:Implications for the United States”,European Council on Foreign Relations,April8,2020,https:/ecfr.eu/article/commentary_the_eu_as_a_d

27、igital_regulatory_superpower_implications_for_the_u/.m “The US-EU Trade and Technology Council(TTC):State of Play,Issues and Challenges for the Transatlantic Relationship”,European Council on Foreign Relations,January 2022,https:/www.esade.edu/ecpol/wp-content/uploads/2022/12/AAFF_EcPol-OIGI_PaperSe

28、ries_ENG_def_jan22.pdf.10國際戰略與安全研究報告影響 力n，雙方監管差異也將阻礙雙方的規制整合。第三，數據治理分歧。此次路線圖特別提到隱私在推進負責任的人工智能發展中的重要性。此前，美歐在技術政策中存在的摩擦尤其集中在數據治理的主權與隱私問題上。o在數據隱私方面，技術競爭政策和數字監管是跨大西洋技術政策中最具爭議的問題。在立法層面，歐盟早已將數據治理和隱私保護納入法律，2020年的數據戰略目標是在歐盟內部建立單一的數據市場和相應的數據治理戰略，但這實際上會阻礙美歐之間的數據流動。而美國在數據保護和隱私問題上缺乏全球影響力，法律上的參差不齊難以緩解相關的國家安全風險。20

29、22年6月，美國眾議院和參議院發布美國數據隱私和保護法案（ADPPA）討論稿，但該法案離正式成法還有一定距離。關于人工智能監管與算法決策，ADPPA將為公司收集的個人信息制定國家標準和保障措施，包括旨在解決算法潛在歧視影響的保護條款。p雖然法案中諸多條例都與歐盟GDPR類似和趨同，但法案出臺的重要意圖之一便是制衡歐盟在全球隱私保護領域的影響，以推廣美國隱私保護理念，例如“選擇退出”機制、有限私人訴訟權等。qn Alex Engler,“The EU AI Act will have global impact,but a limited Brussels Effect”,Brookings,J

30、une 8,2022,https:/www.brookings.edu/research/the-eu-ai-act-will-have-global-impact-but-a-limited-brussels-effect/o “Lighting the Path Framing a Transatlantic Technology Strategy”,Center for A New American Security,August 30,2022,https:/as.org/publications/reports/lighting-the-path.p Niketa K.Patel a

31、nd Tori K.Shinohara,“The American Data Privacy and Protection Act:Is Federal Regulation of AI Finally on the Horizon?”,Mayer Brown,October 21,2022,https:/ American Data Privacy and Protection Act Draft Legislation Section by Section Summary,https:/merce.senate.gov/services/files/9BA7EF5C-7554-4DF2-A

32、D05-AD940E2B3E50.11第8期（總第33期）此外，歐盟對數字主權的追求，雙方對地緣政治中利益優先事項的差異，還有美國政治愈發極化下的不穩定政策而造成跨大西洋隔閡，都將影響美歐人工智能監管合作的實質效果。四、美歐人工智能政策協調啟示近年來，人工智能發展更為強大復雜，其技術成熟度已被認為是國家實力的核心組成部分，但人工智能系統的脆弱、偏見、不安全和不透明等問題使之無法在高風險用例中使用，如何構建可信賴的人工智能系統成為主要大國規制競爭的關鍵問題。r美歐在TTC聯合路線圖中所提出的核心愿景，便是合力打造基于風險的監管方法和可信人工智能系統。雖然目前尚未看出雙方具體的監管調整進展s，但美

33、歐技術聯盟開展的政策協調行動，對他國推動人工智能風險監管與治理合作具有啟示意義。首先，參考國際標準開展國際合作，積極參與國際人工智能治理標準體系。闡明與可信特性相關的要求、規范、測試方法或指南的人工智能標準，有助于確保人工智能技術和系統滿足互操作性等關鍵目標，也能促進人工智能準確性、可靠性和安全性等性能特征。因此，人工智能國際標準的全球參與和合作對于實現互操作性至關重要。t這要求政府在制定內部人工智能治理政策時與國際方法保持一r “International Competition over Artifi cial Intelligence.”Strategic Comments,vol.28

34、,no.3,2022,pp.viiix,https:/doi.org/10.1080/13567888.2022.2091878.s David Matthews,“EU and US set out plan to create rules of the road for artifi cial intelligence”,December6,2022,https:/ cial-intelligencet “US-EU Joint Statement of the Trade and Technology Council”,The White House,December 5,2022,ht

35、tps:/www.whitehouse.gov/briefing-room/statements-releases/2022/12/05/u-s-eu-joint-statement-of-the-trade-and-technology-council/.12國際戰略與安全研究報告致。當前，美國和歐盟尋求領導人工智能國際標準化工作，并通過在國際標準組織目前正進行的人工智能技術標準開發方面的合作來實現，這些標準將影響可信賴人工智能和風險管理的設計、操作、評估和測量。酌情支持和使用國際標準，可作為技術法規、合規評估（conformity assessment）和區域標準的基礎。與此同時，歐盟和美

36、國的TTC合作經驗表明與利益相關者及相關機制合作非常重要，從中能找出現有國際人工智能標準制定活動中的關鍵差距。其次，推進人工智能治理共享術語和分類，在國際合作中協商統一內涵以擴大框架的互操作性。TTC路線圖提出提供一個可互操作的詞典來交流風險和適當處理風險，這將能夠反過來促進人工智能風險和影響的可互操作測量和評估。在人工智能國際監管合作中共同開發工具，例如共享指標存儲庫，同樣可以促進風險衡量的透明度、互操作性和統一性。TTC路線圖里提出要共享術語和分類的核心基于國際標準化組織（ISO）和國際電工委員會（IEC）聯合發布的人工智能基礎標準，中國企業也可以兼顧在美國國家標準技術研究所（NIST）、

37、電氣電子工程師學會（IEEE）和歐洲標準委員會（CEN）、歐洲電工技術標準委員會（CENELEC）等相關標準框架下積極參與。最后，建立人工智能風險監測機制與風險評估審計機制，完善人工智能風險治理工具包。TTC路線圖里提出建立風險監測體系和知識庫，能夠讓美國與歐盟更加全面深入的掌握人工智能治理方向。中國可考慮通過風險監測和對策的高效反饋來建立人工智能治理領域的專業領導力。人工智能產品的市場份額是未來掌握技術話語權的重要基礎，但會受到人工智能安全認證的影響。中國可考慮積極通過雙邊或多邊機制構建互認的人工智能風險評估審計機制。此外，應完善人工智能風險治理工具包，為中國企業特別是中小企業應對人工智能治理提供可負擔、易操作的工具選擇，在加強人工智能治理的同時輔助企業符合法規和技術標準的要求。審編：肖茜 簽發：達巍掃碼關注我們清華大學戰略與安全研究中心編印辦公地點：北京市海淀區清華大學明理樓428房間聯系電話：010-62771388http:/ 郵箱：