1月10日，360天樞智庫、天津智慧城市數字安全研究院、網路空間國際治理研究中心三方聯合釋出《全球人工智慧安全治理》報告，報告站在全球視角的宏觀高度縱覽、分析和解讀人工智慧安全治理問題，提出人工智慧發展面臨十大安全挑戰，旨在探索既能發揮人工智慧技術效益又能控制其安全風險和負面影響的治理之道，是中國學術界和產業界對人工智慧發展與安全的一次思想碰撞與深度探索，對人工智慧安全治理具有積極指導意義。

（360聯合天津智慧城市數字安全研究院釋出《全球人工智慧安全治理》報告）

在人工智慧加速智慧化變革的同時，針對人工智慧的倫理規範、風險框架、以及治理理念和模式的探索成為各國學術界和政策界的重點工作。360首席安全官、天津智慧城市數字安全研究院院長杜躍進稱，人工智慧作為中、美、歐等國家或地區都在積極發展的關鍵新興技術，其在發展過程中所產生的安全挑戰也更為複雜多元，世界主要國家和地區已經將安全治理列為各自人工智慧戰略的優先事項。

目前，各國普遍關注的人工智慧安全問題共十類，包括網路安全問題、企業合規問題、可解釋性問題、隱私安全問題、聲譽和倫理問題、未來勞動力問題、公平性問題、人身安全問題、社會穩定問題、以及國家安全問題。而以上挑戰對映到人工智慧的研發和應用過程，又可以劃分為人工智慧自身安全、衍生安全、以及人工智慧賦能安全等核心安全挑戰。

報告顯示，作為一種數字技術，人工智慧“雙刃劍”特徵明顯，不僅自身存在數字安全威脅和隱患，隨著人工智慧工程化、場景化、平臺化落地不斷加快，人工智慧安全需求已經超越單純技術範疇。面對日趨複雜的安全挑戰，人工智慧安全治理難以一蹴而就，只有在實踐中不斷摸索，才能將人工智慧安全風險遏制在可控範圍。

報告對各國人工智慧安全治理模式進行了深入剖析，針對上述問題，報告主要發現：美國流派在人工智慧安全治理上採取的手段是在人工智慧技術部署、使用與監測的全過程中都進行驗證與監管，建立與之配套的規範體系；歐盟流派則更寄希望於運用監管框架與信任體系來對人工智慧的安全進行規制；相較美國與歐盟，中國流派的人工智慧安全治理致力於形成內含研發、管理和應用的全流程安全保障體系，涵蓋基礎框架研製、基本安全原則、供應鏈管理實踐指南、安全服務能力、應用領域的標準研製等各個方面。

為了避免人類社會發展被技術創新所“反噬”，也就是落入所謂的“科林格里奇困境”，產學研各界以監管和設定可操作性原則為主導，透過治理實踐凝聚共識，探索人工智慧安全治理的思路與模式。報告詳細介紹了業界通用的各類風險治理思路，首先是基於未來風險預防的影響評估模式，其次是基於自主性原則的元監管模式，然後是基於透明追蹤的AI系統預警模式。並由此細分出以使用者為考慮重點的參與性設計和以政府為主導力量的敏捷治理兩條路徑。

在中國，360等多家人工智慧龍頭企業以自身實踐構建行業安全案例，走出了技術賦能、行業規制、平臺監測的多種道路。其中，360承建了科技部牽頭成立的“安全大腦國家新一代人工智慧開放創新平臺”建設，集中解決各類人工智慧發展問題，引領人工智慧安全生態建設。

作為報告聯合發起方，天津智慧城市數字安全研究院依託於新一代人工智慧創新發展試驗區核心區——中新天津生態城提供的豐富應用場景，緊緊把握新型城市發展規律和機遇，致力於促進人工智慧與經濟社會發展深度融合，助力打造“智慧城市國家級標杆區”。

隨著數字經濟成為改變全球競爭格局的關鍵力量，人工智慧產業將得到更大發展。同時，人工智慧安全治理也將得到全世界的關注和推動，《全球人工智慧安全治理》報告作為相關領域的權威論著，也將為人工智慧產業的健康發展貢獻一份重要的力量。