“以資料驅動的深度學習，其技術潛力已接近‘天花板’。”9月1日，在2022世界人工智慧大會-可信ai論壇，瑞萊智慧realai合夥人、高階副總裁朱萌發表了演講。

第二代人工智慧是以資料驅動的深度學習，在本世紀第二個十年高歌猛進。但學界普遍認為，從應用的角度來看，深度學習的本質是利用沒有加工處理過的資料，以機率學習的“黑箱”處理方法尋找規律。這一方法本質上不可解釋，非常脆弱，帶來了新的風險和問題。

朱萌以瑞萊智慧團隊所做的研究成果舉例：在自動駕駛場景中，透過修改錐桶的形狀，就能讓汽車感知模組失效，徑直撞上去；透過在t恤上列印含特殊的花紋，就能讓檢測系統捕捉不到穿這件衣服的人，實現“隱身”；製作帶有特製花紋的眼鏡，可刷開數十部商用手機的人臉解鎖等。

為此，清華大學人工智慧研究院名譽院長、瑞萊智慧首席科學家張鈸院士提出要發展“第三代人工智慧”，在實現高水平安全的前提下，為人工智慧高水平發展提供動力和支撐。

安全可信，已成為人工智慧穩健發展的主要抓手，也將逐步成為行業規範化、技術商業化的關鍵助推器。

“人工智慧當前的安全風險主要可以從‘系統’與‘人’兩個視角來剖析。”朱萌認為，系統層面來看，以深度學習演算法為核心的人工智慧系統十分脆弱，其結構性漏洞致使“對抗樣本攻擊”不可避免，而其資料依賴性則使其存在“資料投毒”漏洞，出現“後門攻擊”。從“人”的層面來評估ai的可信問題，主要風險來自人的濫用、惡意應用，最為典型的就是深度合成技術。它大幅降低了資訊生成合成的難度，但其負向應用已產生實質危害，甚至存在“武器化”風險。

針對上述風險，瑞萊智慧於今年6月成立了人工智慧治理研究院，探尋從倫理法規到技術落地的人工智慧治理實踐之路。

據介紹，瑞萊智慧搭建了系列安全可控新一代人工智慧基礎設施，在資料可用、演算法可靠、應用可控等方向上均有世界領先技術和獨創功能，目前已在政務、金融、工業網際網路等高價值場景中發揮了作用。

本文作者：黃海華

題圖來源：圖蟲

圖片編輯：蘇唯