您現在的位置是:首頁 > 攝影首頁攝影

2023預見AI①丨AI時代的演算法治理:呼喚多領域規則供給,注重分類分級治理機制落地

由 21世紀經濟報道 發表于 攝影2023-02-02
簡介談及2022年我國人工智慧演算法治理的特點,吳沈括指出,我國已率先在全球範圍內形成了具體的法律規則,並付諸於具體的執法舉措,有實際的制度建構和實際的配套監管落地工作

ai部門是什麼職位

南方財經全媒體記者 李潤澤子 實習生 楊儒宇 廣州報道

2023年伊始,《網際網路資訊服務深度合成管理規定》正式實施,標誌著我國演算法安全治理體系的進一步完善。

演算法作為人工智慧等新一代資訊科技的核心,已嵌入經濟社會的方方面面,無處不在。然而,隨著人工智慧技術的蓬勃發展,演算法應用中也迅速出現了演算法歧視、演算法安全、演算法操控等諸多問題。

在此背景之下,完善演算法治理迫在眉睫,也成為了亟需各方共同面對的重要議題。2022年,我國便從立法、監管和司法層面推動演算法治理體系逐漸深入。在這一年,《網際網路資訊服務演算法推薦管理規定》等涉及具體演算法問題的法規相繼實施,相關監管執法行動陸續啟動。與此同時,演算法技術引發的法律爭議也不斷增多,多例演算法技術引發的新型糾紛案件也有了裁判結果。

立於2023年的起點,回望過去,我國演算法治理制度構建與監管落地同步,已率先在全球範圍內形成了具體的法律規則並付諸於具體執法舉措。遠眺未來一年,隨著技術不斷髮展,規則不斷完善,演算法治理又將走向何方?

2022,制度構建與監管落地同步

對於人工智慧演算法治理而言,2022年是意義非凡的一年。在這一年,我國演算法治理進一步升級,治理體系日漸完善,制度構建與監管落地同步。

2023預見AI①丨AI時代的演算法治理:呼喚多領域規則供給,注重分類分級治理機制落地

*結合郭兵受訪內容整理

2022年3月,《網際網路資訊服務演算法推薦管理規定》正式實施,明確反對演算法歧視、大資料殺熟、誘導沉迷等演算法的不合理應用。值得注意的是,這一規定是我國首個專門針對演算法推薦的部門規章,也被視為世界範圍內首次針對演算法推薦的專門立法。

當年9月,《網際網路彈窗資訊推送服務管理規定》實施,針對彈窗資訊推送應用中演算法問題進行了專門規定。

而在年底12月,《網際網路資訊服務深度合成管理規定》釋出,針對利用深度學習、虛擬現實等生成合成類算法制作文字、影象、音訊、影片、虛擬場景等網路資訊的技術進行規制。該規定也已於2023年1月正式實施。

相關監管執法行動亦在2022年陸續啟動,如網際網路資訊服務演算法備案系統於3月上線,“清朗·2022年演算法綜合治理”專項行動也在4月啟動。

此外,浙江理工大學法政學院特聘副教郭兵告訴南方財經全媒體記者,2022年演算法技術引發的法律爭議也不斷增多,法院針對全國首例短影片平臺演算法推薦侵權糾紛案、大資料殺熟第一案、首例涉及演算法風控系統引發人身權益侵權糾紛案等演算法技術引發的新型糾紛案件作出了裁判。

“演算法被視為是人工智慧的核心驅動力。正因如此,演算法治理也就成為了人工智慧治理的主要方面。”

郭兵表示。

中國網際網路協會研究中心副主任、北京師範大學博士生導師吳沈括解釋,

演算法治理之於人工智慧治理十分重要的另一原因是演算法問題是人工智慧治理之中各方關注度極高的一個公共議題,在智慧社會語境中也事關每一個人的切身利益。

談及2022年我國人工智慧演算法治理的特點,吳沈括指出,

我國已率先在全球範圍內形成了具體的法律規則,並付諸於具體的執法舉措,有實際的制度建構和實際的配套監管落地工作。

他進一步分析認為,

我國在演算法、人工智慧治理方面,比較側重於從內容治理的角度切入,強調對於演算法應用可能伴生的內容治理風險做出系統全面的規制。此外,演算法治理強調多方參與、共建、共享、共治。在為各方設定權利義務的同時,努力透過制度建構來推動各方的協同治理。提高合作治理的水平,強化治理的實質效果。

“這一點跟我們整體的網路治理當中所秉持的生態型綜合治理,是一脈相承的。”吳沈括說。

對外經濟貿易大學數字經濟與法律創新研究中心執行主任張欣則認為,

2022年我國正式開啟了針對人工智慧治理的系統化、整體化、一體化路徑。對人工智慧的治理,從之前鑲嵌在個人資訊保護、電子商務、網路安全等主題之下,到現階段單獨成為一個重要的規制議題,具有在治理層面的重要意義。

2023年,演算法治理走向何方?

步入2023年,演算法技術仍在不斷深入發展,演算法綜合治理也仍然在路上。

在吳沈括看來,

加強有關演算法應用的技術要素治理是當務之急。這之中既包括了演算法本身的基礎技術要求和准入門檻,也包括了對其的價值要求。而另一方面,提升有關演算法應用組織管理方面的治理水平也十分重要。“特別是針對演算法從研發到應用全流程的權利義務配置,包括加強演算法應用當中的業務指引。”

事實上,從2022年涉及演算法技術的典型司法案例來看,法院的相關裁判仍然存在不少爭議。郭兵解釋,這些爭議在一定程度上與相關制度規則不明確有關。“

為了更有效地推動演算法治理,還需要不斷加強相關制度規則的供給

。”

而針對具體領域的演算法治理來說,除了商業領域的演算法推薦、深度合成等問題外,其他領域的演算法治理也還需要進一步深入拓展解決。

“隨著數字政府的不斷推進,政務領域的演算法治理也應當不斷強化,各級政府部門在演算法技術應用的過程中應當深入吸取‘河南村鎮銀行千餘名維權儲戶被賦紅碼事件’的經驗教訓。”郭兵指出。

展望新的一年,吳沈括預測,

對於演算法應用產業實際需求的迴應將進一步提升,其中就包括完善和改進演算法備案等各項監管舉措,這將更好地實現風險監管和產業發展之間的協調互動。

張欣則認為,

2023年我國將會以演算法規制為引領,逐步深入到更為具體的場景和應用。

目前我國對於推薦演算法、深度合成均已出臺了相關的規定。“接下來我們會更加註重人工智慧應用層和技術層的規制。例如,對自動駕駛汽車規制的進一步完善。”

同時,她提到在演算法層面,我國應當注重演算法分類分級治理機制的落地。具體而言,

應當注重形成演算法影響評估、演算法審計、演算法認證等為核心的演算法治理工具體系的設計,為演算法分類分級治理提供抓手和依據。與此同時,也要注重演算法治理與資料治理和平臺治理的有機聯結,注重平臺分類分級、資料分類分級與演算法分類分級的適當結合。

此外,國際合作或許也將成為2023年演算法治理的新常態。吳沈括認為,在演算法治理層面將會出現更多的國際對話、合作交流和博弈。“特別是在以聯合國數字契約為代表的一系列國際議程當中,演算法會有越來越突出的地位,也將引入更多的利益相關方積極參與,並在全球層面形成有關演算法治理的若干共識。”

更多內容請下載21財經APP