只需上傳自己的照片，相關係統即可自動“換臉”，成為“主角”穿越到熱播網劇中。這樣的AI（人工智慧）換臉已經成為了不少劇迷追劇的新玩法。然而，這種深度合成技術就像一柄雙刃劍，也有可能給使用者帶來威脅。對此，近日釋出並將於明年1月10日起實施的《網際網路資訊服務深度合成管理規定》中明確，AI換臉等應當進行顯著標識，避免公眾混淆或者誤認。

圖源：東方IC

前兩年，中年婦女迷戀短影片平臺上的“假靳東”事件，讓人記憶猶新。隨著技術的發展，不法分子已經可以透過深度合成技術進行變聲、變臉的“深度偽造”，讓“假靳東”們更加逼真，難以辨別真假，進行新型詐騙。合肥警方在“淨網2021”專項行動中打掉一個利用深度合成技術進行犯罪的團伙，犯罪嫌疑人利用電腦將一張張靜態照片製作為人臉動態影片，為黑灰產業鏈提供註冊手機卡等技術支撐。

當眼見不再為實時，就需要制度予以規範。此次出臺的規定中，除了要求對AI換臉等進行顯著標識之外，還要求深度合成服務提供者等，應當提示使用者依法告知被編輯的個人，並取得其單獨同意。同時，深度合成服務提供者和應用商店都要從源頭上對深度合成內容提前把關，否則也要擔責。

有了制度還需要具體的執行。一方面，有關部門要提高公眾對深度合成技術的認知，除了顯著標識之外，更要讓他們瞭解到技術可能帶來的風險，讓公眾一起參與到對深度合成技術的治理中，促使深度合成技術健康良性發展；另外一方面，有關部門也應該看到，隨著“元宇宙”等技術的發展，全身合成、3D塑型等將被廣泛應用，全新的場景將以深度合成技術為基石展開，也需要相關的“底線”和“紅線”進一步明確，避免虛假資訊在短時間內引發產生病毒式擴散。

深度合成技術不是法外之地，也非“洪水猛獸”，不能“一刀切”地禁止。深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防範化解深度合成技術帶來的風險，促進其正向應用與創新，助力打造網路空間良好生態。

方翔/文