【法治護我心——《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》系列解讀】
光明網(wǎng)記者 李飛 孔繁鑫
近年來，不少“AI換臉”“魔法變聲”類應用走紅網(wǎng)絡；影像修復讓影視愛好者得以重溫高清的老電影；電商直播、影視動畫、文化傳媒等日常生活場景中，虛擬數(shù)字人已經(jīng)廣泛應用……深度合成類技術竟這般“神奇”。
作為人工智能領域的新型“黑科技”，得益于人工智能技術的不斷發(fā)展與開放，深度合成技術以其較低的應用門檻、較強的娛樂屬性、豐富的應用場景，愈加受到廣泛關注。然而，利用非法盜取的音視頻和照片，通過變聲、換臉等技術偽裝“瞞天過?！?，實施詐騙或侵犯他人肖像權、名譽權的事件，卻也時有發(fā)生。
1月10日，針對深度合成服務治理的專門性部門規(guī)章《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》）施行，網(wǎng)民普遍“點贊”，對其將形成的治理、規(guī)范效用表達支持。
難辨真假背后技術亂象門檻愈低
以假亂真，是深度合成技術的顯著特點之一?！吧疃群铣煞赵诨ヂ?lián)網(wǎng)社交媒體中廣泛應用，豐富了互聯(lián)網(wǎng)信息內容生態(tài)，推動了互聯(lián)網(wǎng)相關產(chǎn)業(yè)發(fā)展?！敝袊茖W院信息工程研究所所長孟丹認為，該技術在為人民生活帶來了便利便捷和多樣化體驗的同時，也可能被惡意利用，虛假信息內容或將帶來政策干擾、謠言泛濫、低俗內容肆意傳播等影響國家安全、社會穩(wěn)定的風險問題。
圖源 《中國教育報》
中國互聯(lián)網(wǎng)絡信息中心最新數(shù)據(jù)顯示，截至2022年6月，我國有10.51億網(wǎng)民，互聯(lián)網(wǎng)普及率達74.4%。同時，以互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能為代表的數(shù)字領域，逐漸成為我國創(chuàng)新發(fā)展活躍、社會輻射廣泛的新興領域。隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內容也在網(wǎng)絡上大量涌現(xiàn)，越來越多的社會公眾接觸到了深度合成技術。
清華大學研究生院院長周杰認為，深度合成技術的使用門檻愈發(fā)降低，呈現(xiàn)出“平民化”的趨勢，普通人也可以利用簡單方便的軟件工具制作合成內容。
“AI配音騙了多少中老年人”“頂著明星的臉賣貨”……正如部分網(wǎng)民所提到的，在互聯(lián)網(wǎng)技術日益發(fā)達的時代，人們對于看到的畫面、聽到的聲音和讀到的文本，已難以如往常一般充分信任。通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)，具有了高度仿真的視覺、聽覺等效果，使人們難辨真假。
虛假信息一直是互聯(lián)網(wǎng)治理的痛點與難點，深度合成技術的廣泛應用則對虛假信息的治理提出了更高的要求。
既要直面技術風險，又要做好源頭整治
如今，深度合成技術已展現(xiàn)其強大的能力，在各個領域的加速應用逐漸成為趨勢。中國政法大學教授張凌寒認為，《規(guī)定》將深度合成為代表的生成合成類算法作為算法安全治理體系細化的重要一步，一方面是由于深度合成屬于高敏感性的與互聯(lián)網(wǎng)信息內容安全息息相關的技術應用，另一方面深度合成技術將成為網(wǎng)絡虛擬空間與現(xiàn)實物理世界虛實結合、融為一體的關鍵技術應用，未來存在巨大發(fā)展空間。
“在相關技術研究發(fā)展的同時，也須直面技術帶來的風險，保證算法和數(shù)據(jù)的安全性、可靠性，最大程度做到技術進步的趨利避害?！敝芙苓@樣說。
那么，對算法和數(shù)據(jù)的正向引導從何下手？有網(wǎng)民提出，“把平臺管牢，就解決了很大一部分深度偽造問題”。對此，中國信息通信研究院云計算與大數(shù)據(jù)研究所所長何寶宏表示，《規(guī)定》構建了圍繞深度合成“技術支持者”和“服務提供者”的責任框架。其中，技術支持者應從源頭深化技術治理，加強數(shù)據(jù)和技術管理，同時參照相關規(guī)定履行算法備案等手續(xù)。服務提供者應全方位落實信息安全主體責任，強化針對服務、用戶、數(shù)據(jù)、技術以及內容等方面的管理措施，實施安全可控的技術保障措施。
“AI換臉、AI繪畫等常用技術及其生產(chǎn)內容，今后還能使用嗎？”有網(wǎng)友在社交平臺上這樣提問。中國科學院自動化研究所研究員陶建華介紹，《規(guī)定》從兩個方面明確了深度合成內容標識管理的具體要求：一是要添加不影響使用的標識，保障深度合成信息內容可識別溯源；二是要使用顯著方式，對生成或顯著改變信息內容的深度合成信息內容進行標識，保障公眾知情權。
“虛擬主播”如何管理？中國人民大學未來法治研究院執(zhí)行院長張吉豫提到，《規(guī)定》將“數(shù)字人物”納入深度合成管理，這是對深度合成技術的不斷發(fā)展運用中可能面臨的風險所進行的科學研判，數(shù)字人物運用中同樣涉及私權、可能帶來問題，需要進行合理規(guī)范。
技術發(fā)展要兼具“創(chuàng)新”與“溫暖”
正如眾多網(wǎng)民在接觸和使用之中的感受，深度合成技術具有“兩面性”。如何使其保持快速發(fā)展的同時，在各個應用領域得到依法合理有效利用，最大程度服務于滿足用戶需求、改進用戶體驗，保障“眼見為實”，是網(wǎng)民的深度關切和期待。
張凌寒提到，深度合成技術代表了未來人工智能產(chǎn)業(yè)發(fā)展的重要方向，重新定義了虛擬化數(shù)字生存空間。
2021年“元宇宙”概念的火熱，為深度合成技術提供了更加寬廣的應用場景，也促進了深度合成技術的加速發(fā)展。“《規(guī)定》也回應了這一人工智能未來的發(fā)展方向，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景、沉浸式擬真場景的技術，是《規(guī)定》規(guī)制的深度合成技術的重要類別?！睆埩韬f。
深度合成技術向善使用，甚至還可帶給人“情感慰藉”。2019年，我國某人工智能實驗室受一位作為母親的網(wǎng)民所托，將其已離世的女兒合成“復制”為可交互的軟件，女兒的“語音”得以在互動終端設備中重現(xiàn)。一位美國記者詹姆斯·弗拉霍斯（James Vlahos）在父親確診為癌癥晚期后，收集了父親的錄音、生平、記憶，并利用這些數(shù)據(jù)開發(fā)擁有父親“思想”和“記憶”的AI機器人，它能夠用父親的口吻與詹姆斯進行有思維性的聊天，讓詹姆斯感到十分欣慰。
創(chuàng)新與溫情之外，業(yè)內人士坦言，深度合成內容行業(yè)的挑戰(zhàn)，將主要體現(xiàn)在深度合成逼真度正在快速提升，甚至很難分辨真?zhèn)芜吔纭６钚碌纳疃葌卧旒夹g具備強對抗性，天然針對檢測方法進行對抗攻擊，從而使檢測方法失效。
面向算法正面正向的應用，《規(guī)定》已給出了解答和方向。陶建華說，《規(guī)定》明確了技術應用的底線，要求體現(xiàn)正確的社會價值觀；要建立健全辟謠機制并及時采取相應辟謠措施；同時鼓勵深度合成服務相關行業(yè)自律并遵循公正公平、公開透明、科學合理和誠實信用的原則。
中國社科院哲學所科技哲學研究室主任、研究員段偉文還建議，深度合成技術涉及認知安全，要提升社會認知安全意識，提升公眾的數(shù)字素養(yǎng)。
來源：光明網(wǎng)
