3月1日，《互聯網信息服務算法推薦管理規定》正式施行，再度引發業界對算法技術的探討。真偽難辨的AI換臉視頻、逼真的音視覺合成特效、火爆出圈的虛擬數字人……這些創新應用皆標志著AI算法的突飛猛進，同時也成為了深度合成技術走入尋常百姓家的具體體現。
“深度合成技術，是利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。” 瑞萊智慧副總裁唐家渝向《中國電子報》記者介紹說。
從該技術的正向應用價值來看，作為當前大熱的元宇宙概念中的一項關鍵技術，深度合成已被廣泛應用于影視、音樂、科技、教育、生活、娛樂、咨詢等各個領域，需求場景趨于多元且成熟。比如北京冬奧會期間的手語AI解說小聰、登上春晚舞臺的虛擬偶像洛天依以及動畫、游戲中快速生成的人物形象等等。
“深度合成重新定義虛擬化數字的生存空間。” 瑞萊智慧CEO田天表示，“元宇宙是非常火爆的話題，很多新應用都在快速發展，但是在虛擬空間里關鍵的一點就是怎樣快速生成更多內容的創作，特別是跟實體進行虛實結合的，基于深度合成技術我們可以把制作時間和成本大大壓縮，可以豐富虛擬空間的內容，可以為更加多元化的傳播提供可能性。所以，深度合成也是元宇宙發展過程中必不可少的支撐性技術。”
然而，不容忽視的是，隨著技術門檻快速降低，通過深度合成技術制造虛假視頻、虛假語音進行誣陷、誹謗、詐騙、勒索等違法行為和事例也在不斷增多、危害性不斷增強，對社會國家安全，公司以及個人的名譽、財產造成等都會造成不可估量的損失。據悉，此前有不法分子通過偽造企業高管語音騙取3500萬美元，這樁“深度偽造第一大案”曾經轟動一時。
“數字技術帶來的變化是深刻的。數字內容的可重復性、持久性和全球影響力改變了欺騙的潛在規模和影響。”中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文指出，Deepfake(深度偽造)削弱了人們對信息和媒介的信任感，也會對人際關系產生影響。
近日，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業信息安全發展研究中心聯合發布《深度合成十大趨勢報告(2022)》。報告開篇，中國科學院院士、清華大學人工智能研究院創始院長張鈸寫道：“與其他技術不同，由于人工智能的安全性問題主要來源于算法本身的不安全，它更容易被誤用和濫用。以深度合成技術為例，不法分子可以利用它給社會帶來巨大的威脅。”
他指出，未來人工智能產業的發展，一方面必須擴大應用的場景，另一方面也必須保證數據和算法的安全性、魯棒性。科技發展和應用如何才能在最大程度上做到趨利避害，是一個需要長期探索和研究的課題。
如今，信息網絡已經深入到我們生活的各個角落，如果深度合成技術被無節制的濫用，我們的眼見、耳聞都不再為實，社會信任也將蕩然無存。因此，必須以法律的形式引導技術向善。2022年1月28日，國家網信辦最新公布了《互聯網信息服務深度合成管理規定(征求意見稿)》(簡稱《深度合成征求意見稿》)，為深度合成技術做出了一系列較為明確的規定和指引。可以看到，深度合成技術正在逐步邁入一條良性的發展軌道。
“處理Deepfake(深度偽造)沒有靈丹妙藥，需要采取多種應對措施，包括技術、法律和更廣泛的社會措施。” 段偉文表示。對于深度合成服務提供者而言，應當加強信息內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核，建立健全用于識別違法和不良深度合成信息內容的特征庫，完善入庫標準、規則和程序，對違法和不良信息依法采取響應處置措施，并對相關深度合成服務使用者依法約束采取警示、限制功能、暫停服務、關閉賬號等處置措施。
同時，還應定期審核、評估、驗證算法機制機理，提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具，應當自行開展安全評估，預防信息安全風險。
田天指出，希望國家加快推動法治建設，逐步完善配套的法規政策，但同時也要倡導發展自律自治，健全常態化的聯動機制，加強檢測相關技術研究與宣傳，推動形成全社會對深度合成共同治理的格局，鼓勵與促進該技術更多的正向應用、正向發展。
（文章來源：中國電子報）
標簽： 互聯網信息服務算法推
