一、背景
從基于深度合成技術的Deepfake出現開始,深度合成技術一直就飽受爭議。從ZAO的換臉引起公眾警覺,到“假靳東”的詐騙案件,不斷降低的深度合成技術使用門檻讓傳統上“有圖有真相”發展到“有視頻都未必有真相”。此外,元宇宙、虛擬人等基于深度合成技術的理念也伴隨著商業熱度滾滾而來,要求法律與監管部門不能忽視這一生機勃勃的技術。
2022年1月28日,網信部門發布了《互聯網信息服務深度合成管理規定》,標志著監管部門為虛擬空間打造的又一塊拼圖已具備雛形。該征求意見稿的發布,是監管部門對算法、元宇宙等近期熱點領域已知與潛在風險的回應。
《互聯網信息服務深度合成管理規定》并不是我國法規首次關注深度合成內容,此前在《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法律法規中均涉及深度合成內容,但這些法規更多是從音視頻或較為宏觀的角度關注,而此次公開的《互聯網信息服務深度合成管理規定》則針對深度合成內容的特點,更有針對性地進行規制。
Maxar與Blackshark.ai合作推出用于元宇宙等應用的3D數字孿生解決方案:2月27日消息,Maxar Technologies發布了SYNTH3D,這是一種用于模擬、元宇宙和VR應用的數字孿生技術。該3D數字孿生解決方案由Maxar與人工智能初創公司Blackshark.ai合作開發,這一最新產品將幫助創作者模擬并將真實世界的環境帶入元宇宙和虛擬現實(VR)應用程序。(NFTGators)[2023/2/27 12:31:31]
二、適用范圍
《互聯網信息服務深度合成管理規定》將深度合成技術定義為:“利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。”與其說是定義,不如說是描述。
征求意見稿將以下使用深度學習的技術列為規制范圍:
專家:5G技術將推動區塊鏈和元宇宙行業發展:8月13日消息,印度將于本月開始推出5G,該技術必將對向消費者和企業提供服務的方式產生重大影響。
專家們認為,5G將成為在貿易融資、物流、醫療、教育等多個方面廣泛采用區塊鏈技術的潛在推動者。區塊鏈Infra自動化平臺首席執行官和聯合創始人Ravi Chamria表示:“4G不能完全滿足這個生態系統對延遲和密度的要求。5G不僅旨在提高速度和延遲,還允許以接近驅動的方法來幫助分布式和去中心化的應用生態系統。”例如,在區塊鏈中使用5G的一個實例可能涉及車輛網絡,以實現交通信息的共享。
專家表示,區塊鏈加上5G有可能顛覆電信行業。加密貨幣投資平臺Mudrex首席執行官兼聯合創始人Edul Patel表示:“區塊鏈以透明度為基礎,可以防止跨境結算帶來的消費者成本上升,5G將確保國際漫游和跨境手機網絡的兼容和有效。”
此外,元宇宙行業發展也將受益于5G技術。(Indian Express)[2022/8/13 12:23:42]
當然,使用傳統技術、未涉及深度學習技術的相關場景不在《互聯網信息服務深度合成管理規定》的調整范圍之內。
元宇宙板塊震蕩走強 數字政通20CM漲停:行情顯示,元宇宙板塊震蕩走強,數字政通20CM漲停,捷成股份、鋒尚文化、新開普漲超10%,奧拓電子、智度股份漲停,絲路視覺、風語筑、藍色光標等跟漲。[2022/1/17 8:53:39]
隨著深度合成技術的廣泛使用,《互聯網信息服務深度合成管理規定》的調整范圍遠不只是Deepfake,而是包括了數字化工作的各個維度:客服平臺的聊天機器人與營銷機器人、廣泛運用于地震等突發事件或體育賽事中的寫稿機器人、相機中的美顏功能、游戲中3D場景或捏臉功能、元宇宙所構建的虛擬空間……不一而足。
三、合規義務框架
《互聯網信息服務深度合成管理規定》所設定的合規義務框架圍繞著“深度合成服務提供者”與“深度合成服務使用者”兩方主體搭建。
香港中文大學(深圳)元宇宙實驗室招聘加密社區玩家:1月10日消息,香港中文大學(深圳)元宇宙實驗室招聘對元宇宙領域感興趣的博士后,博士生,碩士生,并要求提交申請的加密社區玩家附上以太坊地址或ENS域名。[2022/1/10 8:38:28]
梳理后合規義務框架如下:
征求意見稿將服務提供者視為類似社交媒體平臺的角色,有義務對平臺內的用戶行為進行監督。但是,在現實中深度合成服務提供者的技術同樣依賴于第三方的提供,如可能會需要使用外部的引擎來支持自己的服務,在這樣的場景下,如何定位各方的主體角色可能是需要推敲論證的,可能更應該將之視為征求意見稿之外的技術開發者,而非服務提供者更加合適。
四、合規啟示
社交巨頭Match Group計劃探索元宇宙:11月4日消息,Tinder母公司,全球陌生人社交巨頭Match Group計劃探索元宇宙。Match Group 介紹其對 Tinder 和 Explore 的長期愿景,該愿景將擴展到包括獨家、共享和實時體驗以及基于虛擬商品的經濟,并由 Tinder 的新應用內貨幣 Tinder Coins 提供支持。此外,Match 談到了其更廣泛的元宇宙計劃,以及基于頭像的虛擬體驗,這些體驗可能會在其產品組合中推出,包括 Tinder。
明年,全球用戶將可以使用 Tinder Coins 在應用程序內購買 Tinder 的點菜產品,如 Boost 和 Super Like——旨在幫助在線約會者獲得更多匹配的工具。它們還將用于以前只能通過訂閱獲得的新的現收現付產品,例如“看看誰喜歡你”功能。它們將用于激勵應用程序上的某些行為,例如鼓勵成員驗證他們的個人資料或將視頻添加到他們的個人簡介中。(TechCrunch)[2021/11/4 21:24:03]
基于此前我們為該領域企業提供法律服務的經驗,我們建議企業可以依據以下思路開展合規工作:
1.梳理深度合成技術應用場景
企業可以通過問卷、訪談等形式,結合業務場景,全面梳理企業深度學習技術的使用情況。在梳理的過程中,可能需要特別關注用戶較多的使用場景。
2.風險評估
就相關技術的使用進行風險評估。對算法、深度合成技術的評估主要通過:查閱材料、查看系統、訪談人員、系統測試、攻擊測試、算法測試、查看算法等方式進行。如涉及個人信息的處理,可能還需要將個人信息保護影響評估納入評估機制中。
3.搭建內部制度規則、完善技術
在主體責任、算法審核、用戶注冊、信息內容、數據安全和個人信息保護、未成年人保護、教育培訓等領域將深度合成技術的風險管控納入考量。此外,還需要建立內容審核、事件響應、辟謠、協助調查等機制。
4.制定管理規則、平臺公約,更新服務協議
針對深度識別技術的使用,要求使用者在使用時:1)不得合成違法違規的內容;2)不得將合成內容用于違法或侵權用途;3)不得將合成內容謊稱為自然內容;4)用于合成的素材應當合法合規,對人像、聲音等生物識別信息獲取單獨同意并完成個人信息保護影響評估;5)對生成內容的知識產權的歸屬、數據處理的權限進行約定;6)其他需要約定或聲明的內容。
5.標識深度合成內容
通過添加水印、電子簽名等方式,對深度合成內容進行標識,避免公眾誤認。在此過程中,更重要的是設計該法定提示如何在有效告知公眾的基礎上,避免對業務的正常開展造成過大的沖擊。
6.完成算法備案
在法規正式實施后,盡快在相關系統完成算法備案,對備案中可能需要填寫的服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,公司可以提前起草進行準備,以便在相關系統上線后盡快完成備案。
附:其他法規中關于深度合成技術的規定
《互聯網信息服務算法推薦管理規定》
發現未作顯著標識的算法生成合成信息的,應當作出顯著標識后,方可繼續傳輸
不得生成合成虛假新聞信息
《網絡信息內容生態治理規定》
網絡信息內容服務使用者和網絡信息內容生產者、網絡信息內容服務平臺不得利用深度學習、虛擬現實等新技術新應用從事法律、行政法規禁止的活動。
《網絡音視頻信息服務管理規定》
網絡音視頻信息服務提供者基于深度學習、虛擬現實等新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務,或者調整增設相關功能的,應當按照國家有關規定開展安全評估。
網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的,應當以顯著方式予以標識。
網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基于深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的,應當依法轉載國家規定范圍內的單位發布的音視頻新聞信息。
網絡音視頻信息服務提供者應當加強對網絡音視頻信息服務使用者發布的音視頻信息的管理,部署應用違法違規音視頻以及非真實音視頻鑒別技術,發現音視頻信息服務使用者制作、發布、傳播法律法規禁止的信息內容的,應當依法依約停止傳輸該信息,采取消除等處置措施,防止信息擴散,保存有關記錄,并向網信、文化和旅游、廣播電視等部門報告。
網絡音視頻信息服務提供者發現不符合本規定第十一條第一款要求的信息內容的,應當立即停止傳輸該信息,以顯著方式標識后方可繼續傳輸該信息。
網絡音視頻信息服務提供者應當建立健全辟謠機制,發現網絡音視頻信息服務使用者利用基于深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的,應當及時采取相應的辟謠措施,并將相關信息報網信、文化和旅游、廣播電視等部門備案。
Tags:元宇宙INDTIN區塊鏈元宇宙平臺公司合法嗎Pepe Lindapolkadotstingray樂隊區塊鏈dapp游戲
在《NFT的未來:聚焦多元屬性和用戶核心》一文中,我提到了NFT最近的發展方向是“自下而上”發起,在Web3.0時代權益也將更側重于用戶。多元屬性和可組合性也是NFT的重要特性.
1900/1/1 0:00:00本文梳理自DeFi研究員TheDeFiEdge在個人社交媒體平臺上的觀點,律動BlockBeats對其整理翻譯如下:實用的DeFi工具可以幫助你省下很多時間,并快速找到優質投資.
1900/1/1 0:00:00波卡未來是一個龐大的異構分片架構。在這個龐大的結構里。中繼鏈是波卡的中心鏈。Polkadot的所有驗證者的DOT都被質押在中繼鏈上,并為中繼鏈進行驗證.
1900/1/1 0:00:00“破案了,內置UnrealEngine4引擎,讓新版QQ安裝包快要1G了的緣由,就是為了迎接超級QQ秀的內測.
1900/1/1 0:00:00個人的創作進程,以及創造者工作的媒介,正不斷擴大,開始包括諸如NFT等數字資產。創建、購買、出售或交換的NFT被美國國稅局視為財產,因此這些行為需被征稅,與購買、出售或交換藝術品類似.
1900/1/1 0:00:00解讀Web3.0遠不是一件容易的事,千人千面的它即模糊又若隱若現。隨著時間的推移,構成它的要件更加完備,但更多的要求又會被填充進去,“前進迷茫”與探索Web3.0是相生相伴的.
1900/1/1 0:00:00