人工智能:抖音出手規范AI生成內容！全球監管呼聲四起,數字水印會是一劑良方嗎？

來源：《科創板日報》

作者：鄭遠方

圖片來源：由無界AI工具生成

抖音今日發布關于人工智能生成內容的平臺規范暨行業倡議。

其中提出，各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。

具體來看，針對創作者、主播、用戶、商家、廣告主等平臺生態參與者，抖音提出，在抖音應用生成式人工智能技術時，遵循以下規范：

數據：Arca和某匿名地址昨晚至今共向幣安轉入250萬枚IMX，約合341萬美元:金色財經報道，據加密推特KOL余燼監測，昨晚除加密基金Arca向幣安轉入了150萬枚IMX（約合217萬美元）外，一個一直從IMX基金會財庫接收IMX的地址，于今日凌晨6時左右也向幣安轉入了100萬IMX（約合124美元）。即兩地址今共向幣安轉入250萬枚IMX，約合341萬美元。[2023/3/21 13:16:13]

1）發布者應對人工智能生成內容進行顯著標識；

2）發布者需對人工智能生成內容產生的相應后果負責；

3）虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；

Gearbox社區發起的550萬美元DAO戰略融資提案已獲得通過:7月5日消息，DeFi可組合性杠桿協議Gearbox發起的進行 550 萬美元 DAO 戰略融資提案以 99.49% 的支持率獲得通過。此前報道，Gearbox 社區發起以 1.5 億美元完全稀釋估值進行 550 萬美元 DAO 戰略融資的提案，目前計劃進行投資的機構包括 Placeholder、A.Capital Ventures、Galaxy Digital、Zee Prime Capital、Polymorphic Capital、LedgerPrime、Global Coin Research，承諾的投資金額已達 565 萬美元。[2022/7/5 1:52:40]

4）禁止利用生成式人工智能技術創作、發布侵權內容；

Gusto Collective完成1000萬美元種子輪融資，Animoca Brands和Gaw Capital領投:5月17日消息，香港沉浸式體驗科技服務商Gusto Collective宣布完成1000萬美元Seed Plus輪融資，Animoca Brands和Gaw Capital領投，Black Pine、YCI Limited等參投。這筆資金將用于支持Gusto Collective向亞洲其他地區擴張，以及支持Web3、元宇宙和產品開發方面的發展。Gusto Collective專注于Web3市場服務、增強現實（AR）、虛擬人創作平臺和奢侈品營銷服務。本輪融資完成后，Gusto Collective自2020年啟動以來已累計籌集到2300萬美元資金。（prnewswire.com）[2022/5/17 3:22:27]

5）禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。

抖音稱平臺也將提供統一的人工智能生成內容標識能力，幫助創作者打標，方便用戶區分。

針對這一方面，抖音發布了《關于人工智能生成內容標識的水印與元數據規范》。

其中，標識水印規范旨在幫助AI生成工具和創作者可以使用統一樣式和位置，來提示用戶內容由AI生成；標識元數據規范則是通過規范人工智能生成內容的元數據格式，在相關圖片和視頻元數據中寫入信息，達到行業通用識別的效果。

政策端，國家網信辦不久前也就《生成式人工智能服務管理辦法》公開征求意見，這也是國家首次針對生成式AI產業發布規范性政策。

其中，對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人的責任進行了規定；同時，也提出對于生成式人工智能產品，提供者需要按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識等。

▌AI生成內容亟待監管

日前，甘肅省平涼市局網安大隊成功偵破一起利用人工智能技術制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自1月10日《互聯網信息服務深度合成管理規定》頒布實施后，該省偵辦的首例案件。

伴隨大模型AI發展，ChatGPT等類似應用越來越火熱，因生成式人工智能引發的社會問題也開始出現。因此AI監管覆蓋范圍不斷擴大、監管技術不斷升級、監管主體逐漸國際化：

除了上文提到的我國《生成式人工智能服務管理辦法》之外，白宮本月剛剛宣布首個AI監管計劃，政府承諾發布指導方針草案，以確保對人工智能的使用保障“美國人民的權利和安全”；歐盟也表示希望對AI生成的內容進行強制性的規定，人工智能生成的一切，無論是文本還是圖像，都有義務告知它們是由人工智能完成的。

安信證券認為，當前對AI生成內容的判別主要可以由兩種技術途徑來完成：1）通過算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。2）通過對AI生成的內容添加特定的標識，來區分相應內容是否由AI生成。

值得一提的是，數字水印或許也有望成為有效解決方案的一種。數字水印是將一些標識信息直接嵌入數字載體當中，但不影響原載體的使用價值，也不容易被人的知覺系統覺察或注意。通過這些隱藏在載體中的信息，可確認內容創建者、購買者、傳送隱秘信息或者判斷載體是否被篡改。

OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來的負面影響。

據《科創板日報》不完全統計，A股中已布局AI生成內容識別的公司有：

Tags：人工智能TALITAIMX人工智能軟件Realital MetaverseBaby Saitamaimx幣未來價值

Uniswap