抖音出手規范AI生成內容！全球監管呼聲四起,數字水印會是一劑良方嗎？_人工智能

來源：《科創板日報》

作者：鄭遠方

圖片來源：由無界AI工具生成

抖音今日發布關于人工智能生成內容的平臺規范暨行業倡議。

其中提出，各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。

具體來看，針對創作者、主播、用戶、商家、廣告主等平臺生態參與者，抖音提出，在抖音應用生成式人工智能技術時，遵循以下規范：

香港數碼港首席企業發展官：數碼港將專注于吸引和培養全球優秀Web3企業:4月12日消息，在2023香港Web3嘉年華上的“香港Web3發展新動向：從Web2到Web3的演進與融合”分會場二中，香港數碼港管理有限公司首席企業發展官陳志恒表示，數碼港將專注于全球的Web3企業，在一個有活力的生態系統中培養優秀的Web3企業，香港將配套全面的政策，無論規模怎樣的Web3企業都能在此發揮所長。數碼港將不斷培養幫助Web3企業實現技術突破，吸引企業家和技術人員。[2023/4/12 13:59:11]

1）發布者應對人工智能生成內容進行顯著標識；

2）發布者需對人工智能生成內容產生的相應后果負責；

經濟學家：Celsius用戶可能拿不回自己的錢:7月15日消息，著名經濟學家、加密貨幣批評者Frances Coppola不相信Celsius儲戶能夠拿回自己的錢，并稱Celsius是一家“影子銀行”：“Celsius不是一家資產管理公司，而是一家影子銀行。銀行存款甚至不是客戶資產，更不是管理資產。這些是給銀行的無抵押貸款。因此，它們是銀行的負債，完全有破產的風險。”

Coppola表示：“Celsius的使用條款完全清楚地表明，將資金存入其計息賬戶的客戶是在把資金借給Celsius，讓Celsius想怎么用就怎么用。而且特別指出，在破產的情況下，客戶可能拿不回他們所有的錢，甚至是任何錢。”（Crypto Potato）[2022/7/15 2:16:36]

3）虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證；

STEPN：第二季度利潤為1.225億美元，5%將用于啟動GMT回購和銷毀:7月12日消息，官方消息，STEPN宣布第二季度利潤并啟動季度GMT回購和銷毀。2022年第二季度，STEPN通過其平臺費用產生了1.225億美元的利潤。STEPN將利用5%的利潤來啟動Q2 GMT回購和銷毀計劃。除了回購和銷毀計劃外，STEPN還將分配資本儲備來改進現有功能并建立團隊。[2022/7/13 2:08:52]

4）禁止利用生成式人工智能技術創作、發布侵權內容；

5）禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。

抖音稱平臺也將提供統一的人工智能生成內容標識能力，幫助創作者打標，方便用戶區分。

針對這一方面，抖音發布了《關于人工智能生成內容標識的水印與元數據規范》。

其中，標識水印規范旨在幫助AI生成工具和創作者可以使用統一樣式和位置，來提示用戶內容由AI生成；標識元數據規范則是通過規范人工智能生成內容的元數據格式，在相關圖片和視頻元數據中寫入信息，達到行業通用識別的效果。

政策端，國家網信辦不久前也就《生成式人工智能服務管理辦法》公開征求意見，這也是國家首次針對生成式AI產業發布規范性政策。

其中，對利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人的責任進行了規定；同時，也提出對于生成式人工智能產品，提供者需要按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識等。

▌AI生成內容亟待監管

日前，甘肅省平涼市局網安大隊成功偵破一起利用人工智能技術制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自1月10日《互聯網信息服務深度合成管理規定》頒布實施后，該省偵辦的首例案件。

伴隨大模型AI發展，ChatGPT等類似應用越來越火熱，因生成式人工智能引發的社會問題也開始出現。因此AI監管覆蓋范圍不斷擴大、監管技術不斷升級、監管主體逐漸國際化：

除了上文提到的我國《生成式人工智能服務管理辦法》之外，白宮本月剛剛宣布首個AI監管計劃，政府承諾發布指導方針草案，以確保對人工智能的使用保障“美國人民的權利和安全”；歐盟也表示希望對AI生成的內容進行強制性的規定，人工智能生成的一切，無論是文本還是圖像，都有義務告知它們是由人工智能完成的。

安信證券認為，當前對AI生成內容的判別主要可以由兩種技術途徑來完成：1）通過算法識別AI模型生成內容的特征，從而鑒別相應的內容是否由AI生成。2）通過對AI生成的內容添加特定的標識，來區分相應內容是否由AI生成。

值得一提的是，數字水印或許也有望成為有效解決方案的一種。數字水印是將一些標識信息直接嵌入數字載體當中，但不影響原載體的使用價值，也不容易被人的知覺系統覺察或注意。通過這些隱藏在載體中的信息，可確認內容創建者、購買者、傳送隱秘信息或者判斷載體是否被篡改。

OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來的負面影響。

據《科創板日報》不完全統計，A股中已布局AI生成內容識別的公司有：

Tags：人工智能WEBWEB3CEL《人工智能》電影解析bitwebfio幣web3celsius幣用途

聚幣