隨著越來越多的公司推出對內容真實性聯盟(C2PA)標準的支持,OpenAI的圖像生成器DALL-E3將在圖像元數據中添加水印。該公司表示,C2PA的水印將出現在ChatGPT網站生成的圖片和DALL-E3模型的API中。移動用戶將在2月12日前獲得水印。水印將包括一個不可見的元數據組件和一個可見的CR符號,後者將出現在每張圖片的左上角。
人們可以通過內容憑證驗證(Content Credentials Verify)等網站核實由 OpenAI 平臺生成的任何圖像的出處(即使用哪種人工智能工具制作內容)。到目前為止,隻有靜態圖像可以帶有水印,視頻或文本都不行。
OpenAI 表示,在圖像中添加水印元數據"對延遲的影響可以忽略不計,也不會影響圖像生成的質量"。對於某些任務來說,它還會略微增加圖像尺寸。
由 Adobe 和微軟等公司組成的 C2PA 組織一直在推動使用"內容證書"水印來識別內容的出處,並顯示其是人工制作的還是人工智能制作的。Adobe 創建一個內容憑證符號,OpenAI 正在將其添加到《DALL-E 3》的創作中。Meta 最近宣佈將在其社交媒體平臺上為人工智能生成的內容添加標簽。
識別人工智能生成的內容是拜登政府關於人工智能行政命令的主要指令之一。但水印並不是阻止錯誤信息的萬全之策。OpenAI 指出,C2PA 的元數據"很容易被意外或有意刪除",尤其是大多數社交媒體平臺通常會刪除上傳內容中的元數據,截圖行為也會省略圖中的元數據。
OpenAI 在其網站上表示:"我們相信,采用這些方法確定出處並鼓勵用戶識別這些信號,是提高數字信息可信度的關鍵。"