OpenAI剛剛發佈博客宣佈該公司加入C2PA內容來源和真實性聯盟的指導委員會,與業內其他公司一起合作為數字內容添加認證標準、可以識別數字內容的來源等。C2PA由軟件公司、相機制造商以及在線平臺等共同創建,主要目的就是為數字產品包括圖像、視頻、音頻等添加信息來源,降低偽造內容用於創建謠言的幾率。
今年早些時候 OpenAI 已經在 DALL-E 3 圖像生成模型中接入 C2PA 相關標準,即生成的圖像會標記來自該模型,也就是證明這是由人工智能創作的圖像。
OpenAI 稱當 Sora 文本生成模型視頻廣泛推出時也會為 Sora 生成的視頻內容添加 C2PA 元數據,可以識別視頻來自 Sora 生成而不是真實拍攝等。
值得註意的是 C2PA 標準元數據是可以刪除的,一個簡單的例子就是對於 DALL-E 3 生成的圖像隻需要修改圖片元數據甚至直接截圖就可以抹掉 C2PA 信息,所以 OpenAI 還準備不可見的水印。
不可見水印俗稱盲水印,這種水印肉眼無法識別,但一些特殊的工具對圖片進行處理後是可以讀取盲水印的,OpenAI 的計劃就是在後續實施盲水印,用難以刪除的不可見信號標記音頻等數字內容。
既然添加盲水印那 OpenAI 也會提供對應的檢測工具,OpenAI 已經開發用於檢測 AI 模型生成內容的檢測分類器,該分類器從今天開始向一些研究人員提供,該工具主要可以檢測 DALL-E 3 生成的圖像,準確率為 98%,大約會有不到 0.5% 的非 AI 生成的圖像也會被標記為 AI 生成,這個後續 OpenAI 還會繼續優化。