OpenAI宣佈將在數字內容中加入不可見水印以便可以檢測AI生成內容


OpenAI剛剛發佈博客宣佈該公司加入C2PA內容來源和真實性聯盟的指導委員會,與業內其他公司一起合作為數字內容添加認證標準、可以識別數字內容的來源等。C2PA由軟件公司、相機制造商以及在線平臺等共同創建,主要目的就是為數字產品包括圖像、視頻、音頻等添加信息來源,降低偽造內容用於創建謠言的幾率。

102249.png

今年早些時候 OpenAI 已經在 DALL-E 3 圖像生成模型中接入 C2PA 相關標準,即生成的圖像會標記來自該模型,也就是證明這是由人工智能創作的圖像。

OpenAI 稱當 Sora 文本生成模型視頻廣泛推出時也會為 Sora 生成的視頻內容添加 C2PA 元數據,可以識別視頻來自 Sora 生成而不是真實拍攝等。

值得註意的是 C2PA 標準元數據是可以刪除的,一個簡單的例子就是對於 DALL-E 3 生成的圖像隻需要修改圖片元數據甚至直接截圖就可以抹掉 C2PA 信息,所以 OpenAI 還準備不可見的水印。

不可見水印俗稱盲水印,這種水印肉眼無法識別,但一些特殊的工具對圖片進行處理後是可以讀取盲水印的,OpenAI 的計劃就是在後續實施盲水印,用難以刪除的不可見信號標記音頻等數字內容。

既然添加盲水印那 OpenAI 也會提供對應的檢測工具,OpenAI 已經開發用於檢測 AI 模型生成內容的檢測分類器,該分類器從今天開始向一些研究人員提供,該工具主要可以檢測 DALL-E 3 生成的圖像,準確率為 98%,大約會有不到 0.5% 的非 AI 生成的圖像也會被標記為 AI 生成,這個後續 OpenAI 還會繼續優化。


相關推薦

2024-08-05

快科技8月5日消息,據媒體報道,OpenAI正深入探索文本水印技術的前沿領域,然而,該公司坦言,這一創新領域仍面臨重重技術挑戰與待解難題。OpenAI巧妙地設想通過微妙調整ChatGPT生成文本中的詞匯選擇,來在字裡行間編織一張

2024-02-07

越多的公司推出對內容真實性聯盟(C2PA)標準的支持,OpenAI的圖像生成器DALL-E3將在圖像元數據中添加水印。該公司表示,C2PA的水印將出現在ChatGPT網站生成的圖片和DALL-E3模型的API中。移動用戶將在2月12日前獲得水印。水印將包

2023-02-21

他公司的對話機器人就某件產品殺價。開發ChatGPT的公司OpenAI位於加州舊金山,已宣佈將推出每個月20美元的訂閱服務,承諾反應速度會更快,而且能優先使用新功能(ChatGPT的試用版將依然免費)。科技巨頭微軟(Microsoft)已經

2023-12-07

inewithMeta),允許用戶通過自然語言描述來創建圖像。與 OpenAI 的 DALL-E、Midjourney 和 Stable Diffusion 類似,Imagine with Meta 由 Meta 現有的 Emu 圖像生成模型提供支持,可根據文本提示創建高分辨率圖像。它對美國用戶免費使用(至少目

2024-02-16

戰略,即以開源方式發佈其大部分研究成果,而不是像 OpenAI 和其他公司那樣將其作為有價值的知識產權加以保護。如果訓練成本降低,規模較小的開發者也許就能訓練出規模更大、能力更強的模型。LeCun 認為,目前的模型通過

2023-01-20

器人ChatGPT可能被用於考試作弊的擔憂,其背後開發公司OpenAI首席執行官薩姆·阿爾特曼(SamAltman)做出回應。阿爾特曼在接受采訪時表示,OpenAI將開發出幫助學校識別AI作弊的方法。但他警告稱,不能保證完全檢測到作弊行為。

2022-10-22

Adobe宣佈內容真實性倡議(CAI)與徠卡和尼康之間的合作關系,這將使這兩傢相機公司在兩款相機中實施圖像證明技術:具體機型分別是M11和Z9。這一實施工作將允許攝影師在相機拍攝時安全地附上照片的來源信息,包括每張照

2024-02-07

t;Imagined with AI"的水印,該公司還將開始在使用Google、OpenAI、微軟、Adobe、Midjourney 和 Shutterstock 的工具生成的人工智能照片上打上同樣的水印。克萊格說,在建立識別人工智能生成的視頻和音頻的標準方面,該行業遠遠落後於

2024-02-18

AI(人工智能)新銳巨頭OpenAI近日推出文生視頻模型Sora,成為繼聊天機器人ChatGPT之後又一大新爆款。在Sora官網上,OpenAI寫道:“我們正在教AI理解和模擬運動中的物理世界,目的是訓練模型幫助人們解決需要現實世界互動的問

2024-04-02

TheInformation》在上周五復活節假期開始時報道有關微軟和OpenAI合作的Stargate(星際之門)的報道,該報告與超以太網聯盟(微軟是其創始成員)設定的100萬個互連端點的可擴展性未來以太網目標一致。星際之門系統也從此引起人

2023-04-06

,會有對應的圖片產出。與之類似的AI圖像生成器還包括OpenAI開發的DALL-E,以及Stability AI與慕尼黑大學(LMU)合作研發的Stable Diffusion。雖然使用的訓練模型略有差異,這些工具的共同點在於,它們都能將簡單的文字描述轉化成圖

2024-02-19

劃重點:- 🤖 新發佈的 OpenAI 視頻生成工具 Sora 可以根據用戶提示制作長達一分鐘的視頻。- 🛡️ 專傢擔心,這種視頻生成器可能加劇互聯網不實信息和政府宣傳,使真假內容之間的界限更加模糊。- 🔒 OpenAI 已經采取措施防止

2024-02-19

集等方面,有望帶來內容消費市場的發展。Sora是一種由OpenAI發佈的視頻生成模型。這種模型具有強大的視頻生成能力,可以將簡短的文本描述轉化成長達1分鐘的高清視頻。Sora模型具有三大突出亮點:能夠生成60秒長視頻並保持高

2024-05-08

圍內上線時公佈指導方針,時間可能在今年年底左右。在宣佈這一消息時,Meta正投入上百億美元開發和支持生成式人工智能模型,同時試圖說服廣告商,通過自動化廣告活動創意方面的工作,他們可以獲得更大回報。今年2月份