使用GoogleDeepMind的人工智能Lyria模型創建的音頻(例如使用YouTube新音頻生成功能創建的音軌)將帶有SynthID水印,以便人們在事後識別其人工智能生成的來源。
DeepMind 在一篇博文中說,這種水印人耳無法察覺,"也不會影響聽覺體驗",並補充說,即使音軌被壓縮、加速或減速,或添加額外的噪音,水印仍然可以被識別出來。
像 SynthID 這樣的水印工具被認為是防止生成式人工智能造成某些危害的重要保障。例如,美國總統喬-拜登(Joe Biden)關於人工智能的行政命令要求制定一套由政府主導的新標準,用於對人工智能生成的內容進行水印處理。這是一個大有可為的領域,但目前的技術還遠非抵禦AI內容造假的靈丹妙藥。
根據 DeepMind 的說法,SynthID 的音頻實現方法是"將音頻波轉換為二維可視化,顯示聲音中的頻譜如何隨時間演變"。該公司聲稱,這種方法"與目前存在的任何方法都不同"。
Google在人工智能生成的音頻中嵌入水印功能的消息是在該公司發佈 SynthID 測試版之後短短幾個月發佈的,測試版適用於 Imagen 在Google雲的頂點人工智能上創建的圖像。這種水印可以抵禦剪裁或調整大小等編輯,不過 DeepMind 提醒說,它並不能抵禦"極端的修圖處理"。