站長之傢(ChinaZ.com) 9月27日 消息:德國知名新聞主播André Schünke 最近成為Deepfake 濫用的受害者。騙子利用他們的數碼復制品在Facebook上的虛假宣傳視頻中做廣告,宣傳一個AI支持的投資平臺,承諾巨大的利潤。這些視頻使用新聞主播真實的聲音克隆,看起來非常逼真。
Deepfake降低制作這類虛假視頻的門檻。新聞主播是理想的目標,因為他們的聲音和圖像數據可以輕松在網上獲取用於訓練。在社交媒體快速瀏覽時,觀眾不太可能註意到小的不協調之處,從而上當受騙。
專傢一直在警告Deepfake的危險。這兩起事件證明Deepfake可能被用來制造詐騙,對公眾的信任造成傷害。監管機構和技術公司必須采取行動,限制這種技術的濫用,保護公眾。