8月18日消息，據外媒報道，AI生成的埃隆·馬斯克的形象，已經出現在數千條虛假廣告中，導致許多人被騙。AI驅動的“深度偽造”（deepfake）視頻預計每年將造成數十億美元的欺詐損失。
外媒舉一個具體的例子，去年年底，82歲的退休人員博尚普（Steve Beauchamp）看到一段“馬斯克”推薦一個激進投資機會的視頻，該機會承諾會帶來快速的回報。他聯系推銷該項目的公司，並開設一個賬戶，存入248美元。在接下來的幾周內，通過一系列交易，博尚普耗盡他的退休賬戶，最終投資超過69萬美元。
然後，這些錢消失，被利用人工智能的新型犯罪企業的數字騙子騙走。
這些騙子編輯一段馬斯克的真實采訪，利用AI工具替換他的聲音。這個AI足夠先進，可以改變細微的嘴部動作，以匹配他們為這個數字假冒人物編寫的新臺詞。對普通觀眾來說，這種操控可能難以察覺。
有業內人士評價稱，這些視頻往往非常逼真，模仿馬斯克標志性的語調和南非口音。
在過去幾個月中，數以千計由AI生成的視頻（稱為深度偽造）充斥網絡，其中包括虛假的馬斯克形象，欺騙眾多潛在投資者。德勤預計，AI驅動的深度偽造每年可能導致數十億美元的欺詐損失。
這些視頻制作成本僅需幾美元，幾分鐘內即可完成，並通過社交媒體（包括Facebook的付費廣告）推廣，擴大其影響范圍。
AI行業正在快速發展，這些伴隨產生的欺詐事件，需要AI行業和監管部門共同努力應對，以防止濫用。