在AI深度偽造（Deepfake）威脅日益嚴重的刺激下，美國聯邦貿易委員會正在尋求修改一項禁止假冒企業或政府機構的現有規則，以涵蓋所有消費者。修訂後的規則-取決於最終措辭和FTC收到的公眾意見還可能規定，生成式AI平臺提供明知或有理由知道被用於通過冒名頂替傷害消費者的商品或服務的行為是非法的。
"欺詐者正在利用人工智能工具以令人毛骨悚然的精確度和更大的規模冒充個人，"聯邦貿易委員會主席莉娜-汗在一份新聞稿中說。"隨著語音克隆和其他人工智能驅動的欺詐行為不斷增加，保護美國人免受冒名欺詐比以往任何時候都更加重要。我們建議對最終的冒充規則進行擴展，這將加強聯邦貿易委員會的工具包，以應對人工智能驅動的冒充個人的欺詐行為。"
不隻是泰勒-斯威夫特（Taylor Swift）這樣的人需要擔心假新聞。涉及"假冒"的網戀詐騙也在增加，騙子們還冒充公司員工從公司榨取現金。
在 YouGov 最近的一項民意調查中，85% 的美國人表示，他們非常擔心或有些擔心誤導性視頻和音頻深度偽造的傳播。美聯社-NORC 公共事務研究中心的另一項調查發現，近 60% 的成年人認為，在 2024 年美國大選周期，人工智能工具將加劇虛假和誤導性信息的傳播。
上周，美國聯邦通信委員會（FCC）通過重新解釋禁止人工和預錄垃圾信息的現有規則，將基於AI的自動語音電話定為非法的舉措。針對美國總統拜登的電話詐騙活動希望阻止新罕佈什爾州公民的投票熱情，這一規則的改變以及聯邦貿易委員會今天采取的措施是聯邦政府目前打擊深度偽造和深度偽造技術的主要手段。
沒有聯邦法律明確禁止Deepfake。理論上，名人等高知名度的受害者可以求助於更傳統的現有法律補救措施進行反擊，包括版權法、肖像權和侵權行為（如侵犯隱私、故意造成精神痛苦），然而這些拼湊起來的法律可能會耗費大量時間和精力來進行訴訟。
在國會未采取行動的情況下，全美已有 10 個州頒佈法規將Deepfake定為刑事犯罪，盡管大部分是未經同意的色情內容。毫無疑問，隨著深度假新聞生成工具的日益復雜，我們將看到這些法律得到修訂，以涵蓋更廣泛的深度假新聞，並通過更多的州級法律，(明尼蘇達州的法律已經明確針對政治競選中使用的Deepfake假新聞）。