在上個月的初選中，一條被設計成美國總統拜登聲音的信息告訴新罕佈什爾州居民不要投票，美國聯邦通信委員會（FCC）正著手將人工智能生成的聲音用於自動語音電話的行為定為非法。該機構擔心音頻深度偽造技術被用來通過模仿"名人、政治候選人和近親屬"的聲音來混淆和欺騙消費者。
FCC 主席傑西卡-羅森沃塞爾（Jessica Rosenworcel）的提案將規定，根據《電話消費者保護法》（TCPA），使用人工智能生成的聲音撥打搶答電話屬於非法行為。
1991 年的 TCPA 法律限制電話營銷、使用自動電話撥號系統和人工或預先錄制的語音信息。該法還要求電話營銷人員在給消費者撥打聲訊電話之前，必須事先獲得消費者的明確書面同意。FCC 希望人工智能生成的聲音也能遵守這些標準。委員會的五位成員預計將在未來幾周內就該提案進行投票表決。
"人工智能生成的語音克隆和圖像已經在播撒混淆視聽的種子，誘使消費者認為詐騙和欺詐是合法的，"羅森沃塞爾在一份聲明中說。"不管你喜歡哪位名人或政客，也不管你與親屬的關系如何，當他們打電話求助時，我們都有可能成為這些偽造電話的目標。"
語音欺詐檢測公司Pindrop分析這條聽起來像是拜登告訴新罕佈什爾州居民不要投票的39秒假消息，發現它是利用ElevenLabs公司的文本到語音引擎制作的。這傢初創公司使用人工智能軟件復制二十多種語言的聲音。
據彭博社報道，ElevenLabs 公司證實在新罕佈什爾州事件中使用其軟件，並封禁肇事賬戶。新罕佈什爾州總檢察長辦公室已宣佈對假冒拜登的電話進行調查。
聯邦通信委員會發言人表示，對法律的潛在修改將賦予各州總檢察長新的權力，以打擊使用人工智能的聲訊電話騙子，同時保護消費者。
多年來，聯邦通信委員會一直在與自動語音電話作鬥爭。2022 年 12 月，聯邦通信委員會提議對一個非法的跨國機器人呼叫行動小組處以 3 億美元的罰款，該行動在 2021 年的三個月內向 5 億多個電話號碼撥打 50 多億次自動電話。2020 年，該局還對誤導性自動語音電話處以 2.25億美元的罰款。
生成傢庭成員的聲音已成為犯罪分子從毫無戒心的受害者那裡偷錢的常用手段。隨著人工智能生成技術變得更容易獲得、更便宜、更有說服力，這種犯罪也在不斷增加。