喬-拜登（JoeBiden）在昨晚的國情咨文演講中談到幾個與科技相關的話題，其中包括人工智能語音克隆。總統呼籲"禁止人工智能語音模仿"，今年早些時候有人利用他的聲音試圖影響選。
"在國內，我已經簽署 400 多項兩黨法案。"拜登總統在國情咨文中說："要通過我的團結議程，還有更多的法案。隨後，他列舉如果他被選中連任，他希望解決的一些提案：加強對芬太尼販運的懲罰力度，通過兩黨隱私立法來保護我們的兒童上網，利用人工智能的承諾來保護我們免受危險，禁止人工智能語音冒充等等"。
拜登有充分的理由呼籲禁止人工智能語音克隆。今年 1 月，新罕佈什爾州的選民接到一個 39 秒的機器人電話，告訴他們不要在民主黨初選中投票，而是把選票"留給"11 月的總統選舉。播報這條建議的聲音聽起來幾乎和喬·拜登一模一樣。語音欺詐檢測公司 Pindrop 後來分析這通電話，認為它是使用 ElevenLabs 公司的文本到語音引擎制作的，該公司也證實這一點。
這一事件導致美國聯邦通信委員會根據 1991 年的《電話消費者保護法》，規定使用人工智能生成的語音撥打機器人電話為非法行為。該機構擔心，技術被用來模仿"名人、政治候選人和近親屬"的聲音，從而混淆和欺騙消費者。
拜登提議的禁令范圍尚不明確。它可能僅限於某些領域，比如模仿政客，但總統聽起來確實在談論全面禁止人工智能語音模仿，這將產生深遠影響。
除政治之外，使用人工智能重塑演員的聲音和形象也是 SAG-AFTRA 演員罷工背後的問題之一。盡管並非所有人都對這一協議感到滿意，但在達成一項協議，確保在使用人工智能復制演員時，演員同意並獲得公平補償後，罷工結束。