在2024年美國總統大選之前，Anthropic（一傢資金雄厚的人工智能初創公司）正在測試一種技術，當其GenAI聊天機器人的用戶詢問政治話題時，該技術就會檢測到，並將這些用戶重新引導到"權威"的投票信息來源。
這項技術被稱為"提示盾"（Prompt Shield），它依賴於人工智能檢測模型和規則的結合，如果Anthropic公司的聊天機器人克勞德（Claude）的美國用戶詢問投票信息，它就會彈出一個窗口。彈出窗口會將用戶重定向到無黨派組織"民主工程"（Democracy Works）的資源庫 TurboVote，在那裡他們可以找到最新、準確的投票信息。
Anthropic說，由於克勞德在政治和選舉相關信息方面的缺陷，"Prompt Shield"是必要的。Anthropic 承認，克勞德沒有接受過足夠頻繁的培訓，無法提供有關具體選舉的實時信息，因此很容易對這些選舉產生幻覺，即捏造事實。
發言人通過電子郵件表示："自 Claude 推出以來，我們就一直在使用'及時屏蔽'--它可以根據我們的可接受用戶政策標記出一些不同類型的危害。我們將在未來幾周內推出針對選舉的及時屏蔽幹預措施，我們打算監測其使用情況和局限性......[在開發過程中]，我們與包括政策制定者、其他公司、民間社會和非政府機構以及針對選舉的顧問在內的各種利益相關者進行交流。"
目前這似乎隻是一個有限的測試。當媒體向Claude詢問如何在即將到來的大選中投票時，它並沒有彈出提示，而是吐出一份普通的投票指南。Anthropic 聲稱它正在對 Prompt Shield 進行微調，準備將其推廣給更多用戶。
Anthropic公司禁止在政治競選和遊說中使用其工具，它是最新一傢實施政策和技術以試圖防止選舉幹擾的GenAI供應商。時機絕非巧合，今年，全球將有比歷史上更多的選民參加投票，至少有 64 個國傢將舉行全國大選，這些國傢的總人口約占世界總人口的 49%。
今年 1 月，OpenAI 表示將禁止人們使用其病毒式人工智能聊天機器人 ChatGPT 創建冒充真實候選人或政府、歪曲投票方式或阻止人們投票的機器人。與 Anthropic 一樣，OpenAI 目前也不允許用戶使用其工具創建用於政治競選或遊說目的的應用程序--該公司上個月重申這一政策。
在與 Prompt Shield 類似的技術方法中，OpenAI 還采用檢測系統，將詢問有關投票的後勤問題的 ChatGPT 用戶引導到一個無黨派網站 CanIVote.org，該網站由全國國務卿協會維護。
在美國，盡管得到兩黨的支持，國會仍未通過立法來規范人工智能行業在政治中的作用。與此同時，在聯邦立法停滯不前的情況下，超過三分之一的美國州已經通過或提出法案，以解決政治競選中的深度偽造問題。
在監督機構和監管機構的壓力下，一些平臺正在采取措施阻止 GenAI 被濫用於誤導或操縱選民，以代替立法。
Google去年 9 月表示，將要求在 YouTube 及其他平臺（如Google搜索）上使用 GenAI 的政治廣告，如果圖像或聲音是經過人工合成的，則必須在顯著位置披露。Meta 還禁止政治活動在其旗下的廣告中使用 GenAI 工具（包括自己的工具）。