微軟和OpenAI宣佈成立一個200萬美元的基金，以應對人工智能和深度偽造被用於"欺騙選民和破壞民主"的日益增長的風險。今年將有創紀錄的20億人參加50多個國傢的選舉，因此人們擔心人工智能會對選民產生影響，尤其是那些"認知弱勢群體"，他們可能更容易相信自己看到的表面現象。
生成式人工智能（包括 ChatGPT 等大受歡迎的聊天機器人）的興起導致一種新的重大威脅，其中涉及人工智能生成的"深度偽造"，其目的是使虛假信息永久化。這些新工具可以廣泛使用，任何人都可以制作假視頻、照片或高知名度政治實體的音頻，但這並沒有什麼幫助。
就在本周一，印度選舉委員會敦促各政黨在圍繞選舉開展的網絡宣傳活動中避免使用深度偽造和類似的虛假信息。
正是在這一背景下，包括微軟和 OpenAI 在內的所有主要科技公司都簽署應對此類風險的自願承諾，並計劃建立一個共同框架，以應對專門為誤導選民而制造的深度偽造。
在其他地方，主要的人工智能公司已經開始通過在其軟件中引入限制來應對這些風險。例如，Google表示不允許其 Gemini 人工智能聊天機器人回答有關選舉的問題，而 Facebook 的母公司 Meta也限制通過其人工智能聊天機器人回答與選舉有關的問題。
今天早些時候，OpenAI 為虛假信息研究人員推出一款新的深度虛假檢測工具，旨在幫助識別由其自己的 DALL-E 圖像生成器生成的虛假內容，同時它還加入行業機構內容出處和真實性聯盟（C2PA）的指導委員會，該聯盟的成員包括 Adobe、微軟、Google和英特爾。
新的"社會復原力基金"是這一更廣泛的"負責任"人工智能推動力的一部分，微軟和 OpenAI 目前正致力於"在選民和弱勢群體中進一步開展人工智能教育和掃盲活動"。這將涉及向一些組織發放補助金，其中包括老年人技術服務組織（OATS）、內容真實性聯盟（C2PA）、國際民主與選舉援助研究所（International IDEA）和人工智能合作夥伴關系（PAI）。
根據微軟的說法，這些資助旨在讓全社會更好地解人工智能及其能力。例如，OATS 顯然將把贈款用於針對美國 50 歲及以上人群的培訓項目，內容涵蓋"人工智能的基礎方面"。
社會復原力基金的啟動隻是微軟和 OpenAI 致力於應對人工智能掃盲和教育領域的挑戰和需求的其中一步，"微軟負責技術和企業責任的公司副總裁 Teresa Hutson 在博文中表示。"微軟和 OpenAI 將一如既往地致力於這項工作，我們將繼續與擁有共同目標和價值觀的組織和倡議合作。"