白宮今天發佈規則草案，要求聯邦機構評估並持續監控醫療保健、執法和住房領域使用的算法，以發現潛在的歧視或其他對人權的有害影響。一旦生效，這些規則可能會迫使美國政府改變依賴人工智能的活動，例如聯邦調查局對人臉識別技術的使用，該技術因沒有采取國會要求的措施來保護公民自由而受到批評。新規則將要求政府機構在2024年8月前對現有算法進行評估，並停止使用任何不符合要求的算法。
備忘錄中說："如果好處沒有明顯超過風險，機構就不應該使用人工智能。但備忘錄草案為涉及國傢安全的模型劃出豁免范圍，並允許各機構在停止使用人工智能模型'會對關鍵機構的運作造成不可接受的阻礙'的情況下，有效地為自己頒發豁免。"
白宮管理和預算辦公室在總統拜登簽署行政命令兩天後發佈該規則草案，該行政命令相當於一項政府范圍內的計劃，旨在同時增加政府對人工智能的使用，同時尋求防止該技術帶來的危害。需要確保人們免受人工智能的危害是該行政令的一大主題，其中的規定包括對大型人工智能模型和計算集群開發者的報告要求。
擬議的 OMB 規則將增加對從私營公司購買的算法進行測試和獨立評估，作為聯邦合同的一項要求。這些規則將要求政府機構評估和監控正在使用的算法和未來購買的算法，以確定其是否對隱私、民主、市場集中度和政府服務的獲取產生負面影響。
備忘錄草案要求由不直接參與系統開發的人員對算法進行測試和評估，並鼓勵對人工智能生成模型進行外部"紅隊"測試。它還指示聯邦機構的領導人探索如何在"不帶來過度風險"的情況下使用生成式人工智能，如 OpenAI 的 ChatGPT。
拜登的人工智能行政命令要求 OMB 在未來五個月內向聯邦機構提供指導。該辦公室正在就政策草案征求公眾意見，截止日期為 12 月 5 日。
OMB負責管理的副主任傑森-米勒（Jason Miller）說："該框架為聯邦機構制定一套具有約束力的要求，以便為人工智能的使用提供保障，從而使我們能夠利用人工智能帶來的好處，並使公眾能夠信任聯邦政府提供的服務。"
備忘錄草案強調人工智能的某些用途，在這些用途中，技術可能會損害權利或安全，包括醫療保健、住房和執法--在這些情況下，算法過去都曾導致歧視或拒絕提供服務。
OMB 草案中提到的潛在安全風險的例子包括大壩等關鍵基礎設施的自動化和 Cruise 機器人軸這樣的自動駕駛汽車，後者上周在加利福尼亞被關閉，聯邦和州監管機構正在對其進行調查，因為一名行人被一輛汽車撞倒，拖行 20 英尺。在備忘錄草案中，人工智能可能侵犯公民權利的例子包括：預測性警務、可以阻止受保護言論的人工智能、剽竊或情緒檢測軟件、租客篩選算法，以及可以影響移民或兒童監護權的系統。
據 OMB 稱，聯邦機構目前使用 700 多種算法，但聯邦機構提供的清單並不完整。米勒說，備忘錄草案要求聯邦機構更多地分享他們使用的算法。他說："我們的期望是，在未來幾周和幾個月內，我們將提高各機構識別和報告其使用案例的能力。"
美國副總統卡馬拉-哈裡斯（Kamala Harris）今天在美國駐倫敦大使館發表講話時提到 OMB 備忘錄和其他負責任的人工智能倡議，她此行是為參加本周在英國舉行的人工智能安全峰會。她說，雖然人工智能決策中的一些聲音關註的是災難性風險，比如人工智能有朝一日可能在網絡攻擊或制造生物武器中發揮作用，但偏見和錯誤信息已經被人工智能放大，每天都在影響著個人和社區。
即將出版的一本關於人工智能采購政策的書的作者、非營利組織人工智能與數字政策中心（Center for AI and Digital Policy）總裁梅爾-希科克（Merve Hickok）對OMB備忘錄要求各機構證明其使用人工智能的合理性，並指定專人負責這項技術表示歡迎。密歇根大學（University of Michigan）講師希科克（Hickok）說，這是一種潛在的有效方法，可以確保人工智能不會被強加到每個政府項目中。
但她擔心，提供豁免可能會破壞這些機制。她說："如果我們開始看到各機構廣泛使用這種豁免權，特別是執法、國土安全和監控機構，我會很擔心。一旦他們獲得豁免，就可能是無限期的"。