Google表示，在發現"Gemini"人工智能生成不準確的歷史圖像後，它將暫停該工具生成人物圖像的功能。此前"Gemini"一直在生成不同的美國開國元勛和納粹時期德國士兵的圖像，這似乎是在試圖顛覆生成式人工智能中的性別和種族刻板印象。
"我們已經在努力解決Gemini圖像生成功能最近出現的問題，"Google在X 上發佈的一份聲明中說，"在我們進行這項工作的同時，將暫停生成人的圖像，並將很快重新發佈一個改進版本。"
在Google決定暫停在Gemini中生成人物圖像不到 24 小時之前，該公司就其人工智能模型生成的一些歷史圖像不準確一事道歉。一些Gemini用戶在請求生成建國元勛等歷史團體或人物的圖片時，發現人工智能生成的結果中出現非白人的人物。這在網上引起一些陰謀論，認為Google有意避免描繪白人。
實測幾個Gemini的查詢，發現其中包括一個"19 世紀美國參議員"的請求返回的結果包括似乎是黑人和美洲原住民的女性。第一位女參議員是 1922 年的白人女性，因此Gemini的人工智能圖像基本上抹去種族和性別歧視的歷史。
下面是人工智能模型在用戶請求生成人物圖片時的反應：
我們正在努力提高Gemini生成人物圖像的能力。我們預計這項功能將很快恢復，屆時我們將通過版本更新通知您。
本月早些時候，Google首次通過 Gemini（前身為 Bard）開始提供圖像生成功能，以期與 OpenAI 和微軟的 Copilot 競爭。與競爭對手一樣，圖像生成工具也是根據文本輸入生成一系列圖像。