昨天有不少用戶在社交網絡上發帖抱怨ChatGPT出現胡言亂語的問題,主要是對於用戶提出的問題,ChatGPT的回答可能風馬牛不相及,亦或者是給出的回復是完全無意義的單詞組合。
接到反饋後 OpenAI 工程師立即進行排查並確認問題,到昨天夜裡 02:30 OpenAI 發文表示這個問題已經解決,同時 OpenAI 還公佈該問題的原因。
據 OpenAI 解釋:
大型語言模型 (LLM) 通過部分基於概率的隨機抽樣單詞來生成回答,LLM 的 “語言” 由映射到標記的數字組成。
在昨天發生的這種情況中,LLM 出現的錯誤主要是在模型選擇這些映射到標記數字步驟上,就像是在翻譯過程中迷失自我,導致選擇的數字是錯誤的。
不同數字對應的內容是不同的,因此出現選擇錯誤的數字後,就可能產生完全沒有意義的單詞組合,從技術上說,推理內核可能會在某些 GPU 配置中產生不正確的結果。
為此 OpenAI 針對該問題進行臨時性處理,目前用戶使用 ChatGPT 應該不會再經常碰到胡言亂語的問題。