今天,OpenAI帶來全面進化的GPT-4,相較此前的GPT-3.5,新模型在準確度等方面存在相當顯著的提升。
但AI畢竟還是AI,OpenAI也明確表示,現階段的GPT-4並不完美,在一些方面依舊存在問題。
比如,在GPT-3.5中就存在的,AI胡編亂造”問題,到GPT-4,也依舊存在。
在新版本中,AI依舊會編造事實,並且事實方向也不一定總是可靠的,由於系統不知道什麼是真的,什麼是假的,它們可能會生成完全錯誤的文本。
對此,OpenAI表示,它傾向於堅持認為它是正確的,即使它錯”,這導致它有時仍然會輸出完全錯誤的結果。
比如在被要求提供描述最新癌癥研究的網站地址時,GPT-4甚至會生成不存在的互聯網地址,用來佐證並不正確的結論。