快科技8月27日消息,近日,《美國醫學會腫瘤學雜志》刊登的一篇研究報告指出,ChatGPT生成的癌癥治療方案漏洞百出,毫無參考意義。
據悉,該研究來自哈佛醫學院附屬的佈裡格姆婦女醫院,該醫院的研究人員發現,在ChatGPT回答的關於癌癥病例與其治療方案的回答中,有三分之一存在不正確信息。
更致命的是,這些錯誤信息被ChatGPT與正確信息混雜在一起,導致用戶難以分辨到底哪些信息是準確可靠的。
參與該研究的Danielle Bitterman博士稱,ChatGPT回答中,錯誤信息與正確信息的混合程度相當高,已經達到專傢也難以發現問題的程度。
事實上,此前就曾有大量消息指出,目前的ChatGPT,或其他生成式人工智能,仍然存在給出強誤導性、或是完全錯誤信息的情況。
對此,以OpenAI為首的人工智能研發團隊已經表示,將在後續的開發中提高AI回答的可靠性,避免這樣類似幻覺”情況的出現。
此外,OpenAI已經在使用條款中警告用戶,模型並非是為提供醫療信息設計,也不應該被用於為嚴重的醫療狀況提供診斷或治療服務。