AI並不“萬能”:ChatGPT給出癌癥治療方案被指漏洞百出


快科技8月27日消息,近日,《美國醫學會腫瘤學雜志》刊登的一篇研究報告指出,ChatGPT生成的癌癥治療方案漏洞百出,毫無參考意義。

據悉,該研究來自哈佛醫學院附屬的佈裡格姆婦女醫院,該醫院的研究人員發現,在ChatGPT回答的關於癌癥病例與其治療方案的回答中,有三分之一存在不正確信息。

更致命的是,這些錯誤信息被ChatGPT與正確信息混雜在一起,導致用戶難以分辨到底哪些信息是準確可靠的。

參與該研究的Danielle Bitterman博士稱,ChatGPT回答中,錯誤信息與正確信息的混合程度相當高,已經達到專傢也難以發現問題的程度。

事實上,此前就曾有大量消息指出,目前的ChatGPT,或其他生成式人工智能,仍然存在給出強誤導性、或是完全錯誤信息的情況。

對此,以OpenAI為首的人工智能研發團隊已經表示,將在後續的開發中提高AI回答的可靠性,避免這樣類似幻覺”情況的出現。

此外,OpenAI已經在使用條款中警告用戶,模型並非是為提供醫療信息設計,也不應該被用於為嚴重的醫療狀況提供診斷或治療服務。


相關推薦

2023-01-28

會的這份報告提到,33%的癌癥死亡率降幅越來越多地反映出癌癥治療的進步,其中,肺癌、白血病、黑色素瘤和腎癌的死亡率下降尤為明顯,這也推動癌癥整體死亡率的下降。以癌癥中死亡率第一的肺癌為例,男性肺癌死亡率的

2022-07-18

耶魯大學和瓦薩學院的研究人員最近的一項研究,美國在癌癥治療上的花費是典型的高收入國傢的兩倍,但其癌癥死亡率卻隻比平均水平略好,也就是說,美國高額的癌癥治療費用並沒有降低致死率。這些發現最近發表在《美國

2024-03-23

間3月22日,英國凱特王妃發佈視頻聲明,稱自己正在接受癌癥治療。凱特稱,1月份在進行腹部手術時發現癌細胞。此後她一直在接受化療,其將之稱為“預防性”治療。“我現在正處於治療的早期階段,”凱特表示。“這當然

2022-12-14

信的成功後,許多關於該技術的工作迅速轉向探索其治療癌癥的潛力。特別是黑色素瘤,被證明是該技術的第一個主要癌癥目標,兩個大的mRNA公司(BioNTech和Moderna)都深入到2期人體試驗。Moderna公司的一項新公告現在提供任何測

2023-02-17

據《日本經濟新聞》2月11日報道,mRNA將用於治療癌癥。利用在新冠疫苗中實用化的“信使核糖核酸”(mRNA)技術,研發癌癥治療藥物的動向非常活躍。走在前面的是研發出新冠疫苗的海外企業,美國莫德納公司計劃在2023年內進

2022-10-19

患有帕金森氏癥等疾病、是否中風甚至是否患有抑鬱癥或癌癥。隨著醫學傢們努力地開發新癌癥治療方法--如一種殺死癌癥的病毒和一種殺死皮膚癌的凝膠--能夠更容易地發現它將使許多人可以獲得更快的治療。此外,AI疾病診斷

2023-04-24

ChatGPT知道自己寫的代碼有漏洞,但它不說!來自加拿大的一項最新研究發現,ChatGPT生成的代碼中,有不少都存在安全漏洞。然而在被要求評估自己代碼的安全性時,ChatGPT卻很快發現這些代碼中的漏洞,並給出一些解決方案和建

2024-03-23

管問題。不過我們有工具,有生產設備,我認為組織起來並不難。”不過,Lazarev強調,雖然研發和生產方面是可行的,但價格方面肯定不會便宜,因為隻有專門的癌癥研究機構,如莫斯科的Blokhin癌癥中心或FMBA的大腦和神經技術

2023-01-22

難撼動根據上述最新報告,在美國,男性在一生中被診斷出癌癥的概率為40.9%,女性為39.1%。2023年,估計美國將新診斷出196萬例入侵性癌癥,較上一年的192萬例略有增加,相當於每天約5370例。其中,男性約101萬例,女性約94萬例

2023-11-29

素還被發現可以增強免疫療法的有效性,有可能用作補充癌癥治療的營養補充劑。飲食已被證明可以提供一系列健康益處,包括預防癌癥擴散或加強疾病的治療。 然而,由於食物的多樣性和飲食代謝的復雜性,人們對特定營養

2023-02-27

Inc.,如果交易達成,將為該公司增加一組有前景的靶向癌癥治療藥物。上述知情人士表示,談判還處於早期階段,不能保證會達成協議。有許多障礙需要克服,包括可能面對嚴格的反壟斷審查。如果真能達成協議,那將是一筆

2023-02-17

些食物中發現;然而,已知這種污染物水平的增加會導致癌癥。以至於科學傢們在藥物開發項目中經常使用NDMA來誘導小鼠的腫瘤。根據彭博社的文章,FDA說它在一種非處方藥Zantac中檢測到357ng的NDMA,這一水平比任何FDA批準的藥

2024-03-23

I工具名叫Foresight,它使用的是生成式預訓練Transformer,與ChatGPT背後的LLM類似。首先,研究者在醫療記錄上訓練這些模型,然後向AI提供新的醫療保健數據。從而創建出患者的一個“虛擬副本”。然後這個數字孿生就可以預測患者

2023-01-06

BioNTech(BNTX.US)合作,到2030年用個性化療法治療多達1萬名癌癥患者,這一研究合作夥伴關系將BioNTech更快地接觸到測試其藥物所需的患者。知情人士透露,未來8到10年,雙方的合作價值可能高達7.5億美元。英國衛生和社會保障大臣