清華副教授:ChatGPT不能實現非0即1精確計算 存在安全問題


快科技4月8日獲悉,由中國人工智能學會主辦的人工智能大模型技術高峰論壇”主論壇在杭州蕭山啟幕。論壇上,清華大學長聘副教授、聆心智能創始人、國傢傑青獲得者黃民烈發表演講。

黃民烈表示,ChatGPT存在不足和缺陷,比如,無法實現數學計算和符號推理,具體表現為無法實現非0即1的精確計算。

由於ChatGPT本質上是一個語言模型,其體現的能力來源於對訓練數據的擬合,它的運行機制中並沒有顯式的邏輯推理與判斷,存在準確性、安全性等方面的問題。

此前,澳大利亞墨爾本西部赫本郡的市長就指控ChatGPT對其進行誹謗,因為該聊天機器人在回答問題時錯誤地聲稱他是某些醜聞的有罪方。

另外,之前也有不少體驗過的用戶吐槽,ChatGPT很多時候在遇到無法檢索的問題時,會強行編造出來一個回答,看似語法順暢,但信息全都是胡編亂造。


相關推薦

2022-09-26

率的光刻系統 — ZyvexLitho1。該工具使用量子物理技術來實現原子精度圖案化和亞納米(768 皮米——Si (100) 2 x 1 二聚體行的寬度)分辨率。這一進步使量子計算機能夠為真正安全的通信提供牢不可破的加密;還更快的藥物發現和

2023-03-03

3月2日,OpenAI正式開放ChatGPT的API接口,開發人員可以將ChatGPT模型集成到他們的應用程序和產品中。ChatGPTAPI調用的價格以Token(數字代幣)計算,0.002美元可以獲得1000Token,1000個Token約等750個單詞。這個價格比ChatGPT剛剛開放測試

2022-07-06

額調整、大額轉賬也就無從下手。清華大學公共管理學院副教授賈西津認為,銀行系統不能識別真實的臉和假的面孔,那就屬於系統漏洞,剩餘責任肯定是在銀行,不能把責任都推給客戶。用戶如果存在信息泄露的話有一定過錯

2023-03-31

析問題。先說競爭失控問題。據公開信所稱,提出“暫停ChatGPT研發”的提議,直接刺激是對“最近幾個月人工智能實驗室陷入一場失控競賽”的擔憂。可實際上,短短幾日爭論,是往OpenAI公司和LLMs(Large Language Models,大語言模

2023-02-08

斑。據數智前線介紹,清華大學計算機科學與技術系長聘副教授黃民烈,就曾經分析過GPT-3以來,OpenAI系列模型的影響力所在:在GPT-3之後,OpenAI所有的模型都沒有開源,但它提供API調用。在這個過程中,它幹一件事,就是建立

2023-12-04

在裡頭,芯片短缺確實是OpenAI面臨的一大難題。一年前,ChatGPT剛剛發佈不到一周,奧特曼就感覺到計算成本“慘不忍睹”。在五月份Humanloop舉辦的閉門會議上,他也曾透露,AI進展嚴重受到GPU短缺的限制,OpenAI的許多短期計劃都

2023-02-16

正經胡說八道。”清華大學計算機系自然語言處理實驗室副教授劉知遠對《中國新聞周刊》說。就連ChatGPT也承認自己的局限性。問及缺點,它回答:有可能會生成存在種族歧視、性別歧視等偏見的文本,因知識有限或不能理解

2023-10-26

頻分析、語音識別以及Transformer神經網絡,這些網絡是為ChatGPT等聊天機器人提供支持的大型語言模型(LLM)。這些人工智能任務可能會用於自動駕駛汽車、機器人、數字助理和衛星觀測等領域。某些應用程序需要的神經網絡太大

2022-07-29

出現在該系信息認知與智能系統研究所在職教師之列,任副教授。而清華大學也是他的母校:代季峰分別於2009年和2014年先後在清華大學獲得自動化專業學士學位和博士學位。據接近代季峰的相關人士透露,他的回歸舉動與個人

2023-03-18

的發佈讓全球科技圈的技術競爭進入白熱化。幾天之內,ChatGPT、必應搜索和Microsoft365相繼接入GPT-4,微軟的AI應用瞬間比競爭對手拉開一個身位,甚至有人說,新的工業革命開始。一方面我們被 GPT-4 的效果所震撼,一方面我們也

2023-03-15

做出同款網頁。當國內還在熱議人工智能對話大模型產品ChatGPT時,背後核心預訓練模型技術GPT卻突然重磅升級。北京時間3月15日凌晨,創造出ChatGPT的美國 AI 公司OpenAI 正式對外發佈GPT-4。據悉,GPT-4是新一代多模態大模型,支持

2024-04-25

首個使用AI從頭設計的分子級精確基因編輯器誕生。就像ChatGPT能生成詩歌一樣,Profluent這個全新的AI系統,可以讓我們編輯自己DNA的微觀機制生成藍圖。在迄今最廣泛的基於CRISPR的基因編輯系統數據集上,研究者訓練LLM。這些LLM

2022-09-10

和理化所量子計算中心的研究人員進行的研究中,該小組實現這一創舉:展示對一個三量子比特系統(矽中最大的量子比特系統之一)的完全控制,從而首次提供矽中量子糾錯的原型,他們的方法是通過一個三量子比特的Toffoli

2024-02-07

成型技術的應用而當選。外籍院士Huang, Yidong(黃翊東)清華大學電子工程系教授。因在光電子器件的研究及其在工業界的應用轉化而當選。黃翊東,清華大學學術委員會副主任,長江學者,新世紀百千萬人才工程國傢級人選。