周鴻禕:ChatGPT可能兩三年內就會產生自我意識威脅人類


“從知識來說,它像一個博士生,學識廣博但還不會活學活用;從情商來說,它像一個油滑的中年人,說什麼都滴水不漏,絕不得罪用戶。但是,它實際上真正的能力像一個小孩子,需要進行問題和答案的訓練來學習技能。再聰明的孩子都要通過訓練才能解答沒學過的奧數題。”


360創始人周鴻禕 澎湃新聞記者范佳來 攝

2月23日,360創始人周鴻禕在接受澎湃新聞等媒體采訪時,再次提到大熱的聊天機器人ChatGPT,並分享他心中ChatGPT的“三重人格”。

ChatGPT熱潮正席卷全球。這款由“美國AI夢工廠”OpenAI制作的AI聊天機器人軟件,隻用兩個月時間,月活躍用戶達到1億,是史上月活用戶增長最快的消費者應用。

此前,周鴻禕曾經多次在公開場合談到他對ChatGPT的觀察。在他看來,ChatGPT已經擁有或接近擁有人類智慧,並正處於通往“通用人工智能”的臨界點。“我們認為它是一個通用人工智能的奇點,而通用人工智能也還有一個隱含的拐點,它可能是一個強人工智能。”

ChatGPT具有類人特征:有編故事的能力

在采訪現場,周鴻禕完全不掩飾他對ChatGPT的興奮。

在他看來,ChatGPT是一種生產力強大的再造工具,而不僅僅是賦能特定行業。“過去說大數據像‘石油’一樣,但大數據不能直接用,ChatGPT像一個發電廠,燒石油,把石油灌進去之後就可以產生電力,用雲服務的方式把它接入到千傢萬戶、千行百業,它對整個產業都會發生巨大的影響。所以,這直接決定未來下一個十年中國和其他國傢的科技產業差距:是形成落後還是迎頭趕上。”

ChatGPT將通過上千億的系統參數,實現原先設計者預想不到的能力。“這就像從猿到人的過程中肯定有一個臨界點,當大腦的神經網絡鏈接數目、腦細胞數目等多到一定程度時,人的智力和動物相比就產生質的飛躍。”

周鴻禕表示,ChatGPT和其他人工智能最大的區別、也是其類人特征是,原來的人工智能並沒有實現對知識全部的理解和編碼,本質都是按照關鍵字匹配已有的回答,但ChatGPT沒有“固定答案”:“我當時問它一個問題,趙匡胤為什麼招安宋江,殺掉嶽飛,這個無厘頭的問題,它也煞有介事地回答一遍,能夠自己‘編’故事,這才是它的真正智能所在。”

“ChatGPT可能在2-3年內就會產生自我意識威脅人類。”在采訪現場,周鴻禕“語出驚人”。他提到,任何行業的APP、軟件、網站、應用,如果加持上GPT的能力,都值得重塑一遍。“不要把它當成一個媒體工具、搜索引擎、聊天機器人,這都有點把它看的太小兒科。”

他表示,ChatGPT和傳統人工智能的訓練不一樣,需要經過多維度的訓練。首先是囫圇吞棗、不求甚解的讀上幾百萬本書,獲得人類知識,但是依然不具備解決問題的能力。其次需要專業的人工智能訓練師去培養它回答問題的能力,其中也催生出大量的新就業機會。

最大的安全問題是產生自我意識後是否能被控制

作為網絡安全問題的專傢,周鴻禕也分享他心中的ChatGPT的安全問題。

在他看來,ChatGPT的安全性從技術問題變成社會倫理問題。ChatGPT掌握很多編程和網絡安全漏洞的知識,可以成為網絡犯罪的有力工具。有許多黑客演示利用ChaGPT寫釣魚郵件和攻擊代碼,所以從某種角度而言ChatGPT也成為黑客的“幫手”。

“國內的互聯網公司普遍太講究實用主義,都是把人工智能和自己的業務緊密結合,但沒想到ChatGPT的更多可能性,360目前還在追蹤和鉆研這些技術,希望能迎頭趕上。”周鴻禕表示,360正在探索“以其人之矛攻其人之盾”,用ChatGPT扮演“正義助手”的角色,建立對攻擊自動監測、發現的知識庫,用人工智能進行網絡安全數據的自動化處理。

“目前ChatGPT最大的安全問題就是產生自我意識後是否能被控制。”周鴻禕表示,假如放開限制,讓ChatGPT盡情在網頁中學習,可能會導致它產生對物理世界更強的控制能力,未來在發展上會產生更多不安全性,也有可能被人誘導幹出“糊塗事”,而是否能控制強人工智能,正是ChatGPT是否徹底融入人類生活的“邊界點”。

至於外界關註的ChatGPT是否可能造成普通人失業?在周鴻禕看來,短期內不會,“目前它的定位還是人類工具,這也是它的創造力所在。目前它的自我意識還沒有出現,所以需要發揮自己的想象力和創造力。”

他也對中國開發出屬於自己的ChatGPT充滿期待。在他看來,中國在人工智能領域與微軟、Google的差距並沒有想象中的大。在ChatGPT領域,中國具有很大優勢,有希望在2-3年內達到世界領先水平,應該對ChatGPT技術探索給予充分支持。

具體而言,周鴻禕表示,中國的互聯網公司在數量與算力有一定的優勢,同時也有較強的科研和高校儲備力量,必須將科研機構、學校、科學傢等學術圈人士,和產業、工程、產品結合起來,充分調動和統籌資源。

工程師紅利是中國的一大優勢,但也面臨不利條件,就是缺乏開源的傳統。在ChatGPT研發中,用許多開源模型,沒有此前的開源就沒有在巨人肩膀上的積累,每個公司都要從黑暗中摸索,這對國傢整個產業發展速度是不利的,“這麼牛的技術,也確實不應該被壟斷在一兩傢公司手裡。”

周鴻禕認為,解決原創問題需要科研機構的努力,而科研機構也需要和產業公司的合作,OpenAI與微軟的合作創造一個產業公司和創業公司的合作范例,“我認為國傢還是應該充分的支持ChatGPT產業發展,開源、合作、交流、打造生態。”

他希望國內有更多企業參與AI生態的構建,並形成公開的市場競爭,這樣才有進步。“ChatGPT讓很多行業應用就插上人工智能的翅膀。”周鴻禕表示,“光是ChatGPT煽動不一場產業革命,但是如果將來各行各業都被人工智能賦能,就會帶來巨大的改變。”

此前2月9日下午,周鴻禕在與搜狐張朝陽的對話中表示,雖然ChatGPT現在還不完美,但要看到它無限的潛力,未來會有非常多的場景,不僅僅是輔助搜索引擎搜索答案。“這就是為什麼所有公司都爭先恐後地都要搭上這班車,如果搭不上就有可能被淘汰。”

“我覺得ChatGPT真的不是一個工具,它對人類自然語言的充分理解,可能代表著人類在人工智能歷史上開始一場真正的革命。”談及ChatGPT的誕生,周鴻禕表示,ChatGPT是通過一個上千億參數的大語言模型,相當於把網絡上很多人類的知識都進行理解和訓練,模擬人腦對知識的儲存,使得回答問題完全像一個成熟、油滑的人,而不是機械地給出搜索答案。


相關推薦

2023-05-09

8日消息,360創始人周鴻禕近日在與俞敏洪的對話中談到ChatGPT,他認為其發展是指數級的,幾年後可能會失控。此前,據澎湃新聞報道,周鴻禕在采訪中還表示,ChatGPT可能在2-3年內就會產生自我意識威脅人類。他提到,任何行業

2023-02-20

ChatGPT近期持續火熱,各傢科技、互聯網企業紛紛跟進,諸多大佬也發表各種各樣的觀點。據中國日報網消息,周鴻禕在接受專訪時表示,ChatGPT已經是真正的人工智能,不再是人工智障”,並且已經達到大學畢業生的水平,在一

2023-02-25

蘇河”,賦能城市未來。會上,360集團創始人周鴻禕圍繞ChatGPT發展,發表主題演講ChatGPT掀起新工業革命,人類面臨終極挑戰。周鴻禕表示,ChatGPT的並不是聊天機器人,也不是下一代搜索引擎,同樣不能簡單等同於AIGC人工智能

2023-03-26

以ChatGPT為代表的生成式AI火爆全球,最新的GPT-4大模型又進一步提升ChatGPT的能力,國內有多傢公司都在對標ChatGPT,然而發佈出來的產品被指差距極大,360創始人周鴻禕則有不一樣的看法。在今天開幕的2023中國高層發展論壇上,3

2023-03-25

主辦的2023中國發展高層論壇開幕上,三六零集團創始人周鴻禕表示,中國大語言模型技術水平和GPT-4的差距在2到3年時間,目前GPT的技術方向已經明確,不存在難以逾越的技術障礙,中國企業應當堅持長期主義精神,迎頭趕上。

2023-11-24

技評論對OpenAI首席科學傢Ilya Sutskever的專訪,他當時稱,ChatGPT可能已經有意識。Q*會產生哪些後續影響?毀滅人類?目前,OpenAI所給出的官方回應是,奧特曼被解雇,與公司的研究進展無關。但仍然擋不住網友天馬行空的猜想和

2023-04-11

聲音認為,三六零近來之所以在資本市場被再次看好,與ChatGPT掀起新一輪人工智能探索熱潮、以及公司創始人周鴻禕多次大談ChatGPT相關技術和三六零公司在人工智能領域開展的研究、嘗試有關。不過,近年來三六零公司的經營

2023-03-15

今晨,OpenAI發佈GPT-4。和ChatGPT最初使用的GPT-3.5模型相比,GPT-4實現幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至2.5萬字;回答準確性顯著提高;能夠生成歌詞、創意文本,實現風格變化。對於它的出現,周鴻禕

2023-03-26

今日,2023中國發展高層論壇正式開幕,360集團創始人周鴻禕與蘋果CEO庫克、施耐德電氣CEO趙國華共話科技未來。周鴻禕以人工智能與未來安全”為題發表主題演講。演講中,周鴻禕展示AI繪圖生成的自畫像,以及由大語言模型生

2023-03-21

ChatGPT的橫空出世,對方方面面都造成影響,也給一些喜歡鉆空子的人提供機會。近日消息,據海外媒體報道,密歇根大學的教授奧曼在學生作業中發現一篇關於世界宗教的完美論文”。教授稱,這篇文章語法太完美,結構太合

2024-02-17

nAI公開的演示視頻來看效果非常超現實。昨日,360董事長周鴻禕在微博發文,談到OpenAI的文字轉視頻模型Sora。他認為:Sora意味著AGI實現將從10年縮短到1年。周鴻禕表示,AI不一定那麼快顛覆所有行業,但它能激發更多人的創作

2023-02-11

2月11日消息,ChatGPT火爆全球,科技大佬比爾·蓋茨日前表示,他認為ChatGPT聊天機器人與互聯網的發明一樣重要。近日,在張朝陽和周鴻禕的《星空下的對話》節目中,兩位國內科技圈的大佬也談到ChatGPT。怎麼看ChatGPT?周鴻禕:

2024-02-21

。至少在2023年之前是這樣——在這一年,由OpenAI開發的ChatGPT、Google開發的Bard和其他用戶友好型人工智能受到全世界的歡迎。同時,像DALL·E和Midjourney這樣的圖像生成器,其仿真照片和圖形藝術也讓人們驚嘆不已。“他們不會用C

2023-02-10

號稱能夠將意識上傳,實現某種意義上的永生。恰好最近ChatGPT大火,流暢的對話邏輯像是在和真人對話,比以往的AI 都更加人性化,更加智能。360創始人周鴻禕在最近的一檔節目中提到,自己原來對數字永生持懷疑態度,但ChatG