為何不公佈ChatGPT訓練細節?OpenAI聯合創始人:容易造成巨大傷害


3月17日消息,本周OpenAI發佈GPT-4。雖然這款人工智能聊天機器人不斷增加新功能,但人們越來越擔心,這種人工智能工具也可能被用於不良目的。OpenAI聯合創始人、首席科學傢伊利亞·薩茨科弗(IlyaSutskever)在接受采訪時承認,別有用心的人容易利用人工智能給他人造成傷害。

“這些模型非常強,而且會變得越來越強,”他說。“在某種程度上,如果有人想的話,很容易用這些模型造成很大傷害。”

薩茨科弗是在解釋為什麼OpenAI不再提供關於如何訓練這些模型的詳細信息時這樣說的。

他在接受采訪時表示:“隨著人工智能的性能不斷提升,不想透露它們是有原因的。”“我確信,在幾年內,每個人都將十分清楚,人工智能開源是不明智的做法。”

OpenAI首席執行官薩姆·奧爾特曼(Sam Altman)過去也表達過類似的看法。

在今年早些時候的一次采訪中,奧爾特曼表示,就人工智能而言,雖然最好的情況是“令人難以置信的好,以至於我都很難想象”,但最壞的情況是“讓我們所有人都熄火”。

上個月,奧爾特曼還在推特上表示,他認為人工智能工具可以幫助人們變得更高效、更健康、更聰明,但也補充說,世界可能離可怕的人工智能工具可能並沒有那麼遠,所以對它們進行監管“至關重要”。(辰辰)


相關推薦

2023-03-16

湃科技報道《OpenAI發佈多模態大模型GPT-4:直接開放API,ChatGPT升級》)GPT-4更有趣的方面之一是多模態。與GPT-3和GPT-3.5隻能接受文本提示不同,GPT-4可以接受圖像和文本提示來執行某些操作。這是因為GPT-4接受圖像和文本數據的訓

2023-04-19

周二,特斯拉CEO埃隆·馬斯克在推特上暗示將起訴ChatGPT背後的公司OpenAI。當播客主持人本尼·約翰遜(BennyJohnson)在推特上詢問馬斯克為何不“起訴OpenAI欺詐”他時,馬斯克的回應是:“等著瞧……”。這一回復令網友們紛紛猜

2024-03-04

AI。2022年底,該公司推出廣受關註的人工智能聊天機器人ChatGPT。根據OpenAI在2015年12月11日發佈的聲明,這些科技界領袖致力於創建一個非營利組織,其核心使命是以“最有可能造福於全人類的方式”推進人工智能的發展。當時,

2023-09-03

行大10倍或100倍的訓練運行。今年3月份GPT-4正式發佈,和ChatGPT最初使用的GPT-3.5模型相比,GPT-4實現幾個方面的飛躍式提升:強大的識圖能力;文字輸入限制提升至2.5萬字;回答準確性顯著提高;能夠生成歌詞、創意文本,實現風

2023-03-23

生更安全、更有用的響應”。Sutskever在談話中也表示,與ChatGPT相比,GPT-4在許多方面標志著“相當大的改進”,並指出新模型可以讀取圖像和文本。他說,“在未來的某個版本中,[用戶]可能會得到一張圖表”以回應提問和查詢

2023-04-15

Altman回答說,我們當然會一直保持坦誠。因為OpenAI堅信,ChatGPT技術會影響所有人,所以他們大膽地選擇把一個還不完美的AI系統公之於眾,讓所有人都囊括在這個討論體系中。盡管這讓OpenAI背負上種種“聲譽風險”,種種罵名,

2023-02-13

公開測試版。幾個月前,美國人工智能公司OpenAI對外發佈ChatGPT服務,這一產品能夠模仿識別人類語言,和人類進行對話方式的交流,也能夠撰寫文章或郵件。ChatGPT所表現的“高智商”隨機引發網絡上關註和消息傳播,這種巨大

2023-11-20

公開表示對Altman的支持。現在,Shear 接管 OpenAI,這是在 ChatGPT 推出近一年後的一次巨大調整。Shear 說:"我之所以接受這份工作,是因為我相信 OpenAI 是當下業界最重要的公司之一。當董事會與我分享情況並要求我擔任這一職

2023-01-21

約時報》周五報道,OpenAI高調推出的人工智能聊天機器人ChatGPT,對Google的核心業務構成嚴重威脅,以至於該公司的聯合創始人發出“紅色警報”。初創公司OpenAI在11月首次推出ChatGPT,幾天之內就有超過一百萬人開始向它提出大

2024-03-08

Inflection AI推出Pi聊天機器人,向OpenAI正式下戰書。不同於ChatGPT等產品的“生產力工具”定位,Pi想做“個人AI”,成為用戶24小時在線的數字朋友,更註重為用戶帶來友好、豐富的社交互動體驗。Pi能記住與跨平臺登錄用戶的100次

2023-04-17

在年內閃上市。現在官方親自來辟謠,OpenAI首席執行官、ChatGPT之父”Sam Altman回應:現在並未訓練GPT-5,在短期內也不會訓練。”OpenAI是一傢非常有趣的機構,和微軟、谷歌等大公司不同,OpenAI從不避忌談論自己的理念和產品,並

2023-04-10

為什麼全球熱門應用ChatGPT誕生在OpenAI?近日,外媒TheInformation的一篇深度稿件試圖道出原因。根據多方采訪,一個長達五年的ChatGPT產品研發落地故事浮出水面,背後的第一推手也隨之顯現。時間追溯到2017年,OpenAI還是一傢50人

2023-03-30

時間,以制定應對的最佳方式,並解如何與其作對抗。”ChatGPT崛起凸顯出行動過快存在潛在危險去年11月,當OpenAI的聊天機器人ChatGPT上市公測時,引起巨大轟動。可以理解的是,人們開始推廣ChatGPT的功能,而它對社會的破壞性

2023-03-15

做出同款網頁。當國內還在熱議人工智能對話大模型產品ChatGPT時,背後核心預訓練模型技術GPT卻突然重磅升級。北京時間3月15日凌晨,創造出ChatGPT的美國 AI 公司OpenAI 正式對外發佈GPT-4。據悉,GPT-4是新一代多模態大模型,支持