奧特曼警告:“社會失調”可能放大人工智能風險


OpenAI首席執行官薩姆·奧特曼周二表示,讓他在人工智能方面夜不能寐的危險是“非常微妙的社會失調”,這可能會使系統造成嚴重破壞。在迪拜舉行的世界政府峰會上,奧特曼通過視頻電話發表講話,再次呼籲成立一個像國際原子能機構這樣的機構來監管人工智能,因為人工智能的發展速度可能比世界預期的要快。

   

“有些東西很容易想象,哪裡出問題。我對殺手機器人在街上行走的方向不太感興趣,”奧特曼說。“我更感興趣的是非常微妙的社會失調,我們隻是把這些系統放在社會上,並沒有特別的惡意,事情就會變得非常糟糕。”

然而,奧特曼強調,人工智能行業,包括OpenAI在內,不應該在制定行業監管法規方面占據主導地位。

“我們仍處於大量討論的階段。所以,你們知道,世界上每個人都在開會。每個人都有自己的想法,一份政策文件,這沒關系。我認為我們仍然處於一個需要辯論和健康的時期,但在未來幾年的某個時候,我認為我們必須采取行動計劃,得到全世界的真正支持。”

奧特曼說,他很高興看到學校現在接受這項對未來至關重要的技術,盡管老師們擔心學生會用AI寫論文。但他補充說,人工智能仍處於起步階段。

奧特曼說:“我認為原因是我們目前擁有的技術就像……第一款帶有黑白屏幕的手機。所以給我們一些時間。但我認為再過幾年,它會比現在好得多。十年後,這應該會非常不起。”


相關推薦

2023-11-27

其辭,此後也沒有透露太多信息。OpenAI的目標是開發通用人工智能(AGI),並確保它“造福全人類”。AGI指的是在面對不熟悉的任務時能夠表現出與人類能力相當的系統。OpenAI采用獨特的公司結構,將非營利性董事會置於利潤上

2023-11-23

研究人員向該公司董事會發出一封信,警告稱一項強大的人工智能發現可能威脅到人類。兩位消息人士表示,這封此前未被報道的信件和AI算法是導致董事會罷免奧特曼的催化劑。 消息人士稱,這封信是導致奧特曼被解雇的董事

2023-02-07

便世界能夠開始解即將發生的事情。”·奧特曼說,通用人工智能是驅動他所有行動的推力,ChatGPT不會取代搜索,但有一天某個人工智能系統可以。“如果AGI真正完全實現,我可以想象它打破資本主義的所有這些方式。”隨著人

2023-11-23

裡,被稱為“有效利他主義”的社會思潮運動,在矽谷各人工智能公司的員工和高管產生激烈的分歧。而這股思潮的信奉者與非信奉者間的針鋒相對,似乎也正成為OpenAI過去一周震驚世界的“宮鬥事件”背後,真正的“無形之手

2023-11-19

formation 》報道,在解雇奧特曼之前, OpenAI 內部就出現對人工智能是否足夠安全的爭論。至於奧特曼這事,我們從網上各種可靠、不可靠的消息拼湊出來一個大概時間線。這些網絡傳聞的真實性還不得而知,大傢權且當吃瓜看一

2024-03-04

3月3日消息,在人工智能領域,埃隆·馬斯克(ElonMusk)和薩姆·奧特曼(SamAltman)都是傑出的先鋒。然而,隨著時間的推移,他們現在分別領導著互相競爭的人工智能公司,並開始公開指責對方。那麼,這對曾經的好友和創業夥

2023-12-04

多年好友、時任谷歌首席執行官的拉裡·佩奇(Larry Page)就人工智能發展前景吵起來。佩奇認為,人類最終將與人工智能機器融合。有一天將會有許多種智能爭奪資源,而最好的將會獲勝。馬斯克說,如果發生這種情況,我們就完

2023-12-07

經歷動蕩的一年後,AI(人工智能)新銳巨頭OpenAI的CEO薩姆·奧特曼(SamAltman)被《時代》雜志評選為2023年年度CEO。當地時間12月6日,《時代》雜志宣佈奧特曼被評選為2023年年度CEO。結合采訪,《時代》梳理奧特曼一路走到今天

2023-11-18

,我將繼續相信創建安全的、能夠造福全人類的AGI(通用人工智能)的使命。”而在幾小時後,佈洛克曼又在X平臺上發一篇長文,表示董事會的決定讓奧特曼和自己都感到“震驚和悲傷”,並梳理董事會“罷免”兩人的全過程

2023-05-17

有趣的一幕發生。今天上午,在美國國會針對人工智能監管的聽證會開始時,參議員理查德·佈盧門撒爾(RichardBlumenthal)“講”一段宣言。他的聲音在大廳裡響起:“我們經常看到技術超過監管時會發生什麼。會加深對個人數

2023-02-15

OpenAICEO薩姆·奧特曼(SamAltman)今日安撫外界的擔憂,稱人工智能聊天機器人ChatGPT不會成為人類的“就業殺手”。ChatGPT是由OpenAI研發的一款人工智能聊天機器人,一經推出就迅速成為全球關註的焦點。在短短兩個多月的時間裡

2023-11-23

名公司研究人員向董事會發出一封信,警告稱一項強大的人工智能(AI)發現可能威脅人類。消息人士表示,這封此前未被報道的信件和AI算法,是導致OpenAI董事會罷免奧特曼的催化劑。他們稱,董事會對奧特曼的諸多不滿導致

2023-11-04

進入智力時代11月1日,在英國倫敦佈萊奇利園舉辦的首屆人工智能安全峰會上,發佈《佈萊奇利宣言》,宣言稱 AI 帶來巨大機遇,有潛力增強人類福祉、和平和繁榮,但同時 AI 也帶來重大風險,而需要通過國際合作的形式解決

2023-11-23

在經歷一段時間的談判後,當地時間11月21日深夜,人工智能開發機構OpenAI宣佈,已經原則上達成協議,創始人山姆·奧特曼重返公司擔任CEO,“並組建由BretTaylor(主席)、LarrySummers和AdamD‘Angelo組成的新董事會。我們正在合作找