AI前哨|人工智能安全形勢緊迫 美四大科技巨頭成立一個組織


鳳凰網科技訊 《AI前哨》北京時間7月26日消息,谷歌、OpenAI、微軟以及人工智能(AI)創業公司Anthropic周三宣佈,他們將成立一個名為“前沿模型論壇”(Frontier Model Forum)的行業組織,確保“前沿AI模型”的開發是安全的,負責任的。此前,外界已經呼籲這些科技巨頭為AI的開發“護欄”。

前沿AI模型指的是性能強大的基礎模型,它們的能力已經超過現有最先進的模型,可能具備足以對公共安全構成嚴重威脅的危險能力。

這四傢AI公司周三在一份聲明中表示,成立“前沿模型論壇”旨在鞏固成員公司的專業知識,為行業建立基準。“前沿模型論壇”稱,歡迎其他致力於大型機器學習平臺的組織參與進來。該組織將在未來幾個月內成立一個咨詢委員會以評估優先事項,通過一個工作組安排資金,並成立一個執行委員會來領導工作。“前沿模型論壇”還希望與現有AI組織合作,包括AI夥伴關系、MLCommons。

微軟總裁佈拉德史密斯(Brad Smith)在一份聲明中稱:“AI開發公司有責任確保這項技術是安全、有保障的,依舊處於人類控制之下。”

OpenAI全球事務副總裁安娜馬卡努(Anna Makanju)表示:“這是一項緊急工作。這個論壇有能力迅速采取行動,推進AI的安全狀況。”鳳凰網科技《AI前哨》對此將持續關註。


相關推薦

2022-08-11

隨著網絡安全形勢的日益復雜,企業已經越來越難以單打獨鬥。好消息是,在今早於拉斯維加斯舉辦的黑帽USA會議上,AWS、Splunk和Broadcom旗下的Symantec,攜手宣佈簡稱OCSF的“開放網絡安全架構框架”。作為一個全新的開源網絡安

2023-05-27

巨頭新聞集團CEO羅伯特湯姆森(Robert Thomson)本周警告稱,人工智能(AI)的崛起可能會對新聞業造成“致命性破壞”。這一表態呼應之前的一項可怕預測,即人類可能在各種知識型行業裡被拋棄。湯姆森周四出席在紐約舉行的國際新

2023-11-04

進入智力時代11月1日,在英國倫敦佈萊奇利園舉辦的首屆人工智能安全峰會上,發佈《佈萊奇利宣言》,宣言稱 AI 帶來巨大機遇,有潛力增強人類福祉、和平和繁榮,但同時 AI 也帶來重大風險,而需要通過國際合作的形式解決

2023-09-22

技訊《AI前哨》北京時間9月22日,ChatGPT在中國引發生成式人工智能(AI)熱潮,幾乎每天都有創業公司和科技巨頭發佈自傢大語言模型。不過,投資者警告稱,隨著成本和利潤壓力的增加,大模型行業的洗牌即將到來。裡昂證券

2022-06-22

據報道,Meta、微軟和其他爭相建設建設元宇宙概念的科技巨頭剛剛組建瞭一個組織來制定行業標準,以期讓這些公司的數字世界能夠相互兼容。這個組織名為元宇宙標準論壇(Metaverse Standards Forum),他們在當地時間周二的成立

2023-08-28

見經傳的韓國公司統治著,它就是SK海力士。目前來看,人工智能(AI)浪潮最大的受益者之一當屬英偉達,其最尖端的H100芯片已供不應求。但是一般人可能不知道,這種最先進AI芯片還依靠著一種專用存儲芯片:高帶寬內存芯片(

2023-05-27

官黃仁勛在臺大畢業典禮上發表致辭講話,黃仁勛強調,人工智能開啟巨大的機遇,靈活的公司將利用人工智能來提升自身地位,同樣的,未能充分利用人工智能的公司將會消亡。黃仁勛指出,我們正處於一個重大的科技時代的

2023-05-27

官黃仁勛在臺大畢業典禮上發表致辭講話,黃仁勛強調,人工智能開啟巨大的機遇,靈活的公司將利用人工智能來提升自身地位,同樣的,未能充分利用人工智能的公司將會消亡。黃仁勛指出,我們正處於一個重大的科技時代的

2023-06-10

10日消息,知情人士稱,微軟公司正在將其部分最頂尖的人工智能(AI)研究人員從中國調往加拿大,其中部分原因是為防止這些人才被國內公司挖走。四位知情人士透露,總部位於北京的微軟亞洲研究院(MSRA)已經開始申請簽

2023-06-11

,最近一段時間,一些研究人員和行業領袖不斷警告稱,人工智能(AI)可能會對人類的生存構成威脅。但是,對於AI究竟如何摧毀人類,他們並未詳談。上個月,AI領域的數百名知名人士聯合簽署一封公開信,警告AI有朝一日可

2023-08-31

主任)、百度技術委員會主席吳華等人。在7月初2023世界人工智能大會期間,百度首席技術官王海峰發言指出,百度文心大模型現已升級為文心大模型3.5,已實現基礎模型升級、精調技術創新、知識點增強、邏輯推理增強等,模

2023-06-13

CEO桑達爾皮查伊(Sundar Pichai)周一在接受采訪時稱,在某些人工智能(AI)領域,公司確實落後。但是,他並不急於快速推進公司的前進步伐,因為謹慎很關鍵。以下是皮查伊的采訪摘要:1.和競爭對手的進展相比,你對谷歌聊天機器

2023-07-04

誓旦旦地表示,軟銀隻會根據一項策略進行投資,那就是人工智能(AI)。接著在2018年,孫正義又安撫投資者稱,“我們不是在盲目投資,我們隻專註於一個主題,那就是AI”。隨後,軟銀對400多傢創業公司狂撒超過1400億美元(約合

2023-05-23

EO薩姆阿爾特曼(Sam Altman)上周在美國國會作證時坦言,人工智能(AI)會對世界造成重大傷害,並呼籲加強AI監管。美國當地時間周一,阿爾特曼聯合OpenAI總裁格雷格佈羅克曼(Greg Brockman)、首席科學傢伊爾亞蘇茨克維(Ilya Sutskeve