大模型開不開源,矽谷大佬激辯: 一方談科學進步 另一方提國傢安全


3月8日消息,風投界的兩位巨頭,馬克·安德森(MarcAndreessen)和維諾德·科斯拉(VinodKhosla),近期在X平臺激烈辯論人工智能應該開源還是閉源,此議題迅速成為矽谷最具爭議的焦點之一。

安德森等人強烈支持開源人工智能,他們認為共享知識是科學進步的關鍵,提高透明度能夠防止大公司壟斷這項革命性技術。而科斯拉等閉源人工智能的支持者認為,讓私營部門掌握人工智能技術,是防止濫用和潛在風險的有效方法。

開源人工智能意味著技術將對公眾免費開放,以促進共同的建設和分享。而閉源或專有人工智能則被其創作者控制,不對外公開。盡管二者看似對立,實則可以和諧共存。例如,許多公司在開源代碼的基礎上發展出自有的專有系統。

此場辯論起因於特斯拉CEO埃隆·馬斯克(Elon Musk)對OpenAI及其CEO薩姆·奧特曼(Sam Altman)的起訴,凸顯人工智能的部署和安全問題的復雜性,特別是在監管機構、大型科技公司和科學傢等對人工智能的發展邊界和速度仍在探索時,想要找到明確的答案何其艱難。

在人工智能是否應該開源的爭論中,身處漩渦中心的科技巨頭們已經明確各自的立場。Meta堅定支持開源人工智能,發佈Llama 2模型供全球開發者使用和改進。緊隨其後的是法國Mistral AI,發佈具有開放“權重”的模型,即模型運作的核心參數。

然而,行業領頭羊OpenAI和Anthropic采取完全不同的策略,他們提供的是閉源人工智能模型,並堅持把技術牢牢控制在自己手中。

在這場辯論中,安德森於上周六通過社交媒體X發帖。他指責科斯拉正在“遊說禁止開源”。這發生在科斯拉公開支持OpenAI及其CEO奧特曼之後。而他的支持是在馬斯克對OpenAI提起訴訟之後表達的;馬斯克指責奧特曼和OpenAI違背公司創立時的原則,把追求利潤放在開源人工智能之前。

作為科斯拉風投公司(Khosla Ventures)的創始人,科斯拉不僅支持OpenAI的盈利性業務,還聲稱,人工智能就如同核武器一旦開源將可能威脅到國傢安全。他甚至引用OpenAI首席科學傢伊利亞·蘇茨凱弗(Ilya Sutskever)的話說,“不分享科學也是完全可以的。”

科斯拉風投公司的一位發言人進行解釋。他說,科斯拉確實曾支持開源技術。然而,科斯拉現在認為,大型人工智能模型“關乎國傢安全和技術”優勢,這些模型需要得到嚴密保護,不應輕易開源。

安德森所在的安德森-霍洛維茨(Andreessen Horowitz)風投公司對此次開源與閉源的辯論保持緘默,對評論請求沒有給出回應。

雙方雖立場對立,但均認同一個觀點:驅動ChatGPT等AI工具的大語言模型仍處於成長階段。ChatGPT與其他人工智能工具面臨的問題眾多,包括產生幻覺性輸出、偏見性結果,甚至有潛力輸出有害或攻擊性內容。此外,這些模型的應用和訓練成本高昂,還會消耗大量能源。

開源支持者認為,正是這些技術的未成熟,更加凸顯開源的重要性。他們認為,隻有在科學傢和學者組成的開放的科研社區內,才能排除商業利益的幹擾,共同推進通用人工智能的發展,最終實現機器能夠如同人類一樣學習和思考。

艾倫人工智能研究所(Allen Institute for AI)的首席執行官阿裡·法哈迪(Ali Farhadi)表示:“我們現在正處在一個關鍵節點,大規模部署一項我們尚未完全理解的技術,也不知道如何有效控制這些系統。”該研究所由已故微軟聯合創始人保羅·艾倫(Paul Allen)於2014年創立,是一個致力於人工智能研究的非營利機構。

法哈迪及其他支持開源的人士強調,共享研究成果是科學界的長久傳統。人工智能的發展不是從2017年谷歌分享的“轉換器”(Transformer,GPT中的T)模型開始的,其背後有更深遠的歷史。

同時,一些美國議員則支持科斯拉的觀點,他們擔心自由分享的人工智能技術可能落入國外競爭對手手中,因此認為應該加以保護。許多主張閉源的人工智能公司也持有相似立場,認為這種技術可能對人類生存構成威脅,可能帶來災難性後果。

奧特曼也強調,OpenAI高度重視其在開發人工智能方面的安全責任,堅信應該小心謹慎。他同時承認,人工智能為企業帶來巨大商業機會。

回顧歷史,軟件行業的開源運動,自Linux等項目興起後蓬勃發展,為當前開放與封閉的辯論提供豐富的歷史借鑒。開源軟件已成為包括雲計算在內的眾多技術領域的基石,其商業化甚至促成亞馬遜等科技巨頭的誕生。然而,開源軟件也面臨著網絡安全挑戰,因為任何人都能輕易下載和修改代碼。

專傢們指出,封閉和開源技術並不是相互排斥的,兩者可以並行發展。Meta負責生成人工智能的副總裁艾哈邁德·達勒(Ahmad Al-Dahle)就認為,把開源和封閉視為二選一的對立選擇是誤導,實際上兩者各有其發展空間。

人工智能初創公司AI21的聯合創始人兼聯席CEO奧裡·戈申(Ori Goshen)也分享相似觀點,他認為,“開源在人工智能領域扮演著至關重要的角色。即便是像AI21這樣的專有供應商,其基礎模型最終也可能開源,商業價值將來源於獨特的知識產權。”


相關推薦

2023-03-03

2日,OpenAI正式開放ChatGPT的API接口,開發人員可以將ChatGPT模型集成到他們的應用程序和產品中。ChatGPTAPI調用的價格以Token(數字代幣)計算,0.002美元可以獲得1000Token,1000個Token約等750個單詞。這個價格比ChatGPT剛剛開放測試時大

2023-11-04

隨著美國政府發佈新的AI法規,關於監管AI大模型一事最近又起爭議。北京時間11月2日凌晨,“ChatGPT之父”、OpenAICEO奧特曼(SamAltman)在英國劍橋參加活動時,遭到反AI活動的激進分子的強烈抵制,在大禮堂裡當面被“砸場子”

2024-03-06

晚,被稱之為是OpenAI最強競爭對手的Anthropic發佈其最新大模型系列Claude3。該系列包含三個模型,能力由強至弱分別是Claude3Opus(著作)、Claude3Sonnet(十四行詩)和Claude3Haiku(俳句)。Anthropic發佈的跑分顯示,Opus在多項基準測試

2024-03-09

“開源對於防止權力集中很重要。到目前為止,每個大型模型都在某種程度上是‘可越獄的’。”馬薩諸塞大學洛厄爾分校計算機科學教授Jie Wang則對每經記者表示,“未來各主要參與者都會將其大模型的某些部分開源,但絕對

2023-11-02

不難發現,關於人工智能監管規則的制定,或許是否開放開源才是解開這道題目的關鍵。不過,專傢們對於AI風險的激辯並不能改變英國峰會的主基調。周三,來自中美等28個國傢的代表同意共同努力,以遏制人工智能飛速發展

2023-02-10

自GPT-3發佈之後,國內許多企業就已經跟進在做類似的大模型。“實際差距並沒有那麼大,大概在一年左右。”小冰公司CEO李笛也向光錐智能提到:“國內人工智能技術不像芯片、操作系統一樣落後於國外,相反它應該是最接近

2023-03-30

仔細觀察名單,簽署呼籲信的主要有三類人群:學者、之前套現的公司創始人以及在人工智能競備賽中落後的公司負責人。馬斯克似乎是與人工智能最相關的上市公司負責人。人工智能風口正盛,一封呼籲暫停大型AI研究的公開

2024-03-28

顯的主線:一是基礎技術的進化,以GPT、Gemini為代表的大模型繼續向著AGI(通用人工智能)迭代;二是現象級應用的湧現,生成式AI在不同領域、不同場景下的應用狂潮在逐步改變人類的生活和工作方式,比如雷科技尤其關註的A

2023-02-22

受,由此帶來的是更加清晰、長遠和深刻的變化。大語言模型是一個可能跟移動互聯網相當級別的事情,中美大公司都在全力入場,我知道國內很多互聯網大佬級人物也都在思考如何驅動自己的公司進行研究和變革。”真格基金

2023-11-30

用戶就達到100萬。其後一年像是按下加速鍵,ChatGPT及其模型GPT的更新一個接一個,OpenAI成為最耀眼的明星公司。微軟向OpenAI投資上百億美元,將GPT融入全線業務中,一度叫板Google搜索。全球幾乎所有科技大廠悉數跳入AI軍備競賽

2023-01-25

不可少。換句話說,未來相當長的時間裡,咱們國傢還離不開化石能源。反過來再看發達國傢,他們早就完成工業化,目前碳排放已經逐年下降,也就是已經實現“碳達峰”。比如,歐盟已於 1979 年碳達峰,英國於 1991 年碳達峰

2024-02-26

為人工智能界的開年“王炸”。2月16日,OpenAI發佈Sora大模型,僅需通過文本即可自動生成視頻,這也是繼文本模型ChatGPT和圖片模型Dall-E之後,又一極具顛覆性的大模型產品。文本生成視頻並非始於Sora。據不完全統計,截至去年

2024-02-19

司被描述為為企業提供 “私人訓練和服務生成人工智能模型 ”,以滿足其特定的業務需求。在截稿日時,這傢公司已經關閉服務。而妻子本辛格在舊金山大學獲得數據科學碩士學位後,曾在多傢優質企業任職,生前是一傢房地

2024-03-18

今天凌晨,馬斯克旗下AI大模型Grok宣佈正式開源。險而又險地保住他在3月11日發佈的“本周開源”預告。這是一個3140億參數的混合專傢(MoE)模型,項目發佈5個小時,已在GitHub收獲6.3k星。對此,有DeepMind研究工程師預測,Grok-1