人工智能的未來:自學習機器可能取代當前的神經網絡


馬克斯-普朗克研究所的科學傢們利用神經形態計算中的物理過程,設計出一種更節能的人工智能訓練方法。這種方法有別於傳統的數字神經網絡,可以降低能耗,優化訓練效率。該團隊正在開發一種光學神經形態計算機來展示這項技術,旨在大幅推動人工智能系統的發展。

medium.png

基於物理學的新型自學機器可以取代目前的人工神經網絡並節約能源。人工智能(AI)不僅性能驚人,而且需要大量能源。承擔的任務越復雜,能耗就越大。德國埃爾蘭根馬克斯-普朗克光科學研究所的科學傢維克托-洛佩斯-帕斯托爾和弗洛裡安-馬誇特開發出一種更高效的人工智能訓練方法。他們的方法利用物理過程,有別於傳統的數字人工神經網絡。

負責開發為 ChatGPT 提供動力的 GPT-3 技術的 Open AI 公司沒有透露訓練這個知識淵博的高級人工智能聊天機器人所需的能量。

根據德國統計公司 Statista 的數據,這將需要 1000 兆瓦時,大約相當於 200 個三人或三人以上的德國傢庭的年消耗量。雖然這種能源消耗使 GPT-3 能夠解在其數據集中,"deep"一詞後面更有可能出現的是"sea"還是"learning",但無論如何,它都無法理解這些短語的深層含義。

medium.png

神經形態計算機上的神經網絡

在過去幾年中,為降低計算機,特別是人工智能應用的能耗,一些研究機構一直在研究一種全新的概念,即未來計算機如何處理數據。這一概念被稱為神經形態計算。雖然這聽起來類似於人工神經網絡,但實際上與人工神經網絡關系不大,因為人工神經網絡是在傳統的數字計算機上運行的。

這意味著,軟件或更準確地說算法是以大腦的工作方式為模型的,但數字計算機是硬件。它們依次執行神經元網絡的計算步驟,一個接一個,區分處理器和內存。

馬克斯-普朗克光科學研究所所長、埃爾蘭根大學教授弗洛裡安-馬誇特(Florian Marquardt)說:"當一個神經網絡用多達 1 TB 的數據訓練數千億個參數(即突觸)時,僅這兩個組件之間的數據傳輸就會消耗大量能量。"

medium.png4.png

如果人腦的工作能效與使用矽晶體管的計算機類似,那麼人腦就完全不同,在進化過程中可能永遠不會具有競爭力。它很可能會因過熱而失效。

大腦的特點是並行而非順序地完成思維過程的眾多步驟。神經細胞,或者更準確地說,突觸,既是處理器,又是存儲器。世界各地的各種系統都被視為神經細胞的神經形態對應物的可能候選者,其中包括利用光而不是電子進行計算的光子電路。它們的元件同時充當開關和存儲單元。

自學物理機器獨立優化突觸

弗洛裡安-馬誇特與馬克斯-普朗克光科學研究所的博士生維克托-洛佩斯-帕斯托爾(Víctor López-Pastor)一起,為神經形態計算機設計出一種高效的訓練方法。他解釋說:"我們提出自我學習物理機器的概念。核心思想是以物理過程的形式進行訓練,其中機器的參數由過程本身進行優化。在訓練傳統人工神經網絡時,需要外部反饋來調整數十億個突觸連接的強度。不需要這種反饋,訓練效率就會高得多。在自學習物理機器上實施和訓練人工智能,不僅可以節約能源,還能節省計算時間。我們的方法不管自學機器中的物理過程是什麼,都能發揮作用,我們甚至不需要知道具體的過程。不過,這個過程必須滿足幾個條件,最重要的是,它必須是可逆的,也就是說,它必須能夠以最小的能量損失向前或向後運行。"

5.png

"此外,物理過程必須是非線性的,即足夠復雜。隻有非線性過程才能完成輸入數據和結果之間的復雜轉換。一個彈球在盤子上滾動而不會與另一個彈球相撞,這是一個線性動作。但是,如果它受到另一個彈球的幹擾,情況就會變成非線性的。"

光學神經形態計算機的實際測試

6.png7.png

光學中也有可逆非線性過程的例子。事實上,維克多-洛佩斯-帕斯托爾(Víctor López-Pastor)和弗洛裡安-馬誇特(Florian Marquardt)已經與一個實驗小組合作開發一臺光學神經形態計算機。這臺機器以疊加光波的形式處理信息,由合適的元件調節互動的類型和強度。研究人員的目標是將自學物理機器的概念付諸實踐。

弗洛裡安-馬誇特說:"我們希望能在三年內推出第一臺自學物理機器。到那時,神經網絡的突觸數量和訓練數據量都將大大超過今天的水平。因此,人們可能會更加希望在傳統數字計算機之外實現神經網絡,並用訓練有素的神經形態計算機取而代之。我們相信,自學物理機器很有可能被用於人工智能的進一步發展。"


相關推薦

2023-03-23

進行一次深入交流。前兩天,OpenAI推出迄今為止最強大的人工智能模型GPT-4。OpenAI在官網上稱GPT-4是“OpenAI最先進的系統”,“能夠產生更安全、更有用的響應”。Sutskever在談話中也表示,與ChatGPT相比,GPT-4在許多方面標志著“

2022-10-03

們講笑話 ,成為我們的朋友 ?A:當然,隻要解決好核心人工智能和關鍵執行器的問題,人們可能會給機器人穿各種衣服,未來會很有趣。3:想知道人和機器人之間是否會有幹預措施,比如在人類不同意正在發生的事情時就行

2024-03-04

麻省理工學院的一組研究人員利用人工智能來緩解交通擁堵,他們將這一領域的想法應用於解決倉庫中多個機器人的問題。通過將難以解決的問題分解成更小的塊,一種深度學習技術確定倉庫中疏導流量的最佳區域。在一個巨大

2023-11-01

“完美毀掉很多完美的好東西。”更多時候,是為(通用人工智能)AGI站臺,正如他的X簽名:“打造眾多喜歡人類的AGI們”(towards a plurality of humanity loving AGIs)。在現實生活裡同樣如此,他不熱衷社交,很少在媒體前拋頭露面

2023-11-02

ChatGPT背後的神經網絡已經產生意識,而且未來人類會與人工智能融合起來,出現新的形態。而他現在工作的重點,已經不是去創建那個必然會出現的通用人工智能,而是解決如何讓AI善待人類的問題。昨晚,“ChatGPT可能已經有

2023-02-17

羅馬不是一天建成的。當人工智能對話工具ChatGPT一夜之間成為頂流,在略顯沉悶的科技界如閃電般發出炫目光芒後,它似乎點亮指引投資界方向的明燈,一些商界人士的內心開始“騷動”。的確,這個成績是史無前例的。ChatGPT

2022-10-02

和部署。與此同時,她還負責設計和領導機器學習平臺、人工智能工具、數據源、神經網絡的評估和部署等等。她與馬斯克、前特斯拉AI主管Andrej Karpathy共同持有兩項美國專利。在特斯拉之前,她在Uber短暫實習過,負責軟件工程

2023-05-07

最近,來自洛桑聯邦理工學院的研究團隊提出一種全新的方法,可以用AI從大腦信號中提取視頻畫面。論文已登Nature,卻遭網友瘋狂‘打假’。現在,AI不僅會讀腦,還會預測下一個畫面!利用AI,一個研究團隊‘看見’老鼠眼中

2023-11-16

別來自計算機科學、生物學和神經科學的學者深層剖析“人工智能能否產生意識?”這個問題。從結論上看,他們一致認為:LLM在目前的形式下不可能具有意識。這麼斬釘截鐵的觀點是怎麼來的呢?來看他們的具體闡述。▷圖源

2023-10-30

人工智能系統(如ChatGPT)的先進功能引發關於其潛在意識的討論。然而,神經科學傢賈安-阿魯(JaanAru)、馬修-拉卡姆(MatthewLarkum)和麥克-希恩(MacShine)認為,這些系統很可能是無意識的。他們的論點基於人工智能缺乏具身

2024-03-14

期終止對機器人領域的探索,原因是缺乏訓練機器人使用人工智能移動和推理所需的數據,導致研發受到阻礙。但顯然,OpenAI 並沒有放下對這個領域的關註。2023 年 3 月,正在一年前,極客公園報道 OpenAI 投資來自挪威的機器人

2022-08-02

上個月,當你聽說Google工程師BlakeLemoine宣佈他正在研究的人工智能程序已經發展出意識時,你的第一反應是什麼?你也許會本能地懷疑:這傢夥是認真的嗎?他真的相信他說的話嗎?確定這不是一個精心設計的騙局?我們會這樣

2023-11-09

靠性和安全性。站長之傢(ChinaZ.com) 11月9日 消息:近年來,人工智能和機器學習領域的最新進展使人們的生活變得更加便利。憑借其令人難以置信的能力,人工智能和機器學習正在涉足各個行業並解決問題。而機器學習的一個關鍵

2022-07-12

來自哪個方向。3 - ClearBuds Background Voice Removal(via)展望未來,我們希望該研究團隊能夠很快將 ClearBuds 或其實時機器學習音頻增強技術推向市場。感興趣的朋友,可移步至該項目的專題頁面來獲知詳情。