AGI一年之內就會到來 人類隻有5年時間?


AI技術讓人類重新審視技術保守主義者的觀點,當普通人在AI大潮中難以保全自己時,思考技術發展的正當性似乎成有價值的事情。OpenAI開年拋出Sora,讓全世界都倍感震撼。年前還在說大模型是茶葉蛋的周鴻禕,看到來勢洶洶的Sora,馬上改口:“AGI從10年的時間一下縮短到1年。”


面對以天為單位不斷迭代的技術浪潮,科技大佬們不用擔心自己的生計,能繼續談笑風生。

而普通的打工人在AI巨浪撲來之時,如何能保住自己的飯碗,或者至少在心態上保持放松,從而能找到屬於自己的出路。

英國衛報的一位撰稿人采訪多位擔憂AI技術將給人類帶來極大負面影響的人士,從他們的擔憂中,也許能看到普通人在AI技術革命面前的無力感。

末日論AI研究人員的獨白

Yudkowsky,這位在加州伯克利的非營利機構“機器智能研究所”擔任首席研究員。

他說,如果真的逼他估算一下,人類所剩的時間可能五年,或許兩年,反正肯定不超過十年。

他所指的“剩餘時間”其實就是直到人類遭遇由機器人引發的末日災難的時間。


就像《終結者》和《黑客帝國》那樣的末日場景。

Yudkowsky曾是人工智能發展的先驅之一,他相信,這些人工智能會迅速從現在的階段進化到擁有神一般能力的超級智能,其發展速度和野心是我們無法控制或遏制的。

Yudkowsky建議,我們不應該將人造大腦想象成一個盒子,而是試圖想象一個思維速度是我們千倍的外星文明,他們擁有無數的“盒子”,即使我們決定要摧毀,它們的數量也是無窮無盡的。

去年春天,Yudkowsky在《時代》雜志上發表一篇專欄,呼籲關閉那些培育和訓練人工智能的計算機“農場”,試圖喚醒人們對這一問題的自滿態度。

他直言不諱地提出,未來人類要生存下來,可能需要對AI的數據中心進行空襲,甚至使用核武器。才能保存自己。

不遠處,在倫敦南部森林茂密的錫登納姆,一場規模較小的反技術侵權運動正在醞釀之中。

受到AI壓榨的藝術傢

在紐約,作傢Edward Ongweso Jr和藝術傢Molly Crabapple也將自己定義為“愚人”。

他們是典型的AI保守主義,不是要放棄創新,而是要求審視每項創新的優點、社會公平性及其潛在的隱蔽惡意。

對他來說,技術的存在,並不意味著我們不能質疑它。

人類應該保持懷疑的態度,尤其是當科技被應用於工作場所和其他地方,特別是用來安排社會生活時。


藝術傢Crabapple大致同意這一觀點。

對她來說,“技術保守主義者”是那些以批判的眼光看待技術,並拒絕接受那些旨在削弱他們能力、使他們變得低下或貧窮的技術方面的人。

技術不是為所有人的利益而由天神創造的。技術的發展是由金錢和權力驅動的,一般來說,它的目標是服務於那些有權勢的人,而不是普通人。

Yudkowsky這樣的技術悲觀主義者讓我們解到面對的潛在的最大威脅,而新技術保守主義者則更關註實際問題,尤其是就業問題,因為這正是人工智能技術給人們帶來的最大痛苦所在。

貨車司機的行車裡程被詳細追蹤,他們的休息時間也受到質疑。

辦公室工作人員可能會坐在攝像頭前,攝像頭會隨機拍照,以確保出勤率和註意力。

這些可以被稱為工作場所的效率提升,也可以被視為粗暴的侮辱和虐待。

學者Jathan Sadowski是最早將我們對快速科技革命的焦慮與那些反對早期機器時代侵權行為的紡織工人的焦慮聯系起來的人之一。

“技術保守主義建立在拒絕政治的基礎上,實際上意味著擁有權利和能力對直接影響你生活的事情說不,”

“這不應該被視為一種極端的立場,然而在一種為技術而技術的文化中,對技術說不是不可想象的”。

至少在2023年之前是這樣——在這一年,由OpenAI開發的ChatGPT、Google開發的Bard和其他用戶友好型人工智能受到全世界的歡迎。

同時,像DALL·E和Midjourney這樣的圖像生成器,其仿真照片和圖形藝術也讓人們驚嘆不已。

“他們不會用ChatGPT代替首相,也不會用Bard代替英格蘭銀行行長。”他們不會把克裡斯托弗-諾蘭換成DALL·E,也不會把馬丁-斯科塞斯換成《侏羅紀公園》,但普通人會失業」。

技術保守主義者似乎獲得更多的支持

AI技術的發展似乎使得完全拒絕某項技術的大范圍使用看起來不是一件完全的壞事。

2023年1月,佛蒙特州一傢畫廊墻上投射的人工智能生成的風景畫遭到破壞,上面寫著“AI IS THEFT(人工智能是偷竊)”。

創意專業人士開始感到被剝削。大量未經認可的、無償的人類作品從互聯網上被采集下來,並被聰明的人工智能生成器重新利用。

2023年春,Crabapple組織一封公開信,呼籲限制這種“卑鄙”的做法。還有更多的公開信,包括一封呼籲暫停開發新人工智能六個月的公開信。

在洛杉磯,無處不在的環形攝像頭門鈴的反對者們分發“反環形”貼紙,貼在這些設備的鏡頭上。

一群自稱為“安全街道反叛者”的舊金山人開始搶奪交通錐,並將其放置在該市自動駕駛汽車的引擎蓋上,以此快速混淆汽車的傳感器,使其無法工作。

作傢Brian Merchant去年出版“Blood in the Machine”一書,講述技術保守主義的歷史。在歡呼的加利福尼亞人面前,他上演一場“技術保守法庭”,砸碎人群認為多餘的設備。

參考資料:

https://www.theguardian.com/technology/2024/feb/17/humanitys-remaining-timeline-it-looks-more-like-five-years-than-50-meet-the-neo-luddites-warning-of-an-ai-apocalyps


相關推薦

2024-03-02

nsenHuang)周五表示,根據某些定義,人工智能在短短五年內就有可能通過人類測試。據解,黃仁勛是全球領先的人工智能芯片制造商的負責人,這些芯片被用來創建像OpenAI的ChatGPT這樣的系統。他在斯坦福大學舉辦的一次經濟論

2024-03-09

圍棋棋步。通過引入蒙特卡洛樹搜索(MCTS)技術,不到一年就發展出AlphaGo。而這也成為過去十年機器學習領域的一個裡程碑。雖然搜索需要消耗巨大的計算資源,但它作為機器學習中最可靠的方法之一,終究還是可以通向成功

2023-11-07

作崗位都會消失。但事實上,舊的工作消失後,新的工作就會誕生。這正彰顯人類的進步,問題在於我們的社會適應變化的速度。在兩代人、最多三代人的時間內,人類就可以適應幾乎任何程度的就業市場變化。也許會有人不願

2023-11-30

們都知道:上線五天內,ChatGPT的用戶就達到100萬。其後一年像是按下加速鍵,ChatGPT及其模型GPT的更新一個接一個,OpenAI成為最耀眼的明星公司。微軟向OpenAI投資上百億美元,將GPT融入全線業務中,一度叫板Google搜索。全球幾乎

2023-02-17

在iOS16.4的第一個開發者測試版的新功能和變化中,iPhone的蜂窩設置中出現一個新的切換鍵。這個新選項帶來對T-Mobile提供的5G獨立(SA)服務的支持。值得註意的是,5GSA可以提供高達3Gbps的瘋狂速度,看起來iPhone可能是下一個利

2023-05-03

(Demis Hassabis)周二表示,通用人工智能(AGI)或許在幾年內就可以實現。AGI指的是一種計算機具有人類水平認知能力的系統。對於AGI實現的時間,哈薩比斯周二在接受采訪時稱,AI研究的速度可能會在目前已經很快的基礎上進一步

2023-11-27

電動車主的至暗時刻來!冬天到,爽幾個月的電動車主,是時候吃點苦!日前美國電池數據調研公司Recurrent宣佈,其在2022年~2023年冬季收集18款車型1萬輛電動車的行駛數據,發現冬季電動車的實際續航裡程比官方宣傳水平低30%左

2024-02-16

就是:語言是理解一切的基礎,理解視頻後,世界模型才會到來。可能這才是比今天刷屏感慨“現實不存在”之外,更恐怖的地方。這可能是人類通往AGI的又一個ChatGPT時刻。

2024-03-20

時間。Fridman訪談Altman在Fridman的博客中,又透露很多和這一年來他在領導OpenAI追尋AGI的感悟,內容都是幹貨,大傢千萬別錯過。我相信,在未來,計算能力將成為一種新的“貨幣”。我預見它將成為世界上最珍貴的資源之一。在F

2024-03-05

,即馬斯克認為 GPT-4 已經具備 AGI 的雛形。而對於 AGI 的到來日期,AI 業界的大佬們一直有不同的看法。例如,在人工智能博客節目上,DeepMind 聯合創始人兼 CEO Demis Hassabis 則表示:“如果我們在未來十年內擁有類似 AGI 的系統,

2023-04-13

,卻沒有足夠說服力的信息佐證。如果《辦法》落地,AGI就會徹底告別“口說無憑”的跑火車式的內容輸出,轉而衍生出一些搜索似的工具屬性。而像過去拿著AI合成作品去美術比賽拿獎的事情,也將徹底變成一段“黑歷史”。

2023-11-20

,成為這場宮鬥戲最終的大贏傢。毫無疑問,OpenAI是過去一年最受矚目的科技公司,而奧特曼是過去一年最成功的創業公司CEO。差不多去年這個時候,創業公司OpenAI發佈ChatGPT,直接拉開生成式AI時代的序幕,更讓此前引領AI研發

2023-11-13

AGI如何定義、又何時到來?來自GoogleDeepMind的創始人兼首席AGI科學傢ShaneLegg向我們描述當下我們與AGI的距離。10月26日,在X上有三萬訂閱的DwarkeshPodcast(矮人播客)主持人DwarkeshPatel采訪GoogleDeepMind的創始人兼首席AGI科學傢ShaneLegg

2022-12-23

美元的特斯拉股票。另外,馬斯克還在談話中表示對未來一年的整體經濟前景表示悲觀,而特斯拉對於股票回購計劃的決定可能取決於經濟衰退的嚴重程度。今年10月,馬斯克曾表示,特斯拉可能會進行50億至100億美元的股票回