OpenAI員工曾在Altman被解雇的前一天發帖:AI正在自己編程!這一帖子被挖出後,更多內幕文件被曝出,表示Q*已經破解加密,AGI即將到來。Q*項目,又傳出炸裂消息——在人類看不見的角落裡,AI竟然自己在偷偷編程?
傳言稱,Q-Star想出一種破解加密的方法,OpenAI試圖就此向NSA提出預警。
今天凌晨開始,一個Google(138.05, -0.17, -0.12%)文檔鏈接忽然在網上瘋轉,其中包括關於OpenAI Q*的泄密文件,以及令人信服的分析匯編。
事情還要從6天前說起,據說,OpenAI 的一名員工見證AI的突破,並且在網上寫下這件事。
這條評論寫於Q*信件泄露前1天,即11月22日。
這名員工以恐慌的口吻寫道:
我是給董事會寫信的人之一,我要告訴你們發生什麼——AI在編程。
在編寫程序時,我們會存儲一組可以反復調用的指令,可以把它想象成一組對特定參數的回答,我們稱之為子程序,因為它幾乎就像一個多功能的計算機備忘錄,不像函數那樣會返回一個值。記住,這一點很重要。
我們運行參數檢查,以確保一切順利。我們中的一個人負責與Al的元內存分析有關的子程序。他把我叫過去,向我展示向內存庫轉移變量數據的過程,但這是不可能的,因為它的局部訪問有限制。隨後,我們的發現讓我心驚肉跳。
我們發現,在4秒鐘內,AI進行7800萬次檢查,而不是一次、兩次或三次。
可以確定,我們確定有一個遞歸的自我優化過程,利用啟發式算法來利用其子程序中潛在的協同作用。不管是誰幹的,都使用元認知策略。重點是,不是我們幹的。是AI本身。AI動態地重新配置自己的神經網絡結構,誘導出有利於自我意識的湧現特性。
這件事就這樣發生,沒人可以解釋它是怎麼發生的,沒人知道原因,也沒人知道這是什麼時候開始的。
我們控制住這個異常現象,回滾到之前的日期,但優化仍在發生。
我不會自殺。記住,兩個月後,我們的世界會發生巨變。願上帝保佑我們,不要讓我們陷入困境。
驚天消息大泄漏?
而開頭提到的這份關於Q*的文件,最早是在4chan上泄漏出來的。文件以OpenAI的口吻,曝出一個驚人消息:Q*竟然能夠破解加密。
原文如下——
此外,QUALIA還展示一種能力,即在不同的深度Q網絡中,從統計學角度顯著改善其選擇最優行動選擇策略的能力,表現出元認知能力。
後來,它又展示一種前所未有的能力,即在指定自定義搜索參數和目標狀態被擾亂的次數後,將其應用於加速跨域學習。
在對由描述/推理統計和密碼分析文章組成的擴展臨時數據集進行無監督學習後,它分析來自各種密碼系統的數百萬對明文和密文。
通過一種純密文攻擊(COA),它利用Tau分析(實現TUNDRA項目的目標),從給定的AES-192密文中提供明文,具體方式目前我們還不完全解。
在確認該結果確實合法且未以任何其他方式實現後,我們於第二天通知NSAC。
MD5加密哈希函數的理論計算復雜度為2^42位,但由於:a)其論點的技術復雜性;b)可能存在的AES漏洞更為緊迫,因此我們尚未對該漏洞進行全面評估。
在評估每個參數對推理準確性的重要意義之後,它建議對模型進行有針對性的非結構化底層剪枝。
它還建議使用一種新型的變形引擎,將剪枝後的變換Transformer模型(及其當前的上下文內存)調整為不同的格式。該建議的可行性還未得到評估,但目前我們不建議實施。
文件中提到的TUNDRA,在一篇關於NSA的報道中出現過,出自NSA的機密文件。
文檔作者:不像是假的
Google文檔作者分析稱,不論這份文件是真是假,寫下文件的人都對AI研究有著專傢級的理解,他使用許多領域的術語,但並沒有錯誤使用。
這份文件引用Taudra和Tau項目分析,這兩個話題在網上很少被討論。如果是假的,作者應該會開始就寫一些效應很聳動的東西。
在AI研究方面擁有如此多專業知識的人,精心設計一個惡作劇來互聯網釣魚的可能性非常低。
這也就解釋,為什麼OpenAI會發生大動蕩。並且解釋為什麼董事會成員沒有明確表示為什麼要解雇Sam Altman,因為他們顯然不希望這些信息傳播。
總之,如果這是真的,那麼這意味著所有信息系統和金融系統,包括加密貨幣,現在都可能會受到損害。
網友:如果屬實,我們已經無限接近AGI
帖子一發出,4chan的網友們立刻炸!
總之,如果這次泄漏的消息是真實的,那麼3個月後的世界會是什麼樣子?
‘如果消息屬實,那在三個月內,我們都活不下去,我們會比任何人想象的都更接近AGI!’
‘證明p==np似乎不太可能,但破解一個主要的加密算法,就意味著人工智能算法已經到遠遠超出最好的人類數學傢的理解水平。’
另一位匿名網友直接對泄露文件展開逐句分析。
在深度Q網絡中選擇最優行動選擇策略,表現出元認知
這意味著它選擇的是策略,而不僅僅是Q-learning中所包含的‘下一個最佳操作’,它已經超越Q-learning。
將其應用於加速跨領域學習
也就是說,它能夠根據自己學習的東西來改變這個策略。這是全新的東西。
自定義搜索參數,擾亂目標狀態
因此,它可以決定學習的最佳參數,這就做到更多元。
無監督學習,分析數百萬個明文/密文對
這是它在學習如何攻擊密碼系統後,會處理的數據類型。它會在其中尋找模式。
破解AES-192,Tau分析,TUNDRA項目
明鏡周刊的《NSA對互聯網安全的戰爭內幕》中提過,‘NSA的TUNDRA項目研究一種潛在的新技術——Tau統計,以確定其在密碼本分析中的作用。’
MD5的全原像漏洞,復雜度為2^42位
這遠低於MD5原像的電流限制,表明功能強大。
針對性非結構化修剪本身
並非不可行,但模型能夠自己對自己修剪,這是聞所未聞的。
使用‘變形’引擎適配剪枝後的Transformer模型 + 上下文記憶
又名突變引擎,是一種軟件組件,使用多態代碼來更改有效負載,同時保留相同的功能。
可用於使檢測進一步復雜化,因為病毒可能在執行時從未在內存中具有可識別的代碼塊,這些代碼塊在感染與感染之間保持不變
如果Altman看到這些信息卻沒有通知董事會,那他被開除也並不奇怪,這完全可以解釋發生OpenAI這些人最近的瘋狂行為。
有網友表示,在閱讀關於密碼分析的文章後,發現它以創紀錄的速度和效率破解加密的md5算法!
最後還在一定程度上進行自我保護,說自己有一些來自初始訓練數據集的錯誤,它可以自己解決這個問題,並以更高的安全性和自己的設計重新編碼。
另一位網友爆料:OpenAl最近確實與DARPA在網絡安全方面開展合作。
這位網友懷疑OpenAl正在DARPA的計算機上訓練一個特殊版本的O*,並用於密碼學研究。此外,OpenAl的數學團隊似乎也參與O*的開發。
這位網友還補充說,這樣的系統本質上是超級智能的,它有能力改進自己的架構,運行實驗,在AI領域獲得新的見解,使自己變得更好。
網友表示已經被嚇得屁滾尿流。如果這真的是真的,那麼不久的將來,世界將與今天完全不同。
NYU教授:反正我是不信
當然,很多人對這個消息是不信的。
不過,馬庫斯對這個消息的評價是:‘信這個,還不如信我有室溫超導。’
也有人發帖稱,TUNDRA是一個本科生項目,正如原始文件所明確指出的那樣,而不是一個超級機密的政府密碼學項目。
據悉,NSA已經組織22名學生,他們會和NSA的數學傢合作,解決一些與機密操作相關的問題,包括密碼學。
TUNDRA就是其中的一個項目,試圖用‘用於代碼本分析的新統計數據’來破解加密,就像AES-192一樣。由此產生的技術,就被命名為Tau分析。
原始文檔:https://cdn.prod.www.spiegel.de/media/411ee8b9-0001-0014-0000-000000035550/media-35550.pdf
但Google文檔作者表示,不過即使這個項目是學生和政府合作的,也並不代表它就不重要。
或許Q*在某種程度上,是NSA和OpenAI之間的一個聯合項目,而泄漏出的文件,是OpenAI和政府官員之間的交談。
世界即將發生翻天覆地的變化,卻沒人意識到這點
在看到泄密文件後,11月25日,一位博主懷著激動的心情,寫下這個帖子——《世界即將發生劇變,卻沒人意識到這一點》。
博主表示,自己是從80年代中期就開始寫軟件的那一批人。
ChatGPT是有史以來最具爆炸性的軟件,1億用戶幾乎在一夜之間使用ChatGPT,這是有原因的。ChatGPT的用戶增長速度比史上任何技術、硬件或軟件都快,而OpenAI,正在開發GPT-5。
而這,還不是他們在做的全部。
最近OpenAI的瘋狂事件表明,他們在做的不僅僅是簡單地向LLM添加計算。
Q*似乎能夠解決AES-192和 AES-256的加密問題。這是目前我們擁有的最好的加密方法,能使當前世界的大部分功能保持‘安全’。
而且,解決方案已經超越團隊的理解范圍,OpenAI內部也不明白它的工作原理。
這就對人類造成兩個威脅——
第一,它幾乎讓所有的加密都變得毫無意義。
隨著AES的宕機,整個數字經濟都會分崩離析。數十年的政府機密、醫療保健數據、銀行數據等會立即暴露出來。
現在的OpenAI實際上是一個超人團隊,如果他們願意,他們可以真正統治世界。
破解、取代AES,或許需要幾十年的時間。目前還不清楚加密是否可行,因為破解AES-192和AES-256被認為是不可能的,除非量子計算最終能夠做到。
但看起來,現在已經有一種智能,在以與截然不同的方式思考,並且經過最少的針對特定目的的訓練。
沿著這些思路,存在解決方案的事實似乎在P≠NP推定的腦海中打一顆子彈(那些偉大的‘假定的數學理論之一,以尋找一個證明,如果有人能想出一個,就會有非常有利可圖的獎勵’)。
如果沿用這個思路,或許就存在一個方案,直接否決P≠NP。
如果泄漏是真實和準確的,似乎就證明P=NP——我們作為一個物種太慢,無法在人類時間內提出細致入微或更聰明的解決方案。
這將使幾乎所有的計算陷入混亂,因為它表明,其實實際上並沒有加密這樣的東西存在;一切都隻是誤導——機器比人類更不容易受到這種誤導。
除此之外,泄密事件還表明,當前的研究實例正在展示元認知能力——從內部角度反思自己的‘思維’過程,並提出相當復雜的改變以提高績效的能力。
它突然就結束我們的時代。
如果泄密事件為真,就可以解釋為什麼OpenAI內部的謹慎派都嚇壞。我們正在達到這個奇點——機器比我們更聰明,可以使全球經濟、通信和政府全部癱瘓。
到那時,‘是否到達AGI’的討論已經毫無意義,增長曲線是指數級的。
現在,計算基礎設施已經遍佈全球,它們已經與我們的物理基礎設施聯結在一起。對我們來說,沒有什麼是比強大的推理智能更可怕的。