研究人員發現弱點 人類在圍棋比賽中擊敗頂級AI KataGo


2月19日消息,最近一名美國圍棋選手戰勝排名與AlphaGo不相上下的人工智能KataGo,意味著自2016年谷歌人工智能系統AlphaGo擊敗世界圍棋冠軍以來,人類翻盤擊敗頂級人工智能。

https __d1e00ek4ebabms.cloudfront.net_production_9e718648-5973-4c9f-ad5c-b8f4504121d5.jpg

這一結果主要得益於研究人員利用特定計算機程序發現人工智能系統中存在的一個弱點。據報道, 總共進行的15場比賽中,美國業餘四段棋手凱琳·佩林(Kellin Pelrine)在沒有計算機直接支持的前提下,利用這一弱點贏得其中的14場。

開發這一程序的美國加州研究公司FAR AI首席執行官亞當·格利夫(Adam Gleave)表示:“對我們人類來說,利用這個系統弱點出奇地容易。”

佩林說,計算機程序所提出的擊敗人工智能策略“並非很常見,但對人類來說也不是特別難”。他補充說,中等水平的棋手就可以用這種方法來擊敗人工智能。他還用這種方法戰勝另一個頂級人工智能下棋系統Leela Zero。

格利夫補充說,計算機先是與KataGo下100多萬盤圍棋,發現人類棋手可以利用的漏洞。

distantprobeoldpolicy.png

7年前,世界圍棋冠軍李世石以1比4的比分輸給谷歌設計的AlphaGo系統。退役3年後,李世石曾表示,人工智能“無法擊敗”。

現在看來,這一說法過於悲觀。雖然佩林沒有與AlphaGo直接交鋒,但所擊敗的兩個人工智能系統與AlphaGo不相上下。他在實戰中采用的是一種“聲東擊西”的策略,人類棋手很容易識破的這種詭計似乎讓人工智能束手無策。

加州大學伯克利分校計算機科學教授斯圖爾特·拉塞爾(Stuart Russell)表示,在一些最先進的圍棋人工智能系統上發現弱點,表明支撐當今最先進人工智能的深度學習系統存在根本缺陷。

他補充說,這些系統隻能“理解”它們過去接觸過的特定情況,無法像人類一樣進行概括。

羅素說:“這再次表明,我們過於草率地將超人智力水平歸功於機器。”

研究人員表示,讓圍棋人工智能系統失靈的確切原因還隻是一個猜測。格利夫說,一個可能原因是佩林所使用的戰術很少被使用,這意味著人工智能系統沒有接受過足夠多的類似訓練,無法意識到自己的弱點。

他補充說,當受到針對圍棋計算機的那種“對抗性攻擊”時,發現人工智能系統缺陷是很常見的。盡管如此,“我們看到非常大的(人工智能)系統在幾乎沒有驗證的情況下被大規模部署”。


相關推薦

2023-02-19

以來,人類翻盤擊敗頂級人工智能。這一結果主要得益於研究人員利用特定計算機程序發現人工智能系統中存在的一個弱點。據報道, 總共進行的15場比賽中,美國業餘四段棋手凱琳·佩林(Kellin Pelrine)在沒有計算機直接支持的前

2022-10-08

告裡還附上尼曼與倫希的Slack對話截圖。由於此前作弊被發現,Chess.com已經封殺尼曼的賬號。該網站在通知尼曼的信件中寫道,他在多次棋局中公然使用欺騙手段提高棋力,包括一場對俄羅斯棋手涅波姆尼亞齊(Ian Nepomniachtchi)

2022-10-06

戶,也已經收到由活動組織方提供的AI畫作。《財》實測發現,在“呼叫AI幫我”這一起AI繪畫微博快閃活動的背後,他的發起方是一傢名為6pen的AI作畫機構,該機構基於Google開源發佈的Disco-diffusion AI作畫工具,搭建自己的算力環

2023-03-15

解圖片、看懂法語題目並解答等其他更多擴展技術能力,研究人員發現,GPT-4能隨著時間不斷處理令人興奮地新任務——現在的矛盾是 AI 的能力和人類想象力之間的矛盾。不過OpenAI表示,圖像輸入是研究預覽,目前不公開。對於

2022-10-11

獲勝。系統將有動力去改變人類的想法以贏得推薦遊戲。研究人員首先展示強化學習如何輕松地轉變偏好。第一步是推薦者通過觀察人類行為建立一個人類偏好的模型。為此,他們訓練一個神經網絡,一種受大腦架構啟發的算法

2023-11-24

雇。昨日,有媒體透露,就在奧特曼被開除四天前,幾名研究人員向董事會發出一封信,警告一項強大的AI發現(Q*)可能威脅全人類。此外,OpenAICTOMiraMurati此前在致員工的內部信件中提到一個代號為“Q*”的項目。據她稱,該

2023-11-01

當Sutskever在2000年代初加入他的團隊時,大多數人工智能研究人員都認為神經網絡是一條死胡同。辛頓是個例外。Sutskever說:“這就是生成式人工智能的開端。真的很酷,隻是還不夠好。”Sutskever對大腦非常著迷:它們是如何學

2022-11-05

國際象棋比賽通常不是那種會產生大量爭議的地方,也很難看到頂流網紅解說《使命召喚》總決賽的感覺。但是,如果你一直在關註,你就會知道,最近國際象棋界的事情其實並不尋常。2022年Chess.com(國際象棋網)全球錦標賽

2022-09-22

應看傻其他職業選手,並認為他不會無故這樣做,一定是發現什麼。同時開始分析、爆料獲勝者Niemann的作弊前科的黑料,以及分析他的戰績提升過快有些不合理。所以這也直接引爆其他觀眾的好奇心:一個象棋比賽,能怎麼作

2023-02-19

手、媒體等齊聚四川成都,共同見證2022華為手機杯中國圍棋甲級聯賽”圓滿落幕。閉幕式上,中國圍棋協會主席林建超、中國圍棋協會副主席聶衛平,以及四川省體育局副局長朱明、成都市體育局副局長陳志,華為四川終端業

2022-09-05

說回來,我們去生成這次獲獎畫作的Midjourney官網看看,發現還是有很多網友用它做有意義、好玩的事。比如,有網友用Midjourney合成自己去世祖母在花叢裡的照片,並深情表達對祖母的思念。有網友用它打造一副自己專屬的“蒸

2023-11-02

意義的、驚天動地的,它的出現會改變一切。”年輕的AI研究人員如何改變這個世界Sutskever是圖靈獎得主Hinton的學生,在他2000年拜入Hinton門下之時,大多數AI研究人員認為神經網絡是死路一條。但Hinton不這麼認為。他當時已經開

2023-02-28

長越好。Galaxy S23 Ultra與iPhone 14 Pro Max的速度測測試之前的比賽中,最新的iPhone總是會在第一輪中獲勝,顯示蘋果A系列芯片的實力,而坐在iPhone對面的Android手機在第二輪完成反殺,這要歸功於更大的內存。盡管情況並非總是如此

2023-02-19

調動所需的90%”數據處理工作,而最終的決定權仍掌握在人類手中。此外,專傢都警告稱很多行業都在受到如此強大人工智能的影響,包括教育、平面設計、軟件工程領域以及部分新聞專業的文案工作都受到沖擊。