“AI有可能像核武那樣使用”:專傢呼籲加強國際監管


據日本《每日新聞》4月11日報道,人工智能領域的先驅、蒙特利爾學習算法研究所(MILA)的約舒亞·本喬教授接受《每日新聞》的記者采訪時表示,擔心人工智能被政府和企業惡意利用,成為像威脅人類“核武器”那樣的東西,因此呼籲在人工智能監管方面應達成“強有力的國際協議”。另外,他還希望將人工智能應用於教育、醫療、環保等領域。

本喬是深度學習研究領域的先驅人物。美國開放人工智能研究中心(OpenAI)最近推出由人工智能技術驅動的自然語言處理工具ChatGPT,而深度學習是利用人工智能技術的此類產品的基礎。

本喬與加拿大多倫多大學的傑弗裡·欣頓教授和美國紐約大學的揚立昆教授一道,被稱為人工智能研究領域的“三巨頭”。

本喬談到人工智能帶來的巨大利益,同時又強調,“如果已經擁有巨大權力的個人、企業惡意使用人工智能,其很有可能擁有更大的權力”。他指出,如果為欲望和權力而使用人工智能,“根據個人意志等(進行心理操作),就能夠將人工智能引向某個方向。你也許會把選票投給(某個被預設好的)候選人”。

本喬還指出,“在將人工智能用於軍事方面,有些國傢會考慮加以限制,有些國傢則不會”。他表示擔憂地說:“國際合作是有必要的,但令人遺憾的是,目前還沒有國際性的合作體系。”他指出,“由於使用方法的差異,人工智能有可能像核武器那樣使用”,是福音還是罪惡將取決於人。

對於一直進行人工智能研究,本喬一方面表示“不後悔”,一方面也表示,“為防止錯誤地使用人工智能,我感到應該帶有強烈的責任感來發聲”。另外他還指出,教育、醫療、環境保護等領域,雖然民間企業進行投資後難以獲取利潤,但卻具有重大社會意義,為在這些領域充分利用人工智能,應該進行更多的投資。

ChatGPT可以寫論文、寫詩,人們期待搜索引擎方式發生巨大變化。但是,虛假信息傳播等負面影響也隨之而來。

圍繞這一問題,美國非營利組織生命未來研究所向全社會發佈一封公開信,要求至少在半年時間裡停止開發比ChatGPT更強大的人工智能系統。美國企業傢埃隆·馬斯克等人對此表示贊同,本喬也在這封信上署名。


相關推薦

2023-02-04

行為。四位知情人士稱,此次國情咨文演講關註科技,很可能是總統與分裂的國會建立兩黨合作關系努力的一部分。其中兩位知情人士稱,拜登的國情咨文演講將涉及反壟斷執法和科技行業,以及加強隱私保護的必要性。兩名知

2024-02-22

多位人工智能專傢和行業高管,包括該技術的開拓者之一YoshuaBengio,共同簽署一封公開信,呼籲加強對深度偽造技術的監管,並指出其對社會的潛在風險。Yoshua Bengio"如今,深度偽造往往涉及性圖像、欺詐或政治虛假信息。

2023-04-13

設計之初沒考慮到高風險應用,但在不同環境下,它們卻可能變得更危險。該團體特別提到一些生成式人工智能工具,例如ChatGPT,它們在過去幾個月中越來越受歡迎。據耶魯大學/維基媒體中介和信息倡議組織的常駐研究員和負

2024-03-20

應對AI發展帶來的挑戰,國內外研究者展開合作以避免其可能帶來的災難的發生。現階段,人工智能的發展速度已經超出人們最初的預想,用AI工具寫文章、編代碼、生成圖片、甚至是生成一段電影級別的視頻……這些在以前看

2023-11-03

尤其關註網絡安全和生物技術等領域的風險,以及前沿AI可能放大虛假信息等風險。鑒於人工智能發展速度之快和巨大的不確定性,以及在相關投資加速的背景下,《宣言》強調加深對這些潛在風險的理解,以及應對這些風險的

2022-10-11

子煙不應該成為法律上的模糊地帶。高鐵動車抽電子煙有可能被追究刑事責任多地鐵路公安部門曾通報過乘客在高鐵動車抽電子煙,原因多為意識不到電子煙會對列車正常運行造成影響。據長沙晚報報道,今年2月6日,長沙鐵路

2023-11-04

高問責性。早前,OpenAI聯合創始人Ilya Sutskever直言,ChatGPT可能是有意識的,AI 將有潛在風險。與此同時,Meta AI 首席科學傢、2018年“圖靈獎”得主楊立昆(Yann LeCun)近日則多次在社交平臺上痛批Altman、DeepMind CEO 傑米斯·哈薩比斯

2024-05-22

愛。然而,這種玩具存在安全隱患,專傢指出其甲醛濃度可能在短時間內飆升近80倍,對健康構成極大威脅。一些消費者和賣傢因接觸這些玩具而出現健康問題,如長痘、結膜炎,甚至有賣傢因制作過程中身體不適而閉店。公眾

2024-03-02

高還是職高,所以大傢現在卷中考,導致壓力提前,最後可能卷到幼兒園去,這很可怕,所以(我)一直呼籲取消中考。在他看來,10年制義務教育完全夠,小學5年,中學5年,7歲開始讀小學,17歲就高中畢業。

2024-03-16

密貨幣交易市場的小眾性質,該市場還沒有準備好應對ETF可能引發的大量投資者資本的湧入,這有可能破壞該行業的穩定性。他們認為,數字加密貨幣市場在很大程度上仍不受監管,缺乏傳統金融市場常見的透明度和監督機制。

2022-09-12

會攻擊人類與其處於饑餓或飽腹狀態也無太多直接關系,可能是遊客的動作讓鱷雀鱔誤會,受到驚嚇。”專傢也呼籲不要在對這種魚進行售賣和放生,因為真的是對大傢沒有任何好處。

2024-04-17

路12306客服回應稱:在不妨礙其他乘客的情況下,車廂內使用圍佈擋並沒有明確的禁止規定。”鐵路部門工作人員再次強調,客車管理規定中並未明確規定不能使用圍佈擋。隻要不影響行車安全等方面,他們不會介入管理。律師

2024-08-02

今日,申萬宏源證券的首席經濟學傢趙偉,在公眾場合發表一席引人深思的言論,他強烈建議政府及社會各界應給予年輕人以實質性的補貼支持,直指當前社會活力感知下降的背後,是年輕一代所承受的巨大壓力與艱辛。趙偉指

2022-10-14

品。調查發現,消費者囤積電子產品的三大理由是“今後可能再次使用”“打算轉賣或轉贈他人”以及“對老物件有感情”。許多人將不用的手機擱在抽屜、箱櫃或車庫裡,而非拿去修理或回收。法新社援引相關數據報道,全球