人工智能監管路在何方?Meta高管警告不要制造道德恐慌


英國佈萊切利公園正在召開具有裡程碑意義的人工智能峰會,歐盟高官和人工智能領域的專傢將聚集在一起,討論如何制定人工智能行業的安全標準。英國前副首相、Meta現任全球事務總裁NickClegg在峰會開幕前提前表明態度,呼籲不要過早對人工智能技術進行監管。

他強調,詆毀者們意圖把人工智能安全問題拔高到所有人都無法接受的程度,然後自己再幹涉監管來獲得主動權。

他還提到無線電、自行車、互聯網都曾引發過道德恐慌,十年前無人駕駛概念出來時,人們還被恐嚇將不存在卡車司機,因為所有汽車都將完全自動化。但現實是,美國現在面臨著卡車司機短缺的情況。

監管的關鍵

人工智能領域關於AI風險性的爭論已進入白熱化階段,各路大佬紛紛下場,一時間將人工智能安全隱憂帶上新的風口浪尖,但大佬們背後卻仍惺惺相惜,隻稱學術之爭不傷友誼。

Clegg之外,計算機科學傢、Google Brain聯合創始人吳恩達、Meta首席人工智能科學傢LeCun都表達對AI風險人為誇大的風險,並指出這是大型科技公司用以壟斷人工智能的手段之一。

LeCun表示,科技業中一些領導者確實存在一種毫無根據的優越感,導致他們相信,他們可以做AI但民眾不能做,以及超級人工智能出現指日可待,並具備法學碩士畢業生的所有特征,即知法懂法且還能守法。

被稱為人工智能教父的Geoffrey Hinton則回應稱,他的憂慮並非站在大公司角度出發,他從谷歌離開就是最好的證明。

但Hinton承認自己確實更願意看到少數公司掌握人工智能技術,以方便實施監管。他將人工智能類比成核武器,稱核武器公開分享的話未必能讓世界更安全,讓少數大機構持有這種技術永遠比讓壞人持有來得好,人工智能也是如此。

細究兩派的觀點不難發現,關於人工智能監管規則的制定,或許是否開放開源才是解開這道題目的關鍵。

不過,專傢們對於AI風險的激辯並不能改變英國峰會的主基調。周三,來自中美等28個國傢的代表同意共同努力,以遏制人工智能飛速發展帶來的災難性風險。


相關推薦

2023-05-17

行勸說,宣講虛擬現實職業培訓的潛力。最近一段時間,人工智能技術,尤其是聊天工具ChatGPT背後的生成式人工智能引發科技世界的目光,一批新創公司脫穎而出。克萊格表示,科技領域的熱點切換到人工智能,這並未取代元

2024-02-22

血糖水平的智能手表或智能戒指。在今天發佈的一份安全警告中,FDA表示,聲稱可以在不刺破皮膚的情況下檢測血糖的智能設備可能會導致糖尿病管理中的錯誤,包括服用過多或過少的藥物。當前沒有任何旨在測量或估算非侵入

2022-07-21

。”福特一位發言人表示,“這份申請是幫助創造一條監管路徑的重要一步,這條監管路徑可以讓自動駕駛技術逐步成熟,消除那些隻對人類司機有用的控制和顯示。”

2023-01-25

投入更多資源,通過所謂的生成式AI技術,使自己保持在人工智能的最前沿。1月23日,微軟宣佈向美國人工智能研究公司OpenAI追加數十億美元投資,OpenAI去年年底上線的聊天機器人ChatGPT引爆科技圈,憑借對OpenAI的投資,微軟有望

2023-03-31

據外媒報道,谷歌頂級人工智能研究員雅各佈·德弗林(JacobDevlin)已經於今年早些時候辭職並加入競爭對手OpenAI。他曾警告Alphabet首席執行官桑德爾·皮查伊(SundarPichai)和其他高管,公司開發的人工智能聊天機器人Bard正在用來

2022-07-27

繼續按計劃盡快完成這項立法”。一、527億美元補貼投向何方?相對於此前被囊括在《創新與競爭法案》當中的“芯片法案”,為響應業界對於“芯片法案”盡快推出的呼聲(此前有超過100位CEO簽署聯名信,呼籲美國會盡快通過

2023-07-17

潛在危害”發出警告,稱大腦植入物和腦部掃描可能會讓人工智能(AI)操縱人類大腦,侵犯私密的人類思想。聯合國教科文組織(UNESCO)專門研究AI的經濟學傢馬裡亞格拉茲斯奎西亞裡尼(Mariagrazia Squicciarini)表示,在AI算法的加

2023-02-14

讓以往觀點相悖的著名學者,紐約大學教授GaryMarcus和Meta人工智能主管、圖靈獎得主YannLeCun罕見的有共同語言。近日,Gary Marcus 撰文介紹 ChatGPT 應用無法避免的問題:道德和中立性。這也許是預訓練大模型目前面臨的最大挑戰。

2023-03-12

問題,軟銀、日立等日本公司已開始限制ChatGPT等交互式人工智能服務在商業運作中的使用。軟銀上月就使用ChatGPT和其他商業應用警告員工稱:“不要輸入公司身份信息或機密數據。”盡管軟銀已經出臺使用交互式人工智能等雲

2023-05-17

國各地的科技工作者中引起極大的關註,其中許多人得到高管允許他們遠程工作的慷慨授權。 “我認為在傢工作的整個概念有點像瑪麗·安托瓦內特(Marie Antoinette)(譯者註:法國國王路易十六的妻子)的假

2023-11-23

。Deepfake制作的假新聞是一種人工合成的媒體,通常使用人工智能來逼真地取代一個人的肖像或聲音。雖然有時具有娛樂性,但在征得同意和潛在的錯誤信息方面存在很多道德問題。印度總理納倫德拉-莫迪(Narendra Modi)上周表

2024-03-21

司的行業組織亞洲互聯網聯盟(Asia Internet Coalition)去年警告說,依靠新聞信息局這樣的政府機構作為政府業務事實核查的唯一來源,而不給它一個明確的定義或提供清晰的制衡,"可能會導致在法律實施過程中的濫用,這將

2023-02-06

人工智能研究公司OpenAI開發的聊天機器人ChatGPT當下火爆全網。OpenAI公司的首席技術官米拉穆拉蒂在接受采訪時表示,ChatGPT應該受到監管,因為它可能被壞人”利用。穆拉蒂稱,ChatGPT可能會編造事實”,這與其他基於語言模型的

2024-03-16

研究人員發現一種黑進人工智能助手的新方法,它使用的是一種令人驚訝的老式方法:ASCII藝術。原來,基於聊天的大型語言模型(如GPT-4)在處理這些表述時會分心,以至於忘記執行阻止有害回復的規則,例如那些提供制造炸