馬斯克們的擔憂並非空穴來風?大型科技公司裁減AI倫理團隊


“令人震驚的是,在比以往任何時候都需要這樣的團隊的時候,有這麼多相關員工被解雇。”大型科技公司一直在裁減致力於評估部署AI相關倫理問題的團隊員工,這使人們對這項新技術的安全性更加擔憂。近日,據媒體報道,微軟、Meta、Google、亞馬遜和Twitter等公司都裁減其“負責任的人工智能團隊”(ResponsibleAI)的成員,這些團隊負責為使用AI的消費產品提供安全建議。

被裁減的員工大概有幾十人,在因整個科技行業低迷而被裁掉的數萬名員工中,這隻是冰山一角。但是在AI高速發展的當下,這麼多相關員工被解雇依然令業內人士感到震驚和不解。

這些公司表示,他們將繼續致力於推出安全的AI產品。但專傢認為,裁員仍令人擔憂,因為就在全球開始測試大型AI工具之際,對這項技術的潛在濫用也在漸漸暴露出來。隨著OpenAI推出的聊天機器人ChatGPT在全球大熱,他們的擔憂也越來越強烈。

Alphabet 旗下 DeepMind 的前倫理和政策研究員、研究機構 Ada Lovelace Institute 副主任 Andrew Strait 向媒體表示:

令人震驚的是,在比以往任何時候都需要這樣的團隊的時候,有這麼多相關員工被解雇。

微軟、Twitter、亞馬遜等公司相繼行動

今年1月,在微軟的萬人級別大裁員行動中,該公司解散其所有的倫理道德與社會團隊。微軟表示,此次裁員不到10個人,仍有數百人在AI辦公室工作。

微軟首席負責人工智能官 Natasha Crampton 稱:

我們已經大大增加我們負責的AI工作,並努力在全公司范圍內將其制度化。

在馬斯克的領導下,Twitter裁掉超過一半的員工,其中包括一個小型的道德AI團隊。該團隊過去的工作包括修正Twitter算法中的偏差,例如該算法在選擇裁剪社交網絡上的圖像時似乎更傾向於留下白人的面孔。

據媒體援引知情人士透露,亞馬遜旗下的流媒體平臺 Twitch 上周也裁減其道德AI團隊,要求所有從事AI產品開發的團隊都要對與AI偏見相關的問題負責。

今年9月,Meta解散其創新團隊,該團隊由約20名工程師和倫理學傢組成,負責評估 Instagram 和 Facebook 上的公民權利和道德規范。Facebook前AI倫理研究員 Josh Simons 向媒體表示:

AI團隊是大型科技公司唯一的內部堡壘,必須確保構建AI系統的工程師考慮到受AI系統影響的人和社區。

它們被廢除的速度讓大型科技公司的算法受制於廣告需求,損害兒童、弱勢群體和我們民主的福祉。

另據知情人士透露,作為 Alphabet 整體裁員計劃的一部分,Google一些負責AI道德監管的員工也被解雇。Google沒有具體說明有多少員工被削減,但表示AI仍是公司的首要任務,“我們將繼續投資於這些團隊”。

此前,Google內部已經出現過關於AI技術的發展、影響和安全性之間的緊張關系。兩位AI倫理研究負責人 Timnit Gebru 和 Margaret Mitchell 在與該公司爆發一場激烈爭吵後,分別於2020年和2021年離職。

Strait 表示:

當負責任的人工智能實踐在競爭或推動市場時,卻被排除在外,這是有問題的。

而不幸的是,我現在看到的正是這種情況。

邪惡的AI?

一個重要擔憂是,ChatGPT等聊天機器人的大型語言模型會“創造幻覺”,即它們會做出虛假陳述並將其包裝成事實,可用於傳播虛假信息和考試作弊等目的。另外,AI自身潛在的高速進化也讓企業傢和科學傢們“警鈴大作”。

華爾街見聞此前提及,3月22日,生命未來研究所向全社會發佈一封《暫停大型人工智能研究》的公開信,呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練,暫停時間至少為6個月。

而截止目前,圖靈獎得主Yoshua Bengio、馬斯克、蘋果聯合創始人Steve Wozniak、Stability AI 創始人Emad Mostaque等上千名科技大佬和AI專傢已經簽署公開信。

倫敦國王學院AI研究所主任 Michael Luck 向媒體表示:

我們開始看到的是,我們無法完全預測這些新技術將會發生的所有事情,關鍵是我們要對它們給予一定的關註。

AI內部倫理團隊的角色也受到審查,因為有議論稱,人類對算法的任何幹預是否應該增加透明度,聽取公眾和監管機構的意見。

2020年,Meta旗下的 Instagram 成立一個團隊“IG Equity”,以解決其平臺上的算法正義問題。該團隊希望對 Instagram 的算法進行調整,以加強對種族的討論,突出邊緣化人群的形象。

Simons 認為,相關工程師們能夠幹預並改變這些制度和偏見,並探索能夠促進公平的技術幹預措施,但他們不應該決定社會應該如何被塑造。


相關推薦

2023-04-11

以來,圍繞這些AI機器人的倫理爭議就持續不斷。包括馬斯克在內的1000多名技術領域的研究人員和意見領袖不久前發佈一封公開信表達對AI帶給社會影響的擔憂,他們呼籲放慢相關技術的發展步伐。監管機構已經準備對AI技術進

2023-03-30

3月28日,GPT-4發佈兩周後,一封埃隆·馬斯克(ElonMusk)以及上千名科技界人士簽署的公開信在網上發佈。這封公開信呼籲所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練至少6個月。蘋果聯合創始人史蒂夫·沃茲

2023-01-29

曾領導推特的機器學習倫理團隊,直到去年11月埃隆·馬斯克(Elon Musk)解散該團隊。她表示,她預計谷歌等公司在爭先恐後地追趕OpenAI的過程中,將越來越多地將內部批評者和倫理學傢排擠在外。她說:“我們原來以為是中國

2023-04-04

技公司近幾個月來宣佈的大范圍裁員。Twitter在被埃隆-馬斯克(Elon Musk)收購後裁掉數千名員工,上個月,Facebook宣佈計劃裁掉約1萬名員工。在此前的幾次裁員事件後,微軟在3月裁減其人工智能倫理團隊,Google母公司Alphabet在1月裁

2022-11-14

復你的公司。否則國會會幫你做的。"此前,馬斯克諷刺地回答這位參議員對Twitter上虛假驗證賬戶的擔憂,並暗示馬基的真實賬戶"聽起來像一個模仿者"。周五,馬基發一條Twitter,其中包含他寫給馬

2023-04-19

埃隆•馬斯克正計劃推出人工智能初創公司,和ChatGPT展開競爭,這一報道得到馬斯克的證實。他說要開啟一個叫TruthGPT的項目,是個試圖理解宇宙本質、最大程度尋求真理的AI。3月初,馬斯克在美國內華達州註冊創建一傢名為“

2023-11-20

今日熱搜榜上出現“馬斯克回應ChatGPT之父被開除”的話題。特斯拉首席執行官埃隆馬斯克在社交媒體上表示,由於研發先進人工智能技術的潛在危險極高,作為全球最強大的人工智能公司之一,OpenAI應該對其解雇首席執行官薩

2023-04-05

I熱潮的反彈開始出現。特斯拉、推特首席執行官埃隆·馬斯克(Elon Musk)為首的數千名技術專傢和學者簽署一封公開信,警告“人類面臨的嚴重風險”,並呼籲暫停AI語言模型的開發六個月。與此同時,一傢AI研究非營利組織提出申

2022-09-27

體爆出越來越多藝術傢提交到圖片授權平臺Shutterstock,他們的圖片大多由Midjourney、StableDiffusion生成,在平臺搜索關鍵詞,結果一度數以千計。按分成規則,若有人使用使用並支付費用,原作者可獲15%-40%的收入。為鼓勵更多人加

2024-03-09

馬斯克起訴OpenAI事件已經發酵一周。3月7日,馬斯克在推特上稱,如果OpenAI把名字改為ClosedAI他就撤銷訴訟,暗諷OpenAI的不開源行為。此前,OpenAI公佈馬斯克與包括山姆·阿爾特曼在內的OpenAI聯合創始人的郵件對話,逐一駁回馬斯

2022-08-24

在Twitter跟埃隆·馬斯克的法律鬥爭及其前安全主管變成舉報人的混亂中,這傢公司正在將其打擊錯誤信息和有害內容的團隊跟負責刪除垃圾郵件賬戶的團隊合並。根據路透社看到的一封內部郵件,這傢社交媒體公司將把這個新團

2023-03-30

,以及我們可以做什麼來阻止他們。”此前,Marcus 與馬斯克等上千人聯名呼籲 “所有人工智能實驗室應立即暫停訓練比 GPT-4 更強大的大模型,這一時間至少為 6 個月”。在 Marcus 看來,AI風險 ≠ AGI風險,盡管很多人將人工智能

2023-04-18

一再傳出加入AI大戰的消息後,“鋼鐵俠”馬斯克亮出他正面對戰ChatGPT等AI機器人的思路。在美東時間4月17日周一接受媒體采訪時,馬斯克透露他要做自己的AI聊天機器人,並介紹:“我會從一種我稱之為TruthGPT的東西入手,它是

2023-04-10

OpenAI由於非盈利性質面臨巨大壓力,創始人之一埃隆·馬斯克因此退出,轉而基於商業公司特斯拉做AI開發。佈羅克曼是在此背景下開戰DeepMind的,就像所有的AI創企面臨的問題一樣,AI開發成本翻番、“要理想還是面包”等問題