3月14日消息，美國當地時間周一，微軟被曝解散其整個AI風險評估團隊。據悉，這個團隊正式名稱為AI道德與社會團隊，其主要職能在於指導微軟在AI方面的創新，從而產生符合道德標準、負責任以及可持續的結果。最近，該團隊始終在努力評估微軟將OpenAI技術整合到其產品中可能存在的風險。
多位微軟離職和在職員工表示，此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產品設計緊密結合，而目前該公司正在引領潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負責任AI辦公室（ORA）的團隊，其任務是制定規則來管理公司的AI計劃。微軟表示，盡管最近進行裁員，但其在責任工作方面的整體投資始終在增加。
微軟在一份聲明中表示：“微軟致力於以安全、負責任的態度開發AI產品和體驗，並通過投資於優先考慮這些因素的人員、流程和合作夥伴來實現該目標。在過去的六年裡，我們增加產品團隊和ORA的人員數量，他們與微軟的所有人一起，負責確保我們將AI原則付諸實踐。我們感謝道德與社會團隊所做的開創性工作，幫助我們繼續完成負責任AI之旅。”
微軟員工透露，在確保公司產品和服務符合負責任AI原則方面，道德和社會團隊發揮關鍵作用。一位離職員工表示：“人們看到ORA提出的原則卻不知道如何運用，而我們的工作就是向他們展示，並在缺乏規則的領域制定規則。”
近年來，該團隊設計名為《Judgment Call》的角色扮演遊戲，幫助設計師設想AI可能帶來的潛在危害，並在產品開發過程中進行討論。道德和社會團隊在2020年達到最大規模，當時有大約30名員工，包括工程師、設計師和哲學傢。但在去年的重組過程中，該團隊被削減至隻剩7人。
在重組後的一次團隊會議上，微軟AI業務副總裁約翰·蒙哥馬利(John Montgomery)表示，公司管理層已經指示他們迅速行動。據悉，蒙哥馬利當時說：“來自首席技術官凱文·斯科特(Kevin Scott)和首席執行官薩蒂亞·納德拉(Satya NaDELLa)的壓力非常大，他們都要求加速將OpenAI模型和後續模型送到客戶手中。”
蒙哥馬利說，由於這種壓力，道德和社會團隊中的許多人將被轉移到公司的其他業務。當時，蒙哥馬利稱該團隊不會被淘汰，而是需要將“更多精力放在構建服務和軟件的單個產品團隊上”。隨後，該團隊多數成員都被調到其他部門，剩餘人員則因為人員不足，促使許多雄心勃勃的計劃再也難以實施。
大約五個月後，剩下的員工被告知整個團隊最終被解散。一名員工表示，此舉在AI產品的用戶體驗和整體設計方面留下巨大漏洞。他們解釋說：“最糟糕的是，我們這樣做讓企業面臨風險，人類陷入風險之中。”
道德與社會團隊的成員表示，他們通常會努力支持產品開發。但隨著微軟開始專註於比競爭對手更快地推出AI工具，公司管理層對該團隊所專註的那種長期考慮不再那麼感興趣。
就在道德與社會團隊被解散之際，其他人正將註意力放在預測微軟向全球觀眾發佈OpenAI支持的AI工具時產生的影響。在去年的備忘錄中，道德與社會團隊詳細說明與必應圖像創建器相關的風險，該工具使用OpenAI的Dall-E系統根據文本提示創建圖像。這款圖像工具於10月份在幾個國傢推出，使其成為微軟與OpenAI的首批公開合作之一。
雖然文字轉圖像的技術已經被證明非常受歡迎，但微軟的研究人員準確地預測到，它也可能威脅到藝術傢的生計，因為它允許任何人輕松復制藝術傢的創作風格。此外，OpenAI更新其服務條款，賦予用戶“使用Dall-E創建圖像的完全所有權”，這讓微軟道德和社會團隊感到擔憂。 （小小）