最近，包括埃隆．馬斯克在內的千名專傢聯合簽署公開信，呼籲暫停訓練GPT-4後續AI模型至少6個月。消息一出，引爆全球網絡和媒體，很快引來吳恩達等“AI大牛”的反對。如何看待雙方的爭論？我們一層層分析問題。
先說競爭失控問題。
據公開信所稱，提出“暫停ChatGPT研發”的提議，直接刺激是對“最近幾個月人工智能實驗室陷入一場失控競賽”的擔憂。可實際上，短短幾日爭論，是往OpenAI公司和LLMs（Large Language Models，大語言模型）火上澆油，完成又一波量子級別的免費推廣。
這波“操作”的宣傳效應，繼續擴大該領域領先公司的領先優勢。如此聲譽競爭是不是失控的商業競爭呢？
將目光拉到國內，競爭問題會看得更清楚。GPT研發競爭不限於幾個美國公司之間，更是關涉各國尤其是大國之間的AI科研競爭。在LLMs領域，美國本來就領先一大截，其競爭對手可能暫停ChatGPT研發嗎？馬斯克一聲呼籲，OpenAI公司真的會暫停，而不是轉向秘密研發嗎？
公開信呼籲政府出面，實施暫停研發的措施。新科技領域問題風險和倫理問題層出不窮，政府全部都要大包大攬嗎？而且依據何在，又如何能合法合規地實施呢？如果強力暫停措施在一個應對、治理和管控能力有著顯著優勢的國傢奏效，而在其他國傢完全不頂用，結果是不是反而擴大後者對前者的LLMs競爭優勢呢？
再說LLMs風險問題。
AI風險早就被學界指出，被各國政府所重視，近年來更是成為全社會的關註焦點。近十年來，從物聯網到大數據、雲計算、區塊鏈、元宇宙、ChatGPT，一波波的AI熱潮中，從來沒有缺少關註風險的呼聲。
本人專業關註新科技社會沖擊問題，花大量精力提醒大傢註意AI可能導致的技術風險。比如，曾寫過專著《物聯網與泛在社會的來臨》《技術有病我沒藥》《元宇宙陷阱》《科技與社會十四講》，面向非專業人士提示ICT（信息與通訊技術）的社會沖擊和技術風險。
可以說，警惕AI發展，防止AI失控，正在成為全球范圍內科技領域的“政治正確”。在此氛圍之下，公開宣稱“AI無禁區”的聲音被極大地抑制。對此，作為技術控制的選擇論者，我完全贊同。
然而，公開信指向的不是泛泛的AI風險，而是具體的、當下的LLMs風險。那麼，就目前的發展態勢而言，ChatGPT究竟存在什麼嚴重的風險，必須以暫停至少六個月的方式加以應對呢？
有人說，ChatGPT是超級AI出現的征兆，如果現在不停止（註意：不僅是暫停），“潘多拉的魔盒”一旦打開，人類很快會被超級AI統治甚至滅絕。這種幻想色彩濃厚的念頭，很難讓人予以嚴肅的對待。尤其是，很多專業人員不承認ChatGPT是通用AI，更別說它是超級AI的雛形。
超級AI可能是個問題，但在嚴防人類自我滅絕的問題上，很多風險如核大戰、氣候變化、致命病毒傳播、生物科技濫用等要排在超級AI之前。我們是不是先把它們都停止？就算停止不，暫停一下也行，起碼可以呼籲暫停。對不對？
仔細想一想，LLMs對中國社會最重要的沖擊在於：1）失業問題：ChatGPT未來會威脅很多人的“飯碗”，進一步加劇“AI失業問題”，即AI的推廣導致人們失業。2）教育問題：ChatGPT對應試教育造成巨大挑戰，要求中國的教育體制適應AI輔助工作和生活的未來社會環境。3）信息安全問題：ChatGPT很快生成海量的AIGC（計算機生成內容），其中不乏錯誤的、虛假的、有害的內容，威脅主流價值觀、意識形態和健康的輿論思想環境。
如何應對ChatGPT的沖擊？這是我們最後要討論的問題。
暫停ChatGPT肯定不是應對風險的好辦法。為什麼？第一，暫停沒有道理。有人說，ChatGPT風險應對措施沒有想清楚，所以先暫停。錯！不是沒想清楚，而是沒有落實到位。第二，暫停是不可能真正實現的，肯定會有AI公司違反禁令，結果是出現不公平的競爭。第三，暫停解決不問題。就算所有AI公司都真的暫停ChatGPT科研，風險問題就解決嗎？沒有！除非徹底停止和取締LLMs，否則風險不會消失。重新啟動之時，仍然得直面風險。
如今，新科技是人類生存和發展最重要的不可須臾離開的工具。ChatGPT對社會生產力的推動作用已經昭然若揭，我們為什麼要因噎廢食，為什麼不能控制地利用呢？20世紀就有人提出來，彼時的科技人類已經完全夠用，繼續發展會導致很多新問題，應該讓科技靜止下來，科學傢不要再搞研究。此類極端非理性想法，從來沒有被社會嚴肅對待過。
顯然，上述ChatGPT導致的三大沖擊都不是什麼新問題，早在ChatGPT爆火之間就已經被學界和政府所關註、所研究，各種應對建議早已被提出來。比如AI失業問題，各種討論汗牛充棟。具體的應對措施不一而足，如學生的職業規劃、勞動者AI素養提升、失業人員社會保障和再就業、產業結構升級改造等。長遠的戰略規劃亦蔚為大觀，如制度性地減少勞動者工作時間（有些地方已經在嘗試一周工作4天），征收AI稅（AI是全人類智力結晶，向AI公司征收重稅全民共享），靈活退休制度（勞動者一輩子可以短暫退休幾次）等。因此，現在的問題是根據國情落實AI治理措施，而不是暫停ChatGPT研發。
總之，暫停ChatGPT研發的想法簡單粗暴，作用不大，也實現不，純屬無效的“嘴炮”。
文 | 劉永謀（中國人民大學哲學院教授、國傢發展與戰略研究院研究員）