權力機構正在意識到人工智能的潛力和隱患。最大的問題是，如果（以及一旦）出現失誤，他們將對前進的步伐產生多大的影響。昨天，聯合國宣佈成立一個新的人工智能咨詢委員會--由來自政府、學術界和產業界的38人組成，旨在"對人工智能的國際治理進行分析並提出建議"。
聯合國表示，該咨詢委員會將作為一個橋梁小組，涵蓋國際組織圍繞人工智能提出的任何其他倡議。事實上，在制定人工智能戰略和方法的過程中，聯合國已經與行業領袖和其他利益相關者進行長達一個月的討論。計劃是在 2024 年夏天之前提出有關人工智能的建議，屆時聯合國計劃舉行一次"未來峰會"活動。新的咨詢委員會將於今天舉行首次會議。
咨詢委員會表示，該機構的任務是"就風險和挑戰達成全球科學共識，幫助利用人工智能實現可持續發展目標，並加強人工智能治理方面的國際合作"。
在成立之初，該委員會最值得關註的是其總體上積極的定位。現在，有很多人都在談論人工智能的風險，無論是國傢安全威脅、數據保護還是錯誤信息；下周，該領域的一些全球領導人和專傢將齊聚英國，試圖在人工智能安全峰會上解決其中的一些問題。目前還不清楚這些倡議以及其他在國傢和國際層面上形成的倡議將如何協同工作，或在其管轄范圍之外實施任何措施。
與聯合國的精神相一致的是，這個由38人組成的小組--其中包括來自Alphabet/Google和微軟的高管、至少一位"數字人類學傢"、多位教授和政府官員--是一個高層次的小組，更多地是采取積極到建設性的立場，重點關註國際發展。
"人工智能可以推動人類取得非凡的進步。從預測和應對危機，到推出公共衛生計劃和教育服務，人工智能可以全面擴大和增強各國政府、民間社會和聯合國的工作，"聯合國秘書長安東尼奧-古特雷斯談到該小組的目標時說。"對於發展中經濟體來說，人工智能提供跨越過時技術的可能性，並將服務直接帶給最需要的人。人工智能的變革潛力甚至難以把握"。
聯合國提到該小組的"橋梁"作用，它可能會參與"人工智能造福"之外的更多重要探索。加裡-馬庫斯（Gary Marcus）參加九月份在"顛覆"（Disrupt）大會上舉行的一次"爐邊談話"（fireide chat），談論人工智能的風險。雖然在生成式人工智能等領域的新創新無疑將這項技術推向大眾市場的前沿和中心，但馬庫斯對挑戰的闡述也強調一些更令人擔憂的方面：
"我對人工智能最大的短期擔憂是，大量制造的錯誤信息、蓄意制造的錯誤信息會破壞民主，之後還會發生各種各樣的事情。我最大的長期擔憂是，我們不知道如何控制現在正在構建的人工智能，也不知道如何控制未來正在構建的人工智能。這樣一來，我們就有可能讓機器做各種我們沒打算讓它們做的事情。"