OpenAI首席技術官:ChatGPT可能會被“壞人”利用 應受到監管


2月6日消息,人工智能研究公司OpenAI開發的聊天機器人ChatGPT當下火爆全網。該公司首席技術官米拉·穆拉蒂(MiraMurati)在接受美國《時代》雜志采訪時表示,沒想到自己的“孩子”一經發佈就能受到如此熱烈的歡迎。

穆拉蒂補充說,ChatGPT可能會“編造事實”,這與其他基於語言模型的人工智能工具沒有什麼區別一樣。

穆拉蒂還在采訪中強調,像ChatGPT這樣的人工智能工具“可能被濫用,也可能被壞人使用”,引發關於如何在全球范圍內對其進行監管的問題。

問題就是,穆拉蒂說,“你該如何以一種符合人類價值觀的方式管理人工智能的使用?”

當被問及像OpenAI這樣的公司等機構是否有責任監管這一工具時,穆拉蒂說:“對OpenAI等公司來說,最重要的是以一種可控和負責任的方式將其引入公共意識。”

但她強調,公司還需要來自監管機構、政府甚至所有人的幫助。穆拉蒂補充說,現在對ChatGPT進行監管“並不算為時過早”。

OpenAI沒有立即回應置評請求。

今年1月份,OpenAI首席執行官薩姆·奧爾特曼(Sam Altman)在接受采訪時表示:“生成文本是我們都需要適應的東西。”

他說,“我想,我們適應計算器,改變數學課上的測試內容。毫無疑問,ChatGPT是一個更極端的例子,它帶來的好處也更極端。”

自去年11月30日OpenAI公開發佈ChatGPT以來,這款人工智能聊天機器人就引起人們的極大興趣,有不少人甚至擔心最終ChatGPT將取代許多人的工作。

有人用ChatGPT和另一種自動生成圖形的人工智能工具寫出一本兒童書籍。研究人員還用ChatGPT去回答美國醫學執照考試的問題,結果表明ChatGPT“穩穩”通過所有三個部分的考核內容。


相關推薦

2023-02-06

司OpenAI的首席技術官米拉·穆拉蒂(Mira Murati)表示,像ChatGPT這樣的AI工具可能被濫用,也可能被“壞人”利用,應受到監管。ChatGPT是OpenAI於2022年11月30日推出的一種新型AI聊天機器人工具,可根據用戶的要求快速生成文章、故事

2023-02-06

人工智能研究公司OpenAI開發的聊天機器人ChatGPT當下火爆全網。OpenAI公司的首席技術官米拉穆拉蒂在接受采訪時表示,ChatGPT應該受到監管,因為它可能被壞人”利用。穆拉蒂稱,ChatGPT可能會編造事實”,這與其他基於語言模型的

2023-02-07

ChatGPT的熱度絲毫沒有下降的意思,從外界釋放的愛意就能看出來:能攀親帶故最好,非親非故的創造條件也得上。2月6日,寺庫表示將探索把AIGC(人工智能內容生成)技術應用於奢侈品相關業務,咨詢解決率超過90%。未來將對Ch

2023-03-21

OpenAI最近發佈的最新版人工智能語言模型GPT-4。他強調,ChatGPT的上線需要監管機構和全社會的共同參與,各種反饋有助於阻止人工智能技術給人類帶來潛在負面影響。他補充說,自己一直與政府官員保持“定期聯系”。ChatGPT上

2023-11-18

到晉升,於2022年成為首席技術官,目前負責聊天機器人ChatGPT和圖像生成器Dall-E 2背後的團隊。與此同時,OpenAI的員工人數已增至數百人。Murati不僅對人工智能持樂觀態度,她也是通用人工智能(AGI)的信奉者。她認為,AGI技術

2023-03-02

更加冷靜務實一些。作為一個人工智能對話和撰稿工具,ChatGPT底層需要依靠自然語言處理模型來驅動,目前使用的語言模型是GPT-3.5,OpenAI計劃升級到GPT-4版本。穆拉蒂表示,對於新版本,外界少一些炒作會更好些。

2024-03-16

爭議,是這一年多全球相關人士討論最多的話題。如今,ChatGPT讓OpenAI的估值暴漲到800億美元;而Sora又幾乎要顛覆動輒上百億票房的好萊塢影視行業 。然而這些收益卻進OpenAI的腰包,而做出關鍵貢獻的數據所有者,卻分文無收,

2023-05-16

力研究,應該對新興的人工智能設定什麼樣的監管,但在ChatGPT引起美國政府註意的幾個月後,共識還遠未確定。一項對美國參議員、國會工作人員、人工智能公司和利益集團的采訪顯示,美國政府內部有許多選項正在討論中。

2023-03-23

朗普被捕畫面,“以假亂真”。微軟、Adobe推出AI畫筆以ChatGPT為代表的“高智商”AI,正在掀起新一輪的AI革新。英偉達創始人CEO黃仁勛將這一輪技術革新稱為“AI的iPhone時刻”。他認為,AI可以幫助人類創建初稿、建立初步的設

2023-03-19

創建ChatGPT的公司背後的首席執行官認為,人工智能技術將重塑我們所知的社會。他認為它會帶來真正的危險,但也可能是“人類迄今為止發展出的最偉大的技術”,可以極大地改善我們的生活。“我們在這裡必須小心,”OpenAI

2023-11-19

加入,擔任OpenAI的首席技術官,曾被《時代》雜志稱為“ChatGPT的創造者”。此前,穆拉蒂任職於特斯拉,帶隊打造出Model X。眾所周知,OpenAI是今年科技圈最火獨角獸,沒想到如今迎來如此戲劇性的一幕。一夜之間,他被開除離

2023-11-18

OpenAI 是當下世界上最熱門的科技公司,每個人都在談論 ChatGPT,但它並不是一傢穩健的企業。從各方面來看,它都在以低廉的價格提供極其昂貴的產品,從而以最快的速度把錢扔進火爐。在一兩年內,這一切都很好,但到一定

2023-05-17

他在參議院的演講資料生成,而文本,當然是他用OpenAI的ChatGPT編寫的。所有人的目光都轉向OpenAI的首席執行官Sam Altman(以下簡稱奧特曼)。此時他正坐在證人席上準備提供證詞,旁邊還有 IBM 的首席隱私和信任官 Christina Montgomer

2023-02-09

成到“新必應”搜索引擎,而這一人工智能工具“甚至比ChatGPT更加強大”。ChatGPT能夠通過清晰的對話來回答問題,甚至撰寫文章和提供編程建議。這款人工智能聊天機器人近期受到密切關註。阿爾特曼表示:“我們將看到,這