OpenAI CEO回應ChatGPT作弊擔憂:將協助開發檢測方法


1月20日消息,對於熱門人工智能(AI)聊天機器人ChatGPT可能被用於考試作弊的擔憂,其背後開發公司OpenAI首席執行官薩姆·阿爾特曼(SamAltman)做出回應。阿爾特曼在接受采訪時表示,OpenAI將開發出幫助學校識別AI作弊的方法。

但他警告稱,不能保證完全檢測到作弊行為。阿爾特曼稱:“我們打算在短期內嘗試做些事情,也許有些方法可以幫助學校更容易發現類似ChatGPT系統作弊行為。但老實說,有些人可能會找到繞過檢測的方法。”

他補充說:“長期以來,人們一直在將新技術融入他們的生活以及課堂中,這些技術隻會對用戶產生更積極的影響。例如,生成性文本是我們都需要適應的東西。我想,我們適應計算器,改變我們在數學課上測試的內容。毫無疑問,ChatGPT是更極端的技術,但它帶來的好處也更大。”

在阿爾特曼發表上述言論之前,紐約市教育部和西雅圖公立學校系統禁止學生和教師使用ChatGPT,以防止抄襲和作弊。這些禁令引發關於AI如何改變教育狀況和學生學習方式的討論,尤其是在教師群體中。阿爾特曼說:“我明白為什麼教育工作者會有這樣的感受,不久後我們可能在許多其他領域也看到同樣的情況。”

阿爾特曼表示,盡管OpenAI已經從部分老師那裡聽說ChatGPT對學生傢庭作業等方面的影響,但也有很多老師認為,聊天機器人可以成為“每個孩子最稱職的私人傢教”。

事實上,阿爾特曼認為使用ChatGPT可以是一種更吸引人的學習方式。他說:“我自己也用它來學習新東西,並發現它比其他學習方式更有吸引力。我寧願讓ChatGPT教我學東西,而不是去讀課本。”

阿爾特曼稱,OpenAI將嘗試水印技術和其他技術來標記ChatGPT生成的內容,但他警告學校和國傢政策制定者避免依賴這些工具。阿爾特曼說:“從根本上說,我認為它不可能做到完美。人們需要弄清楚他們需要修改多少文本,當然還會有其他東西修改輸出的文本。”

鑒於ChatGPT變得越來越流行,阿爾特曼認為世界必須適應生成式AI的出現。隨著時間的推移,技術將不斷改進,以防止意想不到的後果。他說:“這是一個不斷變化的世界,我們都要學會適應。我認為這樣會更好。我們不想再回到過去。”


相關推薦

2023-02-08

2月8日消息,最近幾周ChatGPT火爆全網,但不少回答引起許多人的擔心。社交媒體推特首席執行官埃隆·馬斯克(ElonMusk)也是其中之一。馬斯克是ChatGPT背後人工智能技術公司OpenAI的創始人之一。最近他批評聊天機器人ChatGPT回答的幾

2023-02-01

聊天機器人ChatGPT在爆紅的同時也遭到濫用。一些學生偷懶利用它寫作業或論文,這讓老師們頭疼不已。不過,ChatGPT開發商OpenAI在周二發佈一款工具,旨在協助顯示文本是否由人工智能(AI)程序編寫並偽裝成人類。這項工具名為“

2022-12-20

12月19日消息,OpenAI開發的全新人工智能ChatGPT不僅能夠聊天,還能夠編程、寫論文。這不僅引發技術領域的熱潮,也讓學術界督促各個大學針對人工智能開發新的學業評估模式,防止學生用人工智能代寫論文。OpenAI公司獲得微軟

2023-01-29

調查發現,89%的美國大學生已經在用ChatGPT寫作業,而其中的72%也同時支持封殺。對此,老師們的態度倒是褒貶不一,值得玩味。ChatGPT誕生才兩個月,但它給全世界投下的‘重磅炸彈’就沒停下來過。雖然在很多學校,老師們防C

2023-03-08

,微軟宣佈計劃在其必應搜索引擎中整合熱門聊天機器人ChatGPT的技術,後者提供的類似人類的交談能力震驚世界。ChatGPT是由埃隆·馬斯克(Elon Musk)聯合創立的OpenAI開發的。該公司成立已有7年,利用Google取得的早期AI進展。為何這

2023-01-28

時間1月26日,數字媒體公司Buzzfeed(BZFD.US)宣佈計劃使用ChatGPT開發商OpenAI提供的人工智能(AI)技術來協助創作個性化內容。BuzzFeed發言人表示,公司將使用OpenAI開放的API(應用程序編程接口)。BuzzFeed首席執行官喬納·佩雷蒂&nb

2023-03-19

創建ChatGPT的公司背後的首席執行官認為,人工智能技術將重塑我們所知的社會。他認為它會帶來真正的危險,但也可能是“人類迄今為止發展出的最偉大的技術”,可以極大地改善我們的生活。“我們在這裡必須小心,”OpenAI

2022-06-22

在開發者編程的時候會自動推薦代碼行。GitHub去年最初與OpenAI合作推出瞭Copilot的預覽版,如今它已普遍提供給所有開發人員。GitHub Copilot 的價格為每月 10 美元或每年 100 美元,開發人員在 Visual Studio Code、Neovim 和 JetBrains IDE 等集

2023-08-29

地時間周一,美國人工智能研究公司OpenAI宣佈推出企業版ChatGPT,企業版ChatGPT擁有增強的安全性、隱私性和一系列為企業量身定制的強大功能。ChatGPT是OpenAI於2022年11月30日推出的一種新型AI聊天機器人工具,可根據用戶的要求快

2024-05-09

例子,該公司表示正在"探索我們是否可以通過 API 和 ChatGPT,負責任地提供在適合年齡的上下文中生成 NSFW 內容的能力"。《模型規范》中關於人工智能助手應如何處理信息危害的部分。OpenAI的產品經理喬安妮-張(Joanne Jan

2023-01-29

科技巨頭們加快AI開發速度。據消息人士透露,由於圍繞ChatGPT的關註激增,Meta和谷歌內部壓力也在增大,甚至可能為行動更快而撇開某些潛在的安全擔憂。早在AI研究公司OpenAI於2011年11月份首次推出AI聊天機器人ChatGPT三個月前,

2023-05-16

力研究,應該對新興的人工智能設定什麼樣的監管,但在ChatGPT引起美國政府註意的幾個月後,共識還遠未確定。一項對美國參議員、國會工作人員、人工智能公司和利益集團的采訪顯示,美國政府內部有許多選項正在討論中。

2023-02-21

言模型(LLM),其中名聲最響的當屬GPT-3的一個版本——ChatGPT。由於ChatGPT完全免費而且使用方便,去年11月推出後便引發熱潮。其他類型的生成式AI還能產生圖片或聲音。“我真的印象深刻,”就職於美國賓夕法尼亞大學的Pividor

2023-01-17

和應用程序的類似競爭中,讓這傢軟件巨頭領先於谷歌。ChatGPT可以驚人地根據提示或查詢生成類似人類對話的文字,自去年11月底啟用以來,已在互聯網上引起轟動,不到一周時間就積累首個100萬用戶。它模仿真人說話和寫作的