OpenAI推出ChatGPT“克星”:可識別文章是否人工智能代筆


據報道,美國人工智能公司OpenAI過去曾經推出大受歡迎的聊天或撰稿機器人產品ChatGPT。今日,該公司在官方博文中宣佈,已經推出一款新工具,能夠識別一些文字是不是人工智能軟件撰寫的。


ChatGPT這一工具是在去年11月份推出的,之後立刻在網絡上火爆一時,受到使用者稱贊歡迎。用戶可以輸入一些提示性命題文字,這一工具能夠撰寫各種文章、散文、笑話,甚至是詩歌。不過這一人工智能撰稿軟件也引發版權和抄襲方面的質疑。

OpenAI公司新推出的產品名叫“AI分類器”(AI classifier),這一軟件使用的語言模型,經過大量針對同一話題的人類文稿和人工智能文稿的數據訓練,能夠識別某一文稿到底是人類撰寫還是人工智能軟件生成。

OpenAI公司介紹說,這一產品背後整合來自多傢供應商的技術,能夠用於解決各種現實問題,比如軟件機器人瘋狂在社交媒體上傳播虛假信息、以及學術論文撰寫的不端行為。

這款產品目前還處在測試版階段,OpenAI公司表示,對於小於1000個字符的文章,工具的識別表現還不是太穩定。另外,人工智能撰寫的文章經過人類編輯之後,可以欺騙AI分類器。

該公司表示,將讓社會公眾使用這款新產品,希望能夠從使用者那裡獲得一些反饋信息,即這樣一款還不夠完美的人工智能產品是否能夠產生某些實際用途。

該公司表示,在學校教育行業,開發團隊意識到,要識別出學生利用人工智能軟件代筆的文章是一個十分重要的課題,同樣重要的是,需要弄清楚AI分類器對於學生文章識別判斷存在哪些不足、將產生怎樣的影響。

自從ChatGPT在網絡上受到熱捧,並獲得數百萬用戶點贊後,這引發美國一些學區的警覺。包括紐約市在內的學區宣佈,禁止學生使用這一人工智能撰稿工具,他們擔心學生會使用這一工具撰寫文章欺騙老師,或是進行抄襲剽竊。

為幫助老師和學校識別學生的文章是否是人工智能所撰寫,行業內已經出現第三方開發的識別工具,其中包括“GPTZeroX”。

OpenAI表示,他們正在和教育行業積極溝通,討論ChatGPT的用途或者局限性,並且將會繼續開發完善識別人工智能所撰寫文章的工具。


相關推薦

2023-05-06

綜合多傢媒體報道,總部位於法國巴黎的人工智能初創公司MistralAI正在計劃啟動第一輪融資。此前,有法國媒體將其稱為“歐洲的OpenAI”以及“法國對抗ChatGPT的秘密項目”。據解,這傢神秘的初創公司是由前Facebook AI Research(FAI

2023-02-01

發商OpenAI在周二發佈一款工具,旨在協助顯示文本是否由人工智能(AI)程序編寫並偽裝成人類。這項工具名為“分類器”(classifier),它能標記出OpenAI產品以及其他AI創作軟件編寫的內容。不過,OpenAI表示,“它仍有許多局限性,因

2023-01-29

所沒有立即回應媒體評論請求。盡管潛在的法律挑戰阻礙人工智能驅動的工具,但微軟已經承諾提供數十億美元來延長與OpenAI的長期合作關系。據傳,它還在考慮將人工智能技術引入Word、PowerPoint和Outlook,據說還想將人工智能聊

2023-11-30

谷歌的一組研究人員發現,OpenAI旗下的人工智能聊天機器人ChatGPT可以泄露其訓練數據中的敏感信息,比如真人的個人信息。據悉,ChatGPT是OpenAI於2022年11月30日推出的一種新型AI聊天機器人工具,可根據用戶的要求快速生成文章、

2023-02-03

北京時間2月3日早間消息,據報道,人工智能撰稿和聊天工具ChatGPT最近在網絡上火得一塌糊塗,這引發微軟聯合創始人比爾·蓋茨的註意。比爾·蓋茨評價ChatGPT稱,這種人工智能技術出現的重大歷史意義,不亞於互聯網和個人電

2023-02-11

iPhone 之前,沒有智能手機的應用程序。2022年11月30日,人工智能迎來Netscape Navigator時刻。對於人工智能或者聊天機器人,我們並不陌生。從蘋果Siri、微軟小冰、智能音箱,這些人工智能產品已經融入到人們的生活中,但是基本

2023-04-26

禁用的情況下,用戶的數據不會被用來訓練和改進OpenAI的人工智能(AI)模型。OpenAI聲稱,當聊天記錄被禁用時,它仍然會保存用戶的聊天記錄30天,但它隻會在需要時審查這些聊天記錄,以檢查濫用行為。30天後,未保存的聊天

2023-03-03

億美元的合作不僅刺激Google和亞馬遜緊急在產品線中佈局人工智能,OpenAI還與貝恩合作,將機器學習引入可口可樂的運營,並計劃擴展到其他企業合作夥伴。毫無疑問,OpenAI的人工智能已經成筆大生意,但其實這與OpenAI最初的計

2023-03-03

億美元的合作不僅刺激Google和亞馬遜緊急在產品線中佈局人工智能,OpenAI還與貝恩合作,將機器學習引入可口可樂的運營,並計劃擴展到其他企業合作夥伴。毫無疑問,OpenAI的人工智能已經成筆大生意,但其實這與OpenAI最初的計

2023-03-03

億美元的合作不僅刺激Google和亞馬遜緊急在產品線中佈局人工智能,OpenAI還與貝恩合作,將機器學習引入可口可樂的運營,並計劃擴展到其他企業合作夥伴。毫無疑問,OpenAI的人工智能已經成筆大生意,但其實這與OpenAI最初的計

2023-01-28

價直接跳漲三倍!起因僅僅是Buzzfeed宣佈將用OpenAI提供的人工智能API——甚至不是被一些媒體誤傳的ChatGPT本身——來協助創作一些內容。BuzzFeed 首席執行官喬納·佩雷蒂 (Jonah Peretti) 在一封備忘錄中表示:“到 2023 年,你會看

2023-09-26

9月26日消息,據外媒報道,當地時間周一,美國人工智能研究公司OpenAI宣佈,其AI聊天機器人工具ChatGPT現在可以“看、聽、說”,這暗指這款廣受歡迎的聊天機器人可以同時接收圖像和語音輸入,並通過語音對話進行回復。ChatGP

2023-02-16

東西拿出來的原因是,人們會認為我們有一個完整的通用人工智能(AGI),準備好按下按鈕,這還差得遠”。有更高“情商”,但不必神化為與ChatGPT較量,當地時間2月6日,谷歌宣佈,將推出自己的AI聊天機器人Bard,並在推特發

2023-02-21

言模型(LLM),其中名聲最響的當屬GPT-3的一個版本——ChatGPT。由於ChatGPT完全免費而且使用方便,去年11月推出後便引發熱潮。其他類型的生成式AI還能產生圖片或聲音。“我真的印象深刻,”就職於美國賓夕法尼亞大學的Pividor