聊天機器人ChatGPT在爆紅的同時也遭到濫用。一些學生偷懶利用它寫作業或論文，這讓老師們頭疼不已。不過，ChatGPT開發商OpenAI在周二發佈一款工具，旨在協助顯示文本是否由人工智能(AI)程序編寫並偽裝成人類。
這項工具名為“分類器”(classifier)，它能標記出OpenAI產品以及其他AI創作軟件編寫的內容。不過，OpenAI表示，“它仍有許多局限性，因此應該作為其他確定文本來源方法的補充，而不是作為主要確定工具”。根據OpenAI的評估，隻有26%的AI編寫的文本被“分類器”正確識別。它還錯誤標記9%的人類寫作文本是由AI編寫的。
OpenAI在周二的一份聲明中稱，新工具將作為網絡應用和其他一些資源提供給教師。ChatGPT的流行引發人們對作者身份的擔憂，因為學生和員工使用機器人來創建報告和內容，並將其偽裝成自己的。這也引發人們對自動生成錯誤信息活動便利性的擔憂。
OpenAI在一篇博客文章中表示：“雖然無法可靠地檢測出所有AI編寫的文本，但我們相信，好的分類器可以幫助緩解AI生成的文本是由人類編寫的虛假聲明：例如，發動自動錯誤信息運動，使用AI工具進行學術欺詐，以及將AI聊天機器人定位為人類。”
自去年11月ChatGPT發佈以來，教師們尤其在疲於應對它的流行。學生們很快意識到，這個工具可以生成學期論文和總結材料，盡管偶爾會插入明顯的錯誤。
本月早些時候，普林斯頓大學的學生愛德華·田(Edward Tian)發佈一款名為GPTZero的應用。他說，他在新年期間編寫這款程序來檢測AI寫作。賓夕法尼亞大學沃頓商學院教授伊桑·莫裡克(Ethan Mollick)為他的課程制定一項AI政策，允許學生使用ChatGPT，隻要他們描述他們使用該程序的目的和使用方式。
與此同時，紐約市的公立學校已經禁止使用ChatGPT，國際機器學習大會(ICML)也采取同樣措施，除非在特定情況下。ICML在其倫理聲明中指出，“禁止包含由大型語言模型(LLM)生成的文本的論文，例如ChatGPT，除非這些生成的文本是作為論文實驗分析的一部分呈現”。