斯坦福大學推出DetectGPT 幫助教育工作者反擊ChatGPT生成的論文


大型語言模型(LLM)的使用正在激增,而且有充分的理由,在過去的兩個星期裡,ChatGPT已經成為許多人最喜歡的輔助工具。事實上,它是如此之好,以至於它可以為你的大學課業生成邏輯清晰、令人信服的論文。正因為如此現在需要有檢測機器生成的文本的系統。

FncyuscaAAIYELI.jpg

最近,斯坦福大學的一個研究小組提出一種名為DetectGPT的新方法,旨在成為打擊高等教育中生成文本的首批工具之一。該方法是基於這樣的想法:由LLM生成的文本通常在模型的對數概率函數的負曲率區域的特定區域徘徊。通過這種洞察力,該團隊開發一種新的標準用於判斷文本是否是機器生成的,這並不依賴於訓練人工智能或收集大型數據集來比較文本。

這種方法被稱為"zero-shot",允許DetectGPT檢測機器寫的文本,而不需要解用於生成文本的人工智能。它的操作與其他需要訓練"分類器"和真實及生成段落數據集的方法形成鮮明對比。

該團隊在AI自動生成新聞文章的數據集上測試DetectGPT(大概是去年CNET的一些文章),它在檢測機器生成的文本方面的表現優於其他方法。具體來說,他們發現DetectGPT提高對20B參數GPT-NeoX生成的新聞文章的檢測準確性,從基線GPT-NeoX的0.81AUROC提高到DetectGPT的0.95AUROC,檢測性能有實質性的提高,並表明DetectGPT可能是一種有前途的方法,可以仔細檢查識別機器生成的文本。

DetectGPT是一種檢測機器生成的文本的新方法,它利用LLM生成的文本的獨特特征。它是一種不需要任何額外數據或訓練的零散方法,使其成為識別機器生成的文本的高效和有效工具。隨著LLM的使用繼續增長,檢測機器生成的文本的相應系統的重要性將變得越來越關鍵,可以在許多領域產生重大影響,它的進一步發展可能對許多領域都有利。

解更多:

https://ericmitchell.ai/detectgpt/


相關推薦

2023-01-30

學的研究團隊就提出一種用於檢測AI生成文本的全新算法DetectGPT。這個算法可以用於判斷文本是否是機器生成,並且不需要訓練人工智能或收集大型數據集來比較文本。研究團隊聲稱新算法的檢測的準確性能有實質性的提高,並

2023-01-29

生們的聰明才智,怎麼可能真正把它禁掉呢?果然,現在教育工作者們不得不直面現實:學生們已經在用ChatGPT肆無忌憚地作弊。比如,北密歇根大學哲學教授Antony Aumann在為自己的世界宗教課評分時發現,全班第一的論文竟然是

2023-02-01

後親歷的一些試驗結果既令人驚喜和贊嘆,也讓我和諸多教育工作者一樣感到擔憂。我的一個體驗是——用英文發出指令,“請寫一首包含白雪與樹林的(英文)詩歌”。在不到一分鐘的時間,ChatGPT就給出一首近乎完美的英文

2022-12-20

特裡(Annie Chechitelli)表示,公司正在開發一種工具,指導教育工作者評估帶有“痕跡”的論文。切希特裡還警告說,不要在如何發現作弊者方面投入過多資源和精力,並表示教育工作者應該鼓勵培養批判性思維和編輯等人工技能

2023-03-18

的發佈讓全球科技圈的技術競爭進入白熱化。幾天之內,ChatGPT、必應搜索和Microsoft365相繼接入GPT-4,微軟的AI應用瞬間比競爭對手拉開一個身位,甚至有人說,新的工業革命開始。一方面我們被 GPT-4 的效果所震撼,一方面我們也

2023-02-01

哥Edward Tian打造的GPTZero。這兩天,他還推出一個“專門為教育工作者打造”的升級版GPTZeroX。上線一天,就迎來40萬訪問量和220萬服務請求。OpenAI此前也和其他高校一起搞過一個名叫GPT-2 Output Detector的鑒別器,是基於RoBERTa打造的

2024-06-29

工學院張嶽教授領導的文本智能實驗室開發一種名為Fast-DetectGPT的新文本檢測方法。據悉,該方法能高效識別AI生成的文本,並且Fast-DetectGPT無需訓練,即可準確檢測包括ChatGPT、GPT-4在內的多種AI語言模型生成的文本。Fast-DetectGPT

2024-05-10

斯坦福大學的一個研究小組正在開發一種新的人工智能輔助全息成像技術,並聲稱這種技術比研究人員所見過的任何技術都更薄、更輕、質量更高。這種技術能否將增強現實(AR)頭盔提升到一個新的水平?斯坦福大學的全息 AR

2023-12-04

響。以科技人員發表論文為例,雖然這已經不是評價科技工作者學術科研水平的唯一標尺,但仍然是檢驗學術成果、評價科研成色的重要標準之一,確保論文內容的原創性、創新性和撰寫的獨立性,仍是不可逾越的紅線。通過自

2023-02-13

勵。劉德良提到,目前已有科學傢開發出專門軟件,幫助教育工作者來甄別由ChatGPT生成的文本。在他看來,這是一個技術問題,應該用技術的方法來解決。人工智能如何顛覆未來教育?在今天,拒絕技術的影響似乎不太容易。

2023-04-24

ChatGPT知道自己寫的代碼有漏洞,但它不說!來自加拿大的一項最新研究發現,ChatGPT生成的代碼中,有不少都存在安全漏洞。然而在被要求評估自己代碼的安全性時,ChatGPT卻很快發現這些代碼中的漏洞,並給出一些解決方案和建

2024-04-12

是采用新方法推進通用型機器人的時機。Figure 01通過接入ChatGPT實現人形機器人智能化的“看聽說”交互,讓人們看到大模型與機器人結合的巨大潛力。Pi也希望將構建語言模型的先進技術與自己的機器控制和指令技術相結合,創

2023-03-20

斯坦福大學的Alpaca人工智能在許多任務上的表現與驚人的ChatGPT相似--但它建立在一個開源的語言模型上,訓練成本不到600美元。看來這些神一樣的人工智能已經便宜得嚇人,而且很容易復制。六個月前,隻有研究人員和博學者在

2023-02-13

空間,但像斯坦福大學等已經在嚴查,斯坦福團隊推出 DetectGPT ,用來判斷文本是否由機器生成,以此嚴查、打擊學生利用 AI 舞弊。小波奇表示,他最常使用 ChatGPT 的場景是寫作業和查 bug,“ 大學不是所有東西都有標準解答,