OpenAI承認正研發ChatGPT文本水印:可被單獨工具檢測到


快科技8月5日消息,據媒體報道,OpenAI正深入探索文本水印技術的前沿領域,然而,該公司坦言,這一創新領域仍面臨重重技術挑戰與待解難題。

OpenAI巧妙地設想通過微妙調整ChatGPT生成文本中的詞匯選擇,來在字裡行間編織一張不可見的數字指紋”即文本水印。這一設計精妙之處在於,未來能夠借助特定工具輕松識別與驗證文本的原始出處,為版權保護與內容溯源開辟新徑。

值得註意的是,文本水印僅是OpenAI多元化解決方案矩陣中的一環。公司還並行研究分類器技術和元數據策略,旨在構建一個全方位、多層次的文本身份認證體系,以確保信息的來源清晰可溯。

然而,盡管文本水印技術在某些測試場景中展現出令人矚目的潛力,但在應對復雜多變的文本篡改手段時,如翻譯、深度改寫乃至簡單插入特殊字符等,其效果卻可能大打折扣。此外,該技術還可能不經意間對非英語母語用戶等特定群體造成不成比例的影響,進一步凸顯技術普適性與公平性考量的重要性。

鑒於上述復雜因素及其對內容生態系統可能產生的深遠影響,OpenAI明確表示,將秉持謹慎原則,穩步推進文本溯源技術的研發進程。

此外,公司正將更多目光投向視聽內容的認證工具開發上,力求在保障內容創作者權益的同時,促進數字內容的健康流通與多元發展。


相關推薦

2023-03-31

慧產業事業群CEO湯道生向澎湃新聞表示,騰訊正在研發類ChatGPT聊天機器人。對於騰訊的聊天機器人是集成到QQ、微信,還是通過騰訊雲向B端用戶服務,湯道生說:都會有。”湯道生還談到元宇宙,他認為XR隻是元宇宙的一個形態

2023-01-20

1月20日消息,對於熱門人工智能(AI)聊天機器人ChatGPT可能被用於考試作弊的擔憂,其背後開發公司OpenAI首席執行官薩姆·阿爾特曼(SamAltman)做出回應。阿爾特曼在接受采訪時表示,OpenAI將開發出幫助學校識別AI作弊的方法。

2023-02-21

言模型(LLM),其中名聲最響的當屬GPT-3的一個版本——ChatGPT。由於ChatGPT完全免費而且使用方便,去年11月推出後便引發熱潮。其他類型的生成式AI還能產生圖片或聲音。“我真的印象深刻,”就職於美國賓夕法尼亞大學的Pividor

2024-05-08

OpenAI剛剛發佈博客宣佈該公司加入C2PA內容來源和真實性聯盟的指導委員會,與業內其他公司一起合作為數字內容添加認證標準、可以識別數字內容的來源等。C2PA由軟件公司、相機制造商以及在線平臺等共同創建,主要目的就是

2023-02-08

最近ChatGPT一夜爆火,成全球最受關註的AI產品,而且在實際表現上遠超以往的任何產品。值得一提的是,我國不少公司也都早早就在佈局類似領域,國產版ChatGPT可能很快就會亮相。根據21財經報道,阿裡巴巴一名資深技術專傢爆

2023-02-09

最近ChatGPT一夜爆火,成全球最受關註的AI產品,而且在實際表現上遠超以往的任何產品。值得一提的是,我國不少公司也都早早就在佈局類似領域,國產版ChatGPT可能很快就會亮相。根據21財經報道,阿裡巴巴一名資深技術專傢爆

2023-02-01

ChatGPT到處“造假”作弊,現在搞得OpenAI官方都坐不住。就在今天,OpenAI緊急發佈官方打假工具:基於GPT打造,打開網頁就能用。好傢夥,這豈不是真·以己之矛攻己之盾?一經上線,那叫一個火爆,不少網友第一時間就沖過去測

2023-11-14

生成式人工智能(AI)行業龍頭、美國AI技術初創公司OpenAI計劃從其最大的投資者微軟公司處獲得更多的資金支持,用以創造相當於人類智慧程度的AI——通用人工智能(AGI)。OpenAI聯合創始人兼首席執行官山姆·阿爾特曼(SamAltm

2023-01-16

究人員對該AI機器人的影響力有著巨大爭議。聊天機器人ChatGPT的所有者是一傢位於舊金山的軟件公司OpenAI,該公司於11月30日發佈這款AI工具,並提供免費試用。ChatGPT可以根據用戶的提示創建實際且智能的文本。它是一個“大型

2023-02-17

自去年11月OpenAI公司推出聊天機器人ChatGPT以來,學術界對這項顛覆性的技術進行熱烈討論,該技術也在信息搜索和分析領域展現巨大的潛力。信息和分析公司勵訊集團(Relx)2月16日發佈最新財報時表示,該公司正在使用生成式AI

2023-12-07

inewithMeta),允許用戶通過自然語言描述來創建圖像。與 OpenAI 的 DALL-E、Midjourney 和 Stable Diffusion 類似,Imagine with Meta 由 Meta 現有的 Emu 圖像生成模型提供支持,可根據文本提示創建高分辨率圖像。它對美國用戶免費使用(至少目

2023-01-29

調查發現,89%的美國大學生已經在用ChatGPT寫作業,而其中的72%也同時支持封殺。對此,老師們的態度倒是褒貶不一,值得玩味。ChatGPT誕生才兩個月,但它給全世界投下的‘重磅炸彈’就沒停下來過。雖然在很多學校,老師們防C

2024-02-07

像元數據中添加水印。該公司表示,C2PA的水印將出現在ChatGPT網站生成的圖片和DALL-E3模型的API中。移動用戶將在2月12日前獲得水印。水印將包括一個不可見的元數據組件和一個可見的CR符號,後者將出現在每張圖片的左上角。人

2023-02-01

聊天機器人ChatGPT在爆紅的同時也遭到濫用。一些學生偷懶利用它寫作業或論文,這讓老師們頭疼不已。不過,ChatGPT開發商OpenAI在周二發佈一款工具,旨在協助顯示文本是否由人工智能(AI)程序編寫並偽裝成人類。這項工具名為“