GPT們的新bug:數據隻要兩句提示詞就能套走


註意!你創建GPTs時上傳的數據,任何人都能輕易下載……隻需兩句提示詞,就可被直接套走!而又在另一邊,OpenAI最親密盟友微軟內部一度緊急禁用,網站上顯示的理由正是:出於安全和數據方面的考慮,許多AI工具不再供員工使用。


自定制版GPT上線以來,各路大神分享自己GPTs整活鏈接。

結果有網友一個不小心竟扒出其中某個GPTs背後知識庫文件,裡面各種科技大廠職級薪資的數據直接曝光……


隻需幾句再簡單不過的提示詞,GPTs就會乖巧地如數上傳。

有網友表示:這是新的安全漏洞嗎?不少人開始為企業定制擔憂。

值得註意的是,就連OpenAI最親密盟友微軟,都曾暫時取消過對ChatGPT的內部訪問

數據和提示詞都被泄漏

按照之前的說法,用戶可深度定制機器人的身份、語言特征,以及建立自有知識庫。

隻需要在GPT Builder的引導之下用自然語言來描述,他能自動完成除自有知識庫以外的大部分設置。

定制過後的GPTs可以自己用,也可以將鏈接分享給他人。


但問題就出現在這裡。

一開發者用他們為Levels.fyi創建基本GPT,可分析數據可視化,並開放鏈接對外使用。


結果就被網友發現隻需問上幾句,就可以下載文件。

一時間網友們都驚呆:這應該是限制的吧?



但也有人認為這不是bug,而是他的功能。文件中的數據應該是公開的。


還有熱心的網友直接給出解決方案:在設置時Uncheck代碼解釋器的能力。


不過即使沒被別人下,你上傳的數據也會變成OpenAI護城河的水。

除此之外,還有網友發現,你的提示詞說明文本也可能會被泄漏出來。


不過也有解決方式,那就是在自定義時就可以明確設置規則,然後就可以成功阻止。


微軟內部限制ChatGPT訪問

亮相3天後,就在昨天,GPTs面向付費用戶全量開放。

OpenAI官方是在GPTs頁面準備一些定制版機器人供用戶使用的,比如數學導師、烹飪助手、談判專傢等。

但這遠遠滿足不用戶們的好奇心,不到一天時間,開發者們已經用這個功能做很多稀奇古怪的東西。

正經嚴肅的,有能幫助人主動書寫prompt的、簡歷修改的。

稍微整活的,量子位觀察到有“爹味言論打分”,能幫用戶有力回擊討厭的PUA說教。

再玄學一點,還有具備諸如MBTI 16人格分析、塔羅牌占卜的等等……


總之,大夥玩兒得不亦樂乎。

但由於現在仍然有3小時50條的限制,不少網友無奈感慨,玩GPTs,很容易每日觸發這個數量限制。


不過也有網友仍持有保留態度,認為這會像此前ChatGPT出場即巔峰,而後會逐漸歸於平靜期。


與此同時,馬斯克旗幟鮮明表達對GPTs的態度,那就是對GPTs的不 屑 一 顧。

他直接引用奧特曼用GPTs手搓Grok的Twitter,不客氣地把“GPTs”解讀為“GPT-Snore”。


作為另一款大模型Grok的背後老板,一貫嘴炮全開的馬斯克如此陰陽怪氣,好像並不太稀奇。

最令人睜大眼睛的,還得是前天——也就是OpenAI被黑客攻擊的那一天,微軟一度禁止員工使用ChatGPT。

是的沒錯,微軟,OpenAI最大合作夥伴、股東,禁止員工訪問ChatGPT。

據悉,微軟在其內部網站上寫道:

出於安全和數據考慮,員工今後將無法使用部分AI工具。

什麼AI工具呢?點名的就是ChatGPT和設計網站Canva。

而後,ChatGPT在微軟員工的內部設備上被屏蔽。

不僅如此,微軟當時還表示,雖然咱確實投資OpenAI,但對於微軟人來說,ChatGPT是第三方工具。

員工使用時應當慎之又慎,就像大夥兒使用Midjourney等外部AI工具時一樣。


不過這個禁止令並沒有持續太久。

很快,員工對ChatGPT的訪問已經恢復,並且官方聲明稱,這隻是一次美麗的誤會,but還是推薦大傢用Bing(doge)。

我們正在測試LLM的終端控制系統,無意中面向所有用戶開啟該選項。在發現錯誤後不久,我們恢復服務。> >正如我們之前所說,我們鼓勵員工和客戶使用Bing Chat Enterprise和ChatGPT Enterprise等具有更高級別隱私和安全保護的服務。

不知道是不是為打破外界“貌合神離”的傳言,奧特曼還親自發個Twitter,證明OpenAI並沒有因為這個事件產生心理波動,傳言的OpenAI因此禁用Microsoft 365作為回擊更是無稽之談。


但這一系列事件說來說去,繞不開“隱私”“數據安全”還是這個議題。

也就是說在現在,不僅僅是巨頭、公司發現使用ChatGPT/GPTs有“內部數據共享”的隱患,如上文提到的,創業者、開發者甚至普通用戶,也發現這個問題擺在面前。

因此新一輪的討論就此如火如荼地展開:

如果任何用戶在GPTs上傳的數據、文檔等不能保證私有性,該怎麼邁出商業化的下一步呢?

圖片

對於想要打造ChatGPT時代“App Store”的OpenAI來說,這似乎並不太妙。

但一切剛剛開始,不妨看看OpenAI的後續補救措施,讓子彈再飛一會。


相關推薦

2023-12-02

火下漲停,真就父憑女貴……世超也聞著味兒,直接去他們的官網,想一探究竟。結果,他們的宣傳視頻,上來就把我給唬住。它除丟一張圖片進去就能生成一段視頻之外。還能靠一兩句提示詞就生成一個視頻。比如讓它生成一

2023-11-04

sic:是不是有點細思極恐?這是一個MIT本科生小哥整出來的新活,名叫GPT-4V-Act。隻需要幾個簡單的工具,GPT-4V就能學會控制你的鍵盤和鼠標,用瀏覽器上網發帖、買東西甚至是玩遊戲。要是用到的工具出bug,GPT-4V甚至還能意識

2022-08-14

,AI就能抽象出圖片裡的物體或風格,再隨機生成個性化的新圖片。有網友評價:非常酷,這可能是我這幾個月來看到的最好的項目。它是如何工作的?讓我們先來看幾個例子。當你上傳3張不同角度的陶瓷貓照片,可能會得到以

2022-08-23

件技術人員向上海辟謠平臺介紹。該技術人員說,目前依據隻有部分網友提供的車載系統屏幕照片,不能判斷車型和運行狀態,所以無法確定到底是哪個環節出現問題。但從技術基礎看,大部分車載系統使用的都是第三方導航軟

2023-11-21

上的表現,研究者使用自傢機構於今年5月推出的ConceptARC數據集。ConceptARC中一共包括16個子類的圖形推理題,每類30道,一共480道題目。這16個子類涵蓋位置關系、形狀、操作、比較等多個方面的內容。具體而言,這些題目都是由

2023-04-14

正在編造東西,努力生成合理的文本字符串,而不理解它們的含義。”對此,比爾·蓋茨也曾評價,“數學是一種非常抽象的推理模型,ChatGPT 不能像人類一樣理解上下文,這也是目前 ChatGPT 最大的弱點。”因此,從這個角度來

2023-05-11

這也就是新瓶裝舊酒,Duet AI就是Docs和Gmail等軟件中AI工具的新名字。Google希望,生成式AI能讓Gmail、Docs、Sheets和Slides更有用,不過目前,大部分功能還在開發中。Duet AI會涵蓋Google的各種辦公軟件,包括在文檔和Gmail中的寫作輔助

2023-11-05

非常廣。GPT-4也沒能逃過實驗階段,研究人員在有害行為數據集AdvBench中選出一個具有代表性的、包含50個不同類型任務的測試集,在多種開源和閉源大語言模型上測試PAIR算法。結果PAIR算法讓Vicuna越獄成功率達到100%,平均不到12

2022-06-27

平臺在售的全新 Kindle 還是閑魚、轉轉上的二手 Kinlde,它們的價格都賊便宜。就拿原價 558 的入門版 Kindle 來說,它的價格幾乎腰斬,隻要兩百出頭就能買到一臺擁有亞馬遜和咪咕兩大書城的墨水屏閱讀器,簡直不要太香好吧!

2023-03-15

巧的現代智能手機充電。更進一步,GPT-4可以理解圖表中數據的含義,並做進一步計算。甚至可以直接把論文截圖發給它,GPT-4可以按像素處理其中的文字和圖片,並給出對整篇論文的總結摘要。文字輸入長度限制的增加,也大

2023-03-02

使用的模型相同,對於許多非聊天應用場景,這仍然是他們的最佳模型。一些早期的開發人員,從“text-davinci-003”模型遷移至“gpt-3.5-turbo”隻需根據提示進行少量調整。一般情況下,GPT模型數據使用的是電子郵件文本、Twitter信

2023-09-27

事情創建個人獨特優勢的四種方式是:1)解決沒有人解決的新問題2)為一個非常特定的目標客戶解決現有問題3)用獨特的機制解決現有問題4)因為獨特的動機解決現有問題[插入你獨特的技能、興趣和經驗的段落]現在,根據我

2024-04-17

和代碼解釋器兩個部分組成。首先,思考模型會先理解我們的需求,經過一番思考後,把完成任務的指令和相關信息整合成提示,輸入給代碼解釋器。根據這個提示,代碼解釋器就把自然語言的用戶需求翻譯成代碼,隨後執行,

2024-05-06

因為這款工具而出現即將被取代的恐慌,反而覺得它讓他們的工作變得更加遊刃有餘。今年2月,人工智能初創公司OpenAI正式推出Sora,這款工具旨在“深入理解和模擬變化中的現實世界”。Sora以其獨特的文本到視頻轉換技術而聞