三星被曝因ChatGPT泄露芯片機密 韓媒驚呼數據“原封不動”直傳美國


三星引入ChatGPT不到20天,就發生3起數據外泄事件?!其中2次和半導體設備有關,1次和內部會議有關。消息一經釋出馬上引發各界熱議,尤其是韓國方面。韓版《經濟學人》的文章中直接寫道:這導致半導體設備測量資料、產品良率原封不動傳輸給美國公司。


韓媒方面甚至表示,因為三星員工直接將企業機密信息以提問的方式輸入到ChatGPT中,會導致相關內容進入學習數據庫,從而可能泄漏給更多人。

據三星表示,為避免這種情況再次發生,他們已經告知員工謹慎使用ChatGPT。如果後面仍發生類似事故,將考慮禁止在公司內網上使用ChatGPT。

看起來,三星這次又搞個大新聞啊。

有網友將此戲稱為:xx網盤存公司內部文件(doge)。


不過,也有網友發現這件事詭異的地方。

他們是怎麼知道數據被泄露的?ChatGPT這麼快就發佈新版本嗎?


而當《經濟學人》記者向三星方面確認消息真實性時,相關負責人表示由於是公司內部事故,所以很難給出明確回復。


目前,跟進該消息的主要是韓國媒體,所謂聊天內容是怎麼被加入到學習數據庫的,細節方面還有待推敲。

所以,真如報道所說,這些數據會被ChatGPT用於訓練、給更多人看到?

企業上傳到ChatGPT的數據究竟是否安全?

3.1%打工人在給ChatGPT喂企業數據

三星這次引起熱議,關鍵點在於將內部半導體數據上傳給ChatGPT。

3月11日,三星的半導體事業暨裝置解決方案事業部(DS)部門允許員工使用ChatGPT,隨後20天內就發生三起將公司內部半導體數據上傳到ChatGPT的事件:

其中,員工A用ChatGPT幫自己查一段代碼的bug,而這段源代碼與半導體設備測量數據有關;員工B想用ChatGPT幫自己優化一段代碼,就直接將與產量和良品率記錄設備相關的一段代碼輸入其中;

員工C則先用AI語音助手Naver Clova將自己的會議錄音轉成文字,再用ChatGPT幫他總結一下會議內容,做成摘要……

目前,三星內部已經采取“緊急措施”,限制與ChatGPT溝通的話題每個內容上傳量不超過1024 bytes,還透露出要開發公司內部AI的意向。

然而,同樣值得註意的是,這些消息大多為韓國方面在跟進,OpenAI尚未回應。

不過,在OpenAI上周更新的數據使用說明中確實有提到,對於非API產品如ChatGPT、DALL-E,平臺確實會使用用戶數據來進一步提升模型效果。

如果是API類產品,則確定不會使用用戶提交的數據。


而讓ChatGPT上傳企業數據的事兒,並不止三星一傢公司員工幹過。

據統計,不少企業員工都正在將公司數據直接傳給ChatGPT,讓它幫忙處理。

Cyberhaven統計160萬名員工使用ChatGPT的情況,發現:

3.1%的打工人都會將企業內部數據直接輸入給ChatGPT分析。

Cyberhaven是一傢數據分析服務提供商,他們開發一個保護企業數據的方法,能幫助公司觀察和分析數據流向、實時解數據丟失原因。

他們發現,隨著ChatGPT的應用率越來越高,給它上傳企業數據的打工人數量也越來越多。

光是一天之內(3月14日),每10萬名員工就平均給ChatGPT發送5267次次企業數據:


那麼這其中又有多少敏感數據呢?

數據顯示,在員工直接發給ChatGPT的企業數據中,有11%都是敏感數據。

例如在一周內,10萬名員工給ChatGPT上傳199份機密文件、173份客戶數據和159次源代碼。


上傳數據是一回事,並不意味著它就會被使用,但數據安全又是另一回事。

ChatGPT最近爆出的泄漏用戶信息bug,讓不少企業開始重視這一點。

ChatGPT曾出過數據泄漏bug

實際上,為規避數據泄露風險,已有不少企業明確禁止員工使用ChatGPT。

如軟銀、日立、富士通、摩根大通等都發出相關通知。

同樣是芯片大廠的臺積電也在幾天前表示,員工使用ChatGPT時不準泄露公司專屬信息,註意個人隱私。

還有意大利個人數據保護局也宣佈,禁止使用聊天機器人ChatGPT,並限制開發這一平臺的OpenAI公司處理意大利用戶信息。

之所以會引來這些恐慌,一部分原因還得從ChatGPT自身說起。

3月末,ChatGPT被曝出現bug會導致用戶對話數據、支付信息丟失泄露

這一度導致ChatGPT短暫關閉。

OpenAI的回應中表示,這一漏洞可能導致1.2%ChatGPT Plus用戶的支付信息(包含用戶姓名、郵件、支付地址、信用卡號最後四位及信用卡過期時間)被暴露約9個小時。

漏洞還導致用戶的對話主題及記錄能被別人看到,如果裡面包含隱私信息,則有泄露的風險。

OpenAI CEO山姆·奧特曼隨即回應,這個bug來自開源庫,他們使用這個庫在其服務器中緩存用戶信息。


目前具體受到漏洞影響的用戶數量還無法明確,OpenAI表示已通知受影響用戶其支付信息或被曝光。

但這種回應無法讓各方滿意。如意大利個人數據保護局就提出,OpenAI沒有就收集處理用戶信息進行告知,缺乏收集和存儲個人信息的法律依據。

由此要求OpenAI公司必須在20天內通過其在歐洲的代表,通報公司執行保護局要求而采取的措施,否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。

如今,隨著三星被曝因ChatGPT發生數據泄露,也引發進一步討論。

比如不少人在使用ChatGPT時,確實沒有很強的隱私保護意識。


以及如今隨著越來越多企業使用ChatGPT,相關使用規則也需要進一步明確。內置ChatGPT的微軟產品,會不會也要禁止?


對此,你怎麼看呢?


相關推薦

2023-04-19

以色列網絡安全公司Team8的最新報告顯示,使用ChatGPT等生成式人工智能的企業可能會因此泄露客戶信息和商業機密。該報告稱,新型人工智能聊天機器人和協作工具的廣泛普及,可能會令一些公司面臨數據泄露和法律風險。他們

2023-04-01

ChatGPT這樣的生成式AI對提高工作效率很有幫助,現在各大企業都在考慮接入ChatGPT,三星自然也沒錯過,然而ChatGPT用於工作還有很多問題沒解決,三星剛用不到20天,就發生芯片機密泄密的事件。據韓國媒體報道,三星電子引入Ch

2023-04-01

ChatGPT這樣的生成式AI對提高工作效率很有幫助,現在各大企業都在考慮接入ChatGPT,三星自然也沒錯過,然而ChatGPT用於工作還有很多問題沒解決,三星剛用不到20天,就發生芯片機密泄密的事件。據韓國媒體報道,三星電子引入Ch

2023-11-10

於安全考慮,擔心公司機密數據泄露,已經禁止員工使用ChatGPT。微軟表示,雖然微軟確實投資OpenAI,ChatGPT也有內置的保護措施來防止不當使用,但該網站仍然是第三方外部服務。微軟建議員工使用自傢的Bing Chat工具,Bing Chat於2

2023-03-10

國國傢安保室長金聖翰已到訪美國。韓國芯片領域的巨頭三星電子等企業高管也在近期訪問美國,就《芯片法案》相關措施進行磋商,希望尋求豁免。白宮公佈的消息顯示,韓國總統尹錫悅將於4月26日赴美進行國事訪問。韓國擔

2023-01-09

須通過荷蘭工作,這還需要做很多工作。”據悉,韓國是三星電子和SK海力士兩傢世界領先的內存芯片制造商的所在地,而荷蘭有世界上最先進的芯片光刻系統的制造商ASML,日本則為芯片制造商提供必要的機械和材料,在該行業

2024-01-31

31日消息,據外媒報道,OpenAI旗下的人工智能聊天機器人ChatGPT再次被曝安全漏洞。據悉,ChatGPT是OpenAI於2022年11月30日推出的一種新型AI聊天機器人工具,可根據用戶的要求快速生成文章、故事、歌詞、散文、笑話,甚至代碼,並

2023-08-10

的企業目前正在禁止或考慮禁止在工作場所使用OpenAI旗下ChatGPT等生成式人工智能(AI)應用。其中,61%的企業表示,這些禁令是長期或永久性的,主要是出於對數據安全、隱私和企業聲譽的風險考慮。83%的企業還表示,擔心不安

2022-09-22

道,軟銀集團董事長孫正義計劃10月訪問首爾,討論ARM和三星電子之間的潛在夥伴關系。“彭博社”報道截圖據韓國媒體報道,三星電子副會長李在鎔21日表示,孫正義將於10月到訪,期間可能向三星“提出提案”;在8月獲韓國

2023-06-01

蘋果公司內部文件顯示,禁止員工使用ChatGPT及類似產品,原因是擔心這些AI會泄漏敏感信息。而三星、摩根大通、花旗集團等多傢公司也已宣佈禁用ChatGPT。此外,OpenAI也承認ChatGPT存在軟件漏洞問題,不保證用戶隱私,並在4月為

2023-04-19

年初以來,圍繞ChatGPT等最新的人工智能聊天工具的投資熱潮,可謂“一浪高過一浪”。不過隨之產生的安全性、透明度和公平性等監管話題,也開始越來越受到人們的高度重視。雖然當前人工智能技術正掀起新一輪技術革命,

2022-09-10

,英特爾目前正大力佈局芯片代工業務,該領域臺積電與三星處於領先梯隊,英特爾所能提供的代工工藝平臺遠遠落後於前兩者。一位在美國的消息人士向該報表示,美國芯片法案正是著眼於增加國內代工需求,幫助英特爾不斷

2023-11-18

三星向其英國客戶通報影響該公司系統近一年的安全漏洞。犯罪分子能夠訪問客戶的個人數據,但三星並未提供除此聲明之外的更多細節。2019年7月1日至2020年6月30日期間,通過該公司官方電子商務商店購買三星設備的英國客戶

2023-03-12

信息泄露和其他問題,軟銀、日立等日本公司已開始限制ChatGPT等交互式人工智能服務在商業運作中的使用。軟銀上月就使用ChatGPT和其他商業應用警告員工稱:“不要輸入公司身份信息或機密數據。”盡管軟銀已經出臺使用交互