OpenAI旗下的生成式AI機器人ChatGPT正紅得發紫,但其中不少漏洞也讓監管部門、投資者和用戶充滿擔憂。為解決其中的漏洞,4月11日周二,OpenAI宣佈,將公開懸賞200至2萬美元的賞金,以幫助該公司查找其人工智能系統中的錯誤,例如廣受歡迎的ChatGPT聊天機器人。
賞金的多少將按照用戶發現的bug的重要性來決定,如果想要得到2萬美元的賞金,那麼必須是公司認定的“特殊發現”。
該公司稱,它已經推出一個bug賞金計劃,人們可以通過該計劃報告他們在使用其人工智能產品時發現的弱點、漏洞或安全問題。這類做法在科技行業很常見,很多公司向用戶付費以報告錯誤或其他安全漏洞。OpenAI表示,它正在與bug賞金平臺Bugcrowd合作推出這一計劃。
該公司表示,推出該計劃的部分原因是因為它認為“透明度和協作”是發現其技術漏洞的關鍵。
OpenAI的安全主管Matthew Knight說:
這一舉措是我們致力於開發安全和先進人工智能的重要組成部分。在我們創造安全、可靠和值得信賴的技術和服務時,我們需要您的幫助。
這一行動並不完全令人驚訝。這傢總部位於舊金山的公司總裁兼聯合創始人Greg Brockman最近在社交媒體上提到,OpenAI一直在“考慮啟動賞金計劃”來檢測薄弱環節。
除OpenAI之外,微軟等大型科技公司長期以來都有bug賞金計劃。去年4月,微軟宣佈兩項新的懸賞計劃,在原本最高2萬美元的賞金基礎上,增加最高30%的額外賞金,使最高賞金達到2.6萬美元。微軟表示,他們希望通過這些新的賞金獎勵,鼓勵研究人員將重點放在對客戶隱私和安全具有最大潛在影響的漏洞上。不過,對於並不被認為是高影響的漏洞,微軟表示將仍能夠獲得一般獎勵計劃下的賞金,且也可以根據報告漏洞的嚴重程度與提交質量獲得更高的獎勵。
由於獎勵金額有人,甚至有人全職做起“bug獵人”。
有用戶則認為,OpenAI開始bug賞金計劃,和微軟提高對漏洞的懸賞力度是一樣的,側面證明這兩傢公司對發現和解決主要產品的高危漏洞已經力不從心,不得不依靠用戶來發現和解決問題。