NVIDIA推出安全“護欄”:限制人工智能“一本正經的胡扯”


快科技4月26日消息,隨著ChatGPT等生成式人工智能的出現,越來越多的用戶在享受便利的同時發現,AI經常會出現一本正經的胡扯”的現象,有時甚至會有一些讓人細思極恐的發言。

近日,NVIDIA推出一款名為NeMo Guardrails的軟件,它能夠為人工智能模型設置安全護欄”,避免AI輸出一些不良的內容。

據悉,NeMo Guardrails的本質是一個位於用戶和模型之間的軟件層,它能夠在模型輸出不良內容前進行攔截和修改。

比如,如果用戶需要一個針對特定方向的AI,就可以利用該軟件,來限制AI至輸出對應方面的內容,而不談論不相關的話題。

此外,該軟件還能夠利用一個AI模型檢測另一個AI模型,如果兩個模型輸出的答案不一致,軟件將直接輸出我不知道”的回答。

通過這種方式,人工智能胡說八道”的情況會得到有效降低,一些可能存在危險的回復也能夠被直接攔截。


相關推薦

2023-04-25

對於所有的大肆宣傳,像OpenAI的GPT-4這樣的文本生成人工智能模型會犯很多錯誤--其中一些是有害的。這些模型背後的公司說,他們正在采取措施解決這些問題,比如實施過濾器和人類版主團隊來糾正被標記的問題。但沒有一個

2023-03-24

部網站顯示,在527億美元的芯片補貼流程中,增加“國傢安全護欄條款”(nationalsecurityguardrails),限制受惠芯片廠在“受關註國傢”(foreigncountriesofconcern)增產和科研合作。該條款目前在公開征集意見中。對此,中國外交部例

2024-04-08

。38 歲的司機沃爾特·黃 (Walter Huang) 死亡。美國國傢運輸安全委員會後來的一項調查指出,特斯拉未能限制自動駕駛儀在此類情況下的使用是一個促成因素:該公司已向國傢運輸安全委員會承認,自動駕駛儀是為具有清晰車道標

2023-11-16

訊趕在美國實施出口限制之前建立"中國最大的人工智能芯片庫存之一"。這傢中國科技巨頭的總裁馬劉熾平在一次財報電話會議上告訴分析師,騰訊已經提前從英偉達(NVIDIA)購買組件,使其能夠在至少&amp

2024-02-21

,兩黨組建一個特別工作組,探討通過立法來解決人們對人工智能(AI)的擔憂。傑弗裡斯表示:“AI的崛起也帶來一系列的挑戰,必須設置某些護欄來保護美國人民。”該特別工作組共有24名成員,由兩位加州議員牽頭,分別是

2024-03-05

據知情人士透露AMD公司在試圖銷售專為中國市場定制的人工智能芯片時遇到美國政府的障礙,這是華盛頓打擊向中國出口先進技術的一部分。據這些不願透露姓名的人士稱,AMD曾希望從美國商務部開出綠燈向中國客戶銷售人工智

2023-12-04

取"更嚴格"的執行措施來阻止中國的人工智能芯片銷售和半導體開發。美國政府將竭盡全力限制尖端人工智能芯片和技術進入中國。在裡根國防論壇上,美國商務部長吉娜·雷蒙多(Gina Raimondo)聲稱,她的部

2023-02-14

讓以往觀點相悖的著名學者,紐約大學教授GaryMarcus和Meta人工智能主管、圖靈獎得主YannLeCun罕見的有共同語言。近日,Gary Marcus 撰文介紹 ChatGPT 應用無法避免的問題:道德和中立性。這也許是預訓練大模型目前面臨的最大挑戰。

2022-07-27

當中的“芯片法案”,為響應業界對於“芯片法案”盡快推出的呼聲(此前有超過100位CEO簽署聯名信,呼籲美國會盡快通過“芯片法案”),美國兩院於是將“芯片法案”及與科技相關的部分獨立出來,並進行相應的修訂成“CHI

2022-08-31

加利福尼亞州已經通過一項兒童網絡安全法案,如果該法案成為法律那麼AppStore應用將有義務提供針對年輕用戶的安全功能。隨著澳大利亞政府要求提供有關兒童安全的細節及蘋果提出保障措施的不可避免,加州一直在辯論一項

2023-12-06

向中國出口高端芯片規定的新產品。這傢總部位於加州的人工智能芯片設計公司占據中國70億美元人工智能芯片市場90%以上的份額,但分析師表示,美國收緊芯片出口限制可能會為中國競爭對手創造占領中國市場的機會。"NVID

2024-06-10

攝。挪威政府出於對自然的尊重,沒有在佈道巖安裝任何安全網,這意味著遊客需自行承擔安全風險。

2023-12-01

級運算芯片結合GraceCPU和HopperGPU芯片,可以充分利用整個人工智能和數據中心生態系統。NVIDIA希望通過將CPU+GPU整合到單一設計中,為客戶提供一整套方案,以專註於行業中不同類型的工作負載。Grace采用的是雙芯片封裝,有GPU+CPU

2022-10-15

NVIDIA在RTX3000顯卡上限制Ethereum挖礦的軟件限制已經正式結束,因為它現在已經無關緊要。周五,NVIDIA發言人證實,在用戶開始報告Windows和Linux的最新NVIDIA驅動程序版本中沒有挖礦限制後,該公司已經刪除"LiteHashRate&am