當人們試圖為生成式人工智能找到更多的用途時,Google計劃將人工智能應用於網絡安全領域,讓威脅報告更容易閱讀。Google在一篇博客文章中寫道,它的新網絡安全產品"Google威脅情報"將把其Mandiant網絡安全部門和VirusTotal威脅情報部門的工作與Gemini人工智能模型結合起來。
新產品使用 Gemini 1.5 Pro 大型語言模型,Google稱該模型縮短惡意軟件攻擊逆向工程所需的時間。該公司稱,今年 2 月發佈的 Gemini 1.5 Pro 隻用 34 秒就分析WannaCry 病毒(2017 年勒索軟件攻擊,導致全球醫院、公司和其他組織陷入癱瘓)的代碼,並識別出一個殺毒開關,這令人印象深刻,但也不足為奇,因為大語言模型向來擅長閱讀和編寫代碼。
不過,Gemini 在威脅領域的另一個可能用途是將威脅報告總結為威脅情報內部的自然語言,這樣公司就可以評估潛在攻擊可能對其造成的影響,或者換句話說,這樣公司就不會對威脅反應過度或反應不足。
Google表示,"威脅情報"還擁有一個龐大的信息網絡,可在攻擊發生前監控潛在威脅。它可以讓用戶看到網絡安全的全貌,並優先關註哪些方面。Mandiant 提供監控潛在惡意群組的人工專傢和與公司合作阻止攻擊的顧問。VirusTotal 社區也會定期發佈威脅指標。
2022 年,Google收購揭露 2020 年 SolarWinds針對美國聯邦政府的網絡攻擊的網絡安全公司Mandiant。
該公司還計劃利用 Mandiant 的專傢來評估人工智能項目的安全漏洞。通過Google的安全人工智能框架,Mandiant 將測試人工智能模型的防禦能力,並幫助開展紅隊工作。雖然人工智能模型可以幫助總結威脅和逆向工程惡意軟件攻擊,但模型本身有時也會成為惡意行為者的獵物。這些威脅有時包括"數據中毒",即在人工智能模型抓取的數據中添加不良代碼,使模型無法響應特定提示。
Google並不是唯一一傢將人工智能與網絡安全相結合的公司。微軟推出由 GPT-4 和微軟專門針對網絡安全的人工智能模型支持的Copilot for Security,讓網絡安全專業人員可以提出有關威脅的問題。 雖然這兩者是否真的是生成式人工智能的良好用例還有待觀察,但能看到它除用於拍攝白衣翩翩的教皇的照片外還能用於其他方面,那還是很不錯的。