微軟和OpenAI今天透露，黑客已經在使用ChatGPT等大型語言模型來完善和改進他們現有的網絡攻擊。在最新發佈的研究報告中，微軟和OpenAI發現俄羅斯、朝鮮、伊朗和中國支持的組織試圖利用ChatGPT等工具研究目標、改進腳本並幫助構建社交工程技術。
微軟在今天的一篇博文中說："網絡犯罪集團、民族國傢威脅行動者和其他對手正在探索和測試新出現的各種人工智能技術，試圖解它們對其行動的潛在價值以及它們可能需要規避的安全控制。"
與俄羅斯軍事情報機構有關聯的"鍶"組織被發現使用 LLMs"解衛星通信協議、雷達成像技術和特定技術參數"。該黑客組織也被稱為 APT28 或 Fancy Bear，在俄羅斯的烏克蘭戰爭期間一直很活躍，此前曾參與2016 年針對希拉裡-克林頓總統競選活動的攻擊。
據微軟稱，該小組還一直在使用 LLM 來幫助完成"基本的腳本任務，包括文件操作、數據選擇、正則表達式和多進程處理，以實現技術操作的自動化或優化"。
一個名為 Thallium 的朝鮮黑客組織一直在使用 LLMs 來研究公開報道的漏洞和目標組織，幫助完成基本的腳本任務，並為網絡釣魚活動起草內容。微軟稱，名為 Curium 的伊朗組織也一直在使用 LLMs 生成網絡釣魚電子郵件，甚至是用於躲避殺毒軟件檢測的代碼。與中國政府有關聯的黑客也在使用 LLMs 進行研究、編寫腳本、翻譯和改進現有工具。
人們一直擔心在網絡攻擊中使用人工智能，特別是出現像 WormGPT 和 FraudGPT 這樣的人工智能工具來協助創建惡意電子郵件和破解工具。美國國傢安全局的一位高級官員上個月也警告說，黑客正在利用人工智能讓他們的釣魚郵件看起來更有說服力。
微軟和 OpenAI 尚未發現任何使用 LLMs 的"重大攻擊"，但這兩傢公司已經關閉與這些黑客組織相關的所有賬戶和資產。微軟表示："與此同時，我們認為這是一項重要的研究，通過發佈來揭露我們觀察到的知名威脅行為者試圖采取的早期、漸進式行動，並與防禦者社區分享我們如何阻止和反擊這些行動的信息。"
雖然目前人工智能在網絡攻擊中的應用似乎還很有限，但微軟對未來的使用案例（如語音冒充）發出警告。"人工智能驅動的欺詐是另一個令人嚴重關切的問題。語音合成就是一個例子，三秒鐘的語音樣本就能訓練出一個聽起來像任何人的模型，即使是像語音郵件問候語這樣無害的東西，也可以用來獲得足夠的樣本。"
微軟的解決方案是利用人工智能來應對人工智能攻擊。"人工智能可以幫助攻擊者提高攻擊的復雜程度，而且他們有足夠的資源來應對。"微軟首席檢測分析經理霍馬-海蒂法（Homa Hayatyfar）說。"我們已經從微軟追蹤的 300 多個威脅行為體身上看到這一點，我們使用人工智能來保護、檢測和應對。"
微軟正在打造一款新的人工智能助手Security Copilot，專為網絡安全專業人士設計，用於識別漏洞並更好地理解每天通過網絡安全工具產生的大量信號和數據。在 Azure 雲遭受重大攻擊，甚至俄羅斯黑客監視微軟高管之後，這傢軟件巨頭也在全面整頓其軟件安全機制。
解更多：
https://www.microsoft.com/en-us/security/blog/2024/02/14/staying-ahead-of-threat-actors-in-the-age-of-ai/