最近，包含露骨內容的流行歌星泰勒-斯威夫特（TaylorSwift）的深度偽造圖片充斥互聯網。一些報道稱，這些圖片是有人使用微軟Designer制作的。微軟官方表示沒有看到這方面的證據，但補充說已經對產品設計進行修改，"以加強我們的文本過濾提示，並解決濫用我們服務的問題"。
今天，微軟總裁佈拉德-史密斯（Brad Smith）在公司官方博客上發表一篇文章。雖然他沒有提到泰勒-斯威夫特（Taylor Swift）的深度偽造圖片，也沒有提到據稱在創建這些圖片時使用微軟 Designer，但史密斯表示，公司看到"壞人濫用這些新人工智能工具的現象正在迅速擴大"。
史密斯概述微軟將重點關註的六個具體領域，以打擊這類"濫用人工智能生成的內容"。首先是通過阻止特定文本提示、測試和快速禁止濫用這些工具的用戶等活動，幫助提高這些工具的安全使用。
微軟正在研究的另一個領域是幫助識別人工智能生成的內容。史密斯表示：我們已經在必應和 Copilot 的Microsoft Designer 圖像創建工具中使用出處技術，我們正在將媒體出處擴展到我們所有創建或處理圖像的工具中。公司正在研究未來的"水印和指紋技術"，並努力從 LinkedIn 等服務和 Xbox 等遊戲服務中刪除濫用人工智能的內容。
史密斯說，微軟還希望與科技行業的其他企業以及執法部門合作，共同打擊基於人工智能的深度偽造行為，希望與世界各國政府合作制定新的法律來禁止此類內容。
與此同時，微軟希望幫助教育公眾識別為欺騙人們而制作的深度偽造內容，這"需要新的公眾教育工具和計劃"，向他們展示哪些內容是真實的，哪些是虛假的。
博客全文翻譯如下：
每天，數以百萬計的人使用強大的人工智能生成工具來提升他們的創造力。在許多方面，人工智能將為我們所有人創造令人興奮的機會，讓新創意煥發生機。但是，隨著這些新工具從微軟和整個科技領域推向市場，我們必須采取新的措施，確保這些新技術不會被濫用。
技術發展史早已證明，創造力並不局限於懷有良好願望的人。不幸的是，工具也會變成武器，而這種模式正在重演。目前，我們正目睹壞人濫用這些新的人工智能工具，包括通過人工智能生成的視頻、音頻和圖像進行深度偽造的行為迅速擴張。這一趨勢對選舉、金融欺詐、非自願色情騷擾以及新一代網絡欺凌構成新的威脅。
我們需要緊急行動起來，解決所有這些問題。
令人鼓舞的是，作為一個行業，我們可以從鄰近領域的經驗中學到很多東西--在推進網絡安全、促進選舉安全、打擊暴力極端主義內容和保護兒童方面。作為一傢技術公司，我們致力於在六個重點領域采取強有力的綜合方法，保護人民和我們的社區：
強大的安全架構。我們致力於采用以設計安全為基礎的綜合技術方法。根據不同的場景，需要在人工智能平臺、模型和應用層面應用強大的安全架構。它包括持續的紅隊分析、先發制人的分類器、阻止濫用提示、自動測試以及快速禁止濫用系統的用戶等方面。它需要以強大而廣泛的數據分析為基礎。微軟已經建立完善的架構，並通過我們的《負責任的人工智能和數字安全標準》分享我們的學習成果，但隨著技術的發展，我們顯然需要在這些領域繼續創新。
持久的媒體出處和水印。這對於打擊視頻、圖像或音頻中的深度偽造至關重要。去年，我們在 Build 2023 大會上發佈媒體出處功能，該功能使用加密方法對人工智能生成的內容進行標記和簽名，並附帶有關其來源和歷史的元數據。微軟與其他領先公司一起，一直是驗證出處方法研發領域的領導者，包括作為原產地項目（Project Origin）和內容出處與真實性聯盟（Coalition for Content Provenance and Authenticity，C2PA）標準機構的共同創始人。就在上周，Google和 Meta 在支持 C2PA 方面邁出重要的一步，我們對此表示贊賞和稱贊。
我們已經在必應和 Copilot 中的Microsoft Designer圖像創建工具中使用出處技術，我們正在將媒體出處擴展到我們所有創建或處理圖像的工具中。我們還在積極探索有助於加強來源技術的水印和指紋技術。我們致力於不斷創新，幫助用戶快速確定圖像或視頻是否由人工智能生成或處理。
保護我們的服務免受辱罵內容和行為的侵害。我們致力於保護言論自由。但這不應該保護那些試圖偽造他人聲音以詐騙老年人錢財的個人。這不應延伸至篡改政治候選人的行為或言論以欺騙公眾的深度偽造行為。它也不應庇護網絡惡霸或未經同意的色情制品的傳播者。我們致力於識別並刪除我們托管的消費者服務（如 LinkedIn、我們的遊戲網絡和其他相關服務）中的此類欺騙性和濫用性內容。
跨行業以及與政府和民間社會的緊密合作。雖然每傢公司都要對自己的產品和服務負責，但經驗表明，當我們共同努力建立一個更安全的數字生態系統時，我們的工作往往會做得最好。我們致力於與技術領域的其他公司合作，包括在生成式人工智能和社交媒體領域。我們還致力於與民間團體積極合作，並與政府開展適當的合作。
在前進的道路上，我們將借鑒我們在"克賴斯特徹奇呼籲"中打擊暴力極端主義的經驗，通過數字犯罪部門與執法部門合作，以及通過"我們保護全球聯盟"和更廣泛的方式更好地保護兒童。我們致力於在整個技術部門並與其他利益相關團體一起采取新的舉措。
推動立法，保護人們免受技術濫用之害。顯然，其中一些新威脅需要制定新的法律和執法部門做出新的努力。我們期待獻計獻策，支持世界各國政府的新舉措，從而更好地保護人們的網絡安全，同時尊重保護言論自由和個人隱私等永恒的價值觀。
公眾意識和教育。最後，強大的國防需要公眾的充分知情。隨著21世紀第二季度的到來，大多數人都已認識到，不能相信在互聯網（或其他任何地方）上讀到的一切。好奇心和懷疑精神的完美結合是每個人的重要生活技能。
同樣，我們需要幫助人們認識到，不能輕易相信你看到的每一個視頻或聽到的每一個音頻。我們需要幫助人們學會如何辨別合法內容和虛假內容的區別，包括水印。這將需要新的公眾教育工具和計劃，包括與民間社會和全社會的領導人密切合作。
歸根結底，這一切都不容易。這需要我們每天付出艱苦但不可或缺的努力。但是，隻要我們共同致力於創新與合作，我們相信，我們一定能夠齊心協力，確保技術在保護公眾的能力方面保持領先。這或許比以往任何時候都更應該成為我們的集體目標。