美情報界希望開發出可揭示匿名作者身份的AI


外媒報道稱,美國情報界已經啟動一項AI開發計劃,希望能夠有效地推斷出匿名寫手的身份、或通過巧妙改變文字來偽裝其身份。美國國傢情報局局長辦公室ODNI表示,在情報高級研究項目活動(IARPA)基礎結構上使用的“人類可解文本歸因”(HIATUS)計劃,旨在構建可執行“語言指紋識別”的軟件。

HIATUS_SlickSheet_05182022.png

IARPA 在一份 PDF 文檔中指出:“每一天,人類和機器都會生成大量的文本內容,而其中就包含可揭示作者身份的語言特征”。

ONDI 表示,有正確的模型,IARPA 相信它能夠識別不同樣本中的作者風格一致性。

當然這項技術也能夠通過修飾語言模式,使之以新手能夠解釋的方式來完成相關工作,但 HIATUS AI 必須是與語言無關的。

HIATUS 項目經理 Timothy Mckinnon 博士稱:

我們很有希望達成這一目標,為情報界提供急需的能力,並借助計算語言學和深度學習的最新進步,大幅擴展我們對人類語言演變的理解。

為開發強大的模型,HIATUS 將著重於對抗性 AI 研究 —— 作者與匿名文本,與問題是一體兩面。

IARPA 認為,歸因系統的評估,主要根據統一作者在大型收藏中匹配項目的能力。

而隱私系統的評估,則是根據阻止歸因系統的能力。

此外該機構表示,其計劃為 HIATUS AI 制定可解釋性的標準。

Timothy Mckinnon 補充道,HIATUS 正在從事的部分工作,是試圖揭開圍繞神經語言模型的某些未知因素。

他表示這些模型的運作良好,但其本質上仍是一個黑匣子,開發人員並不知曉它們是如何做出具體判斷的的。

理想情況下,系統會在我們執行時切實理解為何要這麼做,並且能夠驗證其沒有接收到虛假的東西、及其正在做哪些正確的事情。

若順利走到這一步,從打擊境外影響活動、到識別反情報風險,HIATUS 都有可能產生深遠的影響。

此外 HIATUS AI 能夠識別文本是否由機器生成、而不是真人創作出來的。

最後,在 IARPA 完成的研究中,約有 70% 會交給其它政府合作夥伴去實施 —— 前者隻負責技術的開發,而不會參與到具體的實施。

目前 HIATUS 研究項目已經開拔,但鑒於距離實驗結束還有 42 個月(三年半)的時間,所以不要指望這項技術會很快以完整形態出現。


相關推薦

2024-05-08

司部署一個完全脫離互聯網的人工智能生成模型,稱美國情報機構現在可以安全地利用這項強大的技術來分析絕密信息。美國公司的一位高管表示,這是大型語言模型首次完全脫離互聯網運行。包括OpenAI的ChatGPT在內的大多數人

2022-07-14

努力的一部分,其目的是對近年來獲得更多關註的持久的情報收集挑戰進行更多監督。據悉,它是由眾議員Mike Gallagher和Ruben Gallego提出。他們向五角大樓和情報官員施加壓力以要求他們更認真地對待這一問題並對國會和美國人民

2024-05-08

其變成一個出口可控的咽喉要道,還有待觀察。"美國情報界、智庫和學術界越來越擔心外國敵對勢力獲得先進人工智能能力所帶來的風險。研究人員指出,先進的人工智能模型可以提供有助於制造生物武器的信息。美國國土

2023-03-31

商的文件,據稱這些文件顯示該公司如何與俄羅斯軍事和情報機構合作,支持他們開展黑客行動,培訓特工,傳播虛假信息,以及掃描互聯網的漏洞。一位對烏克蘭戰爭感到憤怒的匿名吹哨人提供關於莫斯科IT咨詢機構NTC Vulkan的

2024-02-21

一直領導著美國國傢安全局的網絡安全局,與其他政府和情報界官員合作,在對民族國傢網絡威脅的擔憂與日俱增的情況下保護美國的關鍵基礎設施和其他重要資產。網絡安全局現二把手戴維-盧伯(David Luber)將接替他的職位。

2022-06-24

利用發電的細菌。來自賓漢姆頓大學的工程師們現在已經開發出一種包含三層不同細菌種類的生物電池,它們一起吸收陽光並產生電能。這個最新的生物電池來自賓漢姆頓大學教授Seokheun Choi的一長串項目,他多年來一直在試驗

2022-08-08

漏洞讓不良分子掌握不同賬戶所有者的數據庫,這對那些希望在平臺上保持身份未知的個人來說是個危險。“由於這個漏洞,如果有人向Twitter的系統提交電子郵件地址或電話號碼,Twitter的系統會告訴這個人所提交的電子郵件地

2023-12-08

和新西蘭同屬"五眼聯盟",旨在促進情報機構之間的合作與信息共享。堪培拉的代表目前正致力於通過一個新的雲平臺來加強這種合作,該平臺旨在改進數據共享並實現"即時"數據共享。澳

2022-10-08

來更多的復雜性。所謂的隱私保護2.0旨在解決歐洲對美國情報機構可能進行監控的擔憂。3月,在美國和歐盟原則上同意新框架後,白宮在一份概況介紹中說,美國 “承諾實施新的保障措施,以確保信號情報活動在追求確定的國

2023-07-16

的良性討論,知乎已在最新版本App中完成匿名功能下線的開發,並於近期提交各大應用商店審核,預計7月14日上線應用商店,匿名功能將在新舊版本App端及PC端正式下線。在公告中,知乎官方強調,知乎反對編造不實信息、惡意

2022-08-21

特最重要的特性之一。他堅持推特不應推行實名認證,並希望推特能夠成為人人可以暢所欲言的安全場所,讓用戶能夠在不會被暴露真實身份的前提下,自由地表達與分享。用戶認證增加隱私泄露風險面對馬斯克的步步緊逼,推

2022-09-28

俄羅斯總統普京26日簽署總統令,給予包括美國中央情報局前雇員、美國前防務承包商雇員愛德華·斯諾登在內的70多名外國人俄羅斯國籍。斯諾登稱,獲得俄羅斯國籍能讓他傢人的生活穩定下來。美國國務院方面則表示,斯諾登

2022-06-29

發更大規模的工具積極做準備,甚至得到瞭有深厚背景的情報機構的資助。有鑒於此,FBI 希望相關企業提高警惕,尤其在招募那些能夠訪問客戶 / 財務數據、企業 IT 數據庫或其它專有信息的職員時。

2022-10-22

斯的芯片設計師。為此,俄羅斯政府推出一項國傢計劃,希望2030 年開發28納米制程,希望靠著對外國芯片進行逆向工程,並培養當地半導體人才。不過,礙於國際制裁,美歐半導體設備商不能供應俄羅斯,若俄國推進28納米制程