英國或強制要求即時通訊軟件掃描兒童性虐待材料


根據最新修訂的英國數字安全立法,可能要求WhatsApp等高度加密的消息服務采用尖端技術來發現兒童性虐待材料,否則會面臨巨額罰款。在線安全法案的修正案將要求科技公司“盡最大努力”部署新技術,以識別和刪除兒童性虐待和剝削內容(CSAE)。

圖片來自於 PxHere

就在馬克·紮克伯格的 Facebook Messenger 和 Instagram 應用程序準備引入端到端加密之際,英國政府強烈反對,稱這些計劃“不可接受”。長期以來一直批評紮克伯格計劃的普裡·蒂帕特爾(Priti Patel)表示,法律的變化平衡保護兒童的需要,同時為在線用戶提供隱私。

內政大臣說:“兒童性虐待是令人作嘔的罪行。我們都必須努力確保不允許犯罪分子在網上猖獗,科技公司必須發揮自己的作用,承擔起保護我們孩子安全的責任。隱私和安全並不是相互排斥的——我們兩者都需要,而且我們可以兩者兼得,這就是本修正案所提供的”。

端到端加密就是確保隻有發送者和接收者可以查看其內容,這會阻止執法部門和技術平臺看到這些非法消息。不過官員們表示,該修正案並不是為阻止更多此類服務的推出,任何部署的技術都必須有效且相稱。

審查虐待兒童材料的私人信息已被證明是有爭議的,活動人士警告說會對用戶隱私產生負面影響。監督法案實施的通信監管機構可以考慮的一種有爭議的方法是客戶端掃描。

蘋果推遲引入該技術的計劃,該技術將涉及掃描用戶圖像以查找兒童性虐待材料,然後再將其上傳到雲端。該公司提議部署一種技術,當用戶選擇將照片上傳到雲端時,該技術可以將照片與已知的虐待兒童圖像進行比較。

根據提議的修正案,Ofcom 監管機構將能夠要求科技公司部署或開發新技術,以幫助發現濫用材料並阻止其傳播。該修正案收緊法案中的現有條款,該條款已經賦予 Ofcom 要求部署“認可技術”的權力。如果現有技術不適合他們的平臺,現在的變化將要求公司使用他們的“最大努力”來部署或開發“新”技術。

如果一傢公司未能采用該技術,Ofcom 有權處以最高 1800 萬英鎊或公司全球年營業額 10% 的罰款——以較高者為準。在線安全法案在經過國會議員委員會的審查後於下周返回議會,預計將在年底或 2023 年初成為法律。


相關推薦

2022-08-23

入端到端加密(E2EE)的計劃,而引發又一場政治風波。英國內政大臣PritiPatel在《每日電訊報》的一篇專欄文章中明確表示——若該公司在引入E2EE的同時忽略兒童安全問題,這將是一場“可笑的被判”(grotesquebetrayal)。除英國

2023-11-24

對生成深度偽造照片的人工智能工具進行控制。2. 🤖 以英國為基地的互聯網觀察基金(IWF)在一份報告中敦促政府和技術提供商在人工智能生成的兒童性虐待圖像泛濫之前迅速采取行動。3. 📉 報告揭示生成式人工智能系統的

2022-07-30

WhatsApp發表聲明說,它不會遵守英國《在線安全法案》規定的條例。WhatsApp的首席執行官WillCathcart告訴BBC,這傢重要的即時通信軟件公司不會因為任何政府命令而降低其安全性。《在線安全法案》旨在檢測合法但有害的活動、濫

2022-08-22

露)註意到他孩子的生殖器區域有腫脹,並在一名護士的要求下在視頻咨詢前發送該問題的圖像。醫生最終開出治愈感染的抗生素。據《紐約時報》報道,馬克在拍攝這些照片僅兩天後就收到Google的通知,稱他的賬戶被鎖定,原

2022-07-30

智能手機和即時通訊軟件的普及,大大的改變人們的通訊方式,就像以前1毛錢一條的手機短信,就早已被即時通訊軟件裡的信息功能所代替,而短信還在,卻淪落為用戶接收驗證碼和廣告的工具。而因為短信造就一個擁有數億

2022-08-06

三方審核機構的員工稱,該機構與TikTok及其他公司合作,要求他們審查一份被稱為DRR或TikTok審核標準的每日必讀的令人不安的電子表格。據稱,該電子表格包含違反TikTok準則的內容,包括“數百張”兒童裸體或受虐待的圖片。這

2022-06-23

北京時間6月22日消息,臉書母公司Meta稱,英國的在線安全立法“有不斷監控和審查人們私人信息的風險”,這增加瞭最近針對擬議法律提出的一長串投訴。據悉,全面的網絡安全法案正在議會通過,預計明年生效。政府預計其

2022-08-24

的。作為一名曾經從事過類似識別問題內容的AI工具的前軟件工程師,Mark認為一旦有人類內容管理員審查這些照片一切都會被清除。但他卻在12月因為“剝削兒童的視頻”被舊金山警察局調查。他被清除任何罪行,但Google仍沒有

2022-10-12

我驗證他們的年齡對於內容過濾功能來說是一個低標準。英國通信監管機構Ofcom最近發佈的一份報告表明,1/3的兒童在他們的社交媒體資料上謊報年齡以顯示18歲及以上。Twitter的敏感內容政策包括范圍廣泛的類別,包括成人內容

2023-02-21

安全功能最初於2021年底隻在美國推出,幾個月後擴展到英國、加拿大、澳大利亞和新西蘭。在過去幾個月內,它已經進一步擴展到法國、德國、意大利和西班牙。據蘋果公司稱,當該功能啟用時,含有裸體的照片將被模糊化,

2024-05-08

部門對兒童性剝削的緊急威脅進行認真徹底的調查,法律要求證據的保存時間更長,可長達一年,而不是隻有 90 天。由於人手不足和技術落後,國傢未成年人保護委員會在調查每年收到的數百萬份兒童性虐待報告時面臨挑戰。

2022-08-14

件中將信息應用功能擴展到澳大利亞、加拿大、新西蘭和英國。蘋果表示,其CSAM檢測系統在設計時考慮到用戶隱私。該系統將使用來自兒童安全組織的已知CSAM圖像哈希值數據庫進行設備上的匹配,蘋果則會將其轉化為不可讀的

2024-04-24

地使用,這引起人們對其可能被敵對分子和團體用來威脅兒童安全的擔憂。谷歌、Meta、OpenAI、微軟和亞馬遜等科技公司今天承諾,將對其人工智能訓練數據中的兒童性虐待材料(CSAM)進行審查,並在今後的模型中不再使用這些

2023-02-10

折射出QQ更深層次的困境:現在的QQ已經不能再被稱之為即時通訊軟件。年輕人“不用QQ”?在很多人的認知中,微信和QQ是互為競品的存在。但根據騰訊自己的調查報告,微信和QQ的作用其實早就出現差異。2019年5月,騰訊發佈《