美一父親拍攝的幼兒腹股溝感染照被Google AI標記為兒童性虐待材料


據《紐約時報》報道,一位關心此事的父親稱,在用他的Android智能手機拍攝他的幼兒腹股溝感染的照片後,Google將這些圖片標記為兒童性虐待材料(CSAM)。該公司關閉他的賬戶並向美國傢失蹤和被剝削兒童中心(NCMEC)提交一份報告,這引發警方的調查。

這一情況凸顯在潛在虐待和無辜照片成為用戶數字圖書館的一部分後試圖區分兩者之間的復雜情況。

去年,當蘋果宣佈其兒童安全(Child Safety)計劃時,人們對模糊哪些內容應被視為隱私的後果表示關切。作為該計劃的一部分,蘋果將在蘋果設備上的圖像上傳到iCloud之前進行本地掃描,然後將這些圖像跟NCMEC的已知CSAM哈希數據庫進行匹配。如果發現足夠多的匹配,人類管理員就會審查這些內容,如果內容包含CSAM則就會鎖定用戶的賬戶。

非營利性數字權利--組織電子前沿基金會(EFF)抨擊蘋果的計劃,稱它可能會為用戶的私人生活打開一個後門,“它代表所有iCloud照片用戶隱私的減少而不是改進”。

蘋果最終擱置存儲圖像掃描部分,但隨著iOS 15.2的推出,它繼續在傢庭共享計劃中推出一個兒童賬戶的可選功能。如果父母選擇加入,那麼在孩子的賬戶上,信息應用會分析圖像附件並確定照片是否包含裸體與此同時保持信息的端到端加密。如果檢測到裸體,那麼它將模糊圖像、為孩子顯示一個警告並向他們提供旨在幫助在線安全的資源。

《紐約時報》強調的主要事件發生在2021年2月,當時由於COVID-19大流行,一些醫生辦公室仍在關閉。正如《紐約時報》所指出的,Mark(他的姓氏未被透露)註意到他孩子的生殖器區域有腫脹,並在一名護士的要求下在視頻咨詢前發送該問題的圖像。醫生最終開出治愈感染的抗生素。

據《紐約時報》報道,馬克在拍攝這些照片僅兩天後就收到Google的通知,稱他的賬戶被鎖定,原因是含有害內容,這被認為“嚴重違反Google的政策,並可能是非法的”。

像許多互聯網公司一樣,包括Facebook、Twitter和Reddit,Google已經使用微軟的PhotoDNA進行哈希匹配以掃描上傳的圖片並檢測跟已知CSAM的匹配。

2018年,Google宣佈推出其內容安全API人工智能工具包,它可以主動識別從未見過的CSAM圖像以便對其進行審查,如果確認為CSAM則盡快刪除並報告。它將該工具用於自己的服務,並跟YouTube工程師開發的視頻目標CSAI Match哈希匹配解決方案一起,同時也提供給其他人使用。

一位Google發言人告訴《紐約時報》,Google隻在用戶采取肯定行動時掃描用戶的個人圖像,這顯然包括將他們的照片備份到Google照片。該傢媒體指出,當Google標記出剝削性圖片時,那麼聯邦法律要求Google將潛在的犯罪者報告給NCMEC的CyberTipLine。2021年,Google向NCMEC的CyberTipLine報告621,583起CSAM案件,而NCMEC向當局提醒4260名潛在受害者,《紐約時報》稱這個名單包括Mark的兒子。

據報道,Mark最終失去對他的電子郵件、聯系人、照片乃至他的電話號碼的訪問權--因為他使用Google Fi的移動服務。Mark立即試圖對Google的決定提出上訴,但Google拒絕他的請求。Mark居住的舊金山警察局則在2021年12月對馬克展開調查並掌握他在Google存儲的所有信息。《紐約時報》指出,負責此案的調查員最終發現,該事件不符合犯罪的要素且沒有發生犯罪。

Google發言人Christa Muldoon在給The Verge的電子郵件聲明中說道:“兒童性虐待材料(CSAM)是令人憎惡的,我們致力於防止它在我們的平臺上傳播。我們遵循美國法律來定義什麼是CSAM並使用哈希匹配技術和人工智能的組合來識別它並從我們的平臺上刪除它。此外,我們的兒童安全專傢團隊審查標記的內容是否準確並跟兒科醫生協商,以此來幫助確保我們能夠識別用戶可能尋求醫療建議的情況。”

雖然保護兒童免受虐待的重要性毋庸置疑,但批評者認為,掃描用戶照片的做法不合理地侵犯他們的隱私。EFF的技術項目主任Jon Callas在給《紐約時報》的一份聲明中稱Google的做法是侵入性的。“這正是我們都擔心的惡夢。他們要掃描我的傢庭相冊,然後我就會遇到麻煩,”Callas這樣跟《紐約時報》說道。


相關推薦

2022-08-24

,它們可能會對被錯誤指控的人產生毀滅性的影響。一位父親的情況就是如此,他的Google賬戶在該公司錯誤地將他剛學會走路的兒子的腹股溝的醫療圖像標記為兒童色情後仍被關閉。根據《紐約時報》的報道,這位名叫Mark的父

2024-04-24

視,表明對道德創新和社會最弱勢群體福祉的共同承諾。Google在博文中提到的兒童安全承諾與微軟 在其人工智能服務方面所做的一些承諾如出一轍。Google補充說,它有自己的團隊專門負責查找顯示兒童可能面臨危險的內容,此

2022-08-06

,Teleperformance公司向員工展示圖片和視頻,作為在TikTok上標記內容的例子,同時對這些內容的訪問權進行快速和寬松的處理。一名員工說,她聯系聯邦調查局,詢問這種做法是否構成傳播CSAM的犯罪行為,盡管不清楚是否已經立

2023-11-24

# 劃重點1. 🌐 互聯網上已存在的兒童性虐待圖像問題可能進一步惡化,監管機構敦促對生成深度偽造照片的人工智能工具進行控制。2. 🤖 以英國為基地的互聯網觀察基金(IWF)在一份報告中敦促政府和技術提供商在人工智能生

2022-10-12

真正禁止成人內容,但它要求發佈此類內容的人將該內容標記為敏感內容並改變賬戶設置以反映敏感內容的發佈。另外,Twitter也不允許用戶在頭像、個人資料圖片上或通過實時視頻發佈成人內容--這並不違反其規則。該公司表示

2022-07-06

能要求WhatsApp等高度加密的消息服務采用尖端技術來發現兒童性虐待材料,否則會面臨巨額罰款。在線安全法案的修正案將要求科技公司“盡最大努力”部署新技術,以識別和刪除兒童性虐待和剝削內容(CSAE)。圖片來自於 PxHere就

2022-08-24

讓他沒想到的是,這張照片可給他惹大禍。/ 愛子心切的父親,算法眼中的“戀童癖” /在照片發出的兩天後,馬克突然接到Google的一紙通知。由於涉嫌儲存和傳播有害內容,嚴重違反用戶協議和公司政策,並且涉嫌違法,他

2022-08-14

確保“每年少於一萬億分之一的機會”的賬戶被系統錯誤標記,另外還有人工審查標記的賬戶。蘋果的計劃受到廣泛的個人和組織的批評,這當中包括安全研究人員、電子前沿基金會(EFF)、政治傢、政策團體、大學研究人員甚至

2024-02-24

名度,從而使其獲得品牌的折扣和經濟獎勵,一些公司會為兒童相關具有影響力的賬號的單篇帖子支付 3000 美元,而通過包月則可以獲得六位數的收入。Meta 公司員工為解決這一問題而提出的建議,如要求出售兒童訂閱服務的賬

2022-07-01

女孩拍攝的是一段王八爬上岸的畫面。據報道,小女孩的父親是一名攝影工作者,廣告導演。他提到,女兒第一次用攝影機拍作業是6月25日,看著自己做攝影工作,她耳濡目染就學會操作瞭,以後打算培養女兒成為小小攝影師,

2024-05-08

kburn,共和黨-南卡羅來納州)提出一項兩黨法案,以保護兒童免受網絡性剝削。拜登總統於本周二正式簽署已被兩院通過的《報告法案》,使其成為法律。這標志著網站和社交媒體平臺首次有法律義務向國傢失蹤與被剝削兒童中

2023-12-02

天發表的一篇博文中表示,它正在擴展和更新其旨在保護兒童的兒童安全功能,這是在有關其平臺如何推薦兒童性內容的報道正堆積如山的背景下的最新進展。幾個月來,《華爾街日報》詳細報道 Instagram 和 Facebook 如何向用戶提

2024-02-08

士不滿,昨日晚間,梅西賬號發佈微博稱:“很遺憾因為腹股溝有傷沒能在香港站的友誼賽中出場,我的傷處發腫並有痛感。”然而梅西今天在日本行比賽的第60分鐘替補登場,過人、射門狀態非常不錯,網友對此嘲諷道:“醫

2022-08-09

Google已經為其鼓勵幼兒練習閱讀的ReadAlong應用推出一個網站。該網站作為公共測試版推出,可跟桌面和Android上的Chrome、Firefox和Edge瀏覽器配合使用,對iOS和Safari等更多瀏覽器的支持即將到來。該網站的概念跟應用相似:兒童可以