TikTok第三方內容審核員稱公司在培訓期間向其展示兒童性虐待材料


《福佈斯》的一份報告對TikTok的審核團隊如何處理兒童性虐待材料(CSAM)提出質疑--稱其為非法照片和視頻提供廣泛而不安全的訪問權限。

一傢名為Teleperformance的第三方審核機構的員工稱,該機構與TikTok及其他公司合作,要求他們審查一份被稱為DRR或TikTok審核標準的每日必讀的令人不安的電子表格。據稱,該電子表格包含違反TikTok準則的內容,包括“數百張”兒童裸體或受虐待的圖片。這些員工說,TikTok和Teleperformance的數百人可以從辦公室內外獲取這些內容--這為更廣泛的泄漏打開大門。

Teleperformance向《福佈斯》否認向員工展示性虐待的內容,TikTok說其培訓材料有“嚴格的訪問控制,不包括CSAM的視覺例子”,盡管它沒有確認所有第三方供應商都符合這一標準。

員工們講述一個不同的故事,正如《福佈斯》所描述的,這是一個法律上很危險的故事。內容審核員經常被迫處理發佈在許多社交媒體平臺上的CSAM。但虐待兒童的圖像在美國是非法的,必須小心處理。公司應該向美國國傢失蹤和被剝削兒童中心(NCMEC)報告這些內容,然後將其保存90天,但盡量減少看到這些內容的人數。

這裡的指控遠遠超出這個限制。它們表明,Teleperformance公司向員工展示圖片和視頻,作為在TikTok上標記內容的例子,同時對這些內容的訪問權進行快速和寬松的處理。一名員工說,她聯系聯邦調查局,詢問這種做法是否構成傳播CSAM的犯罪行為,盡管不清楚是否已經立案。


相關推薦

2023-11-11

確保用戶遵守歐盟的在線內容規則,人數遠遠少於Google和TikTok。歐盟最近通過的《數字服務法案》(DSA)要求19傢大型網絡平臺和2傢大型網絡搜索引擎(其中包括Google、X、TikTok、蘋果、Meta和微軟)采取更多措施,處理平臺上的

2024-02-24

殺過多追隨者的賬戶被限制封殺賬戶的能力。相比之下,TikTok 告訴《華爾街日報》,它禁止在 TikTok 市場和通過其創作者貨幣化服務銷售未成年模特內容。《紐約時報》還強調該公司不充分的審核嘗試,並指出在該刊物 8 個月內

2024-04-24

被剝削兒童中心(NCMEC)的舉報熱線在處理大量 CSAM 報告內容時已顯得力不從心,而人工智能生成的 CSAM 圖片很快就使其不堪重負。這兩傢公司和其他公司與兩個團體合作,提出這些新的承諾。一個名為"Thorn",是一個致

2022-07-06

最大努力”部署新技術,以識別和刪除兒童性虐待和剝削內容(CSAE)。圖片來自於 PxHere就在馬克·紮克伯格的 Facebook Messenger 和 Instagram 應用程序準備引入端到端加密之際,英國政府強烈反對,稱這些計劃“不可接受”。長期以來

2023-11-24

統的黑暗面,該系統允許用戶用文字描述他們想要制作的內容,從電子郵件到小說藝術作品或視頻,然後由系統生成。如果不加以制止,深度偽造的兒童性虐待圖像可能會使調查人員陷入營救事實上是虛擬人物的困境。作惡者還

2022-08-22

蘋果宣佈其兒童安全(Child Safety)計劃時,人們對模糊哪些內容應被視為隱私的後果表示關切。作為該計劃的一部分,蘋果將在蘋果設備上的圖像上傳到iCloud之前進行本地掃描,然後將這些圖像跟NCMEC的已知CSAM哈希數據庫進行匹配

2022-08-24

括Gmail和Google Fi電話服務--已經被鎖定,原因是存在有害內容,這嚴重違反Google的政策並可能是非法的。作為一名曾經從事過類似識別問題內容的AI工具的前軟件工程師,Mark認為一旦有人類內容管理員審查這些照片一切都會被清

2022-06-24

據報道,美國許多社交媒體平臺雇傭瞭大批內容審核員,他們的使命就是刪除有害內容。這些審核員在刪帖時是否經常犯錯?實際的情況可能超出您的想象。在15個月之前,Meta(之前的Facebook)創辦瞭一個獨立的內容監管委員會

2023-12-02

兒童的兒童安全功能,這是在有關其平臺如何推薦兒童性內容的報道正堆積如山的背景下的最新進展。幾個月來,《華爾街日報》詳細報道 Instagram 和 Facebook 如何向用戶提供與兒童有關的不當和性內容。今年 6 月,一篇報道詳細

2024-02-28

2月28日消息,據內部消息人士和發給員工的備忘錄披露,TikTok近日對其管理團隊進行重大重組,多名高管被撤換。這些變動包括負責內容審核的信任與安全部門負責人的離任,並由首席執行官周受資深信的副手接管該部門業務。

2022-10-12

Twitter正在加強過濾敏感內容的工作,其通過要求用戶驗證他們的出生日期來防止18歲以下的用戶觀看不適當的材料。該公司表示,它正在慢慢推出一項限制敏感推文的功能,除非用戶的賬戶上附有出生日期且年齡已經超過18歲才

2022-06-23

人們避免在所謂的用戶對用戶服務中出現“合法但有害的內容”。Meta在當地時間周三公佈的書面證據中稱,這並沒有區分信息和公共社交媒體,可能意味著“掃描所有私人信息”,這增加瞭自3月以來公佈法案草案的一系列擔憂

2024-05-08

。根據新法律,故意忽視報告其網站上兒童性虐待材料的公司將被處以巨額罰款。以用戶數量超過 1 億的平臺為例,首次違規將被處以 85 萬美元的罰款。為確保執法部門對兒童性剝削的緊急威脅進行認真徹底的調查,法律要求

2022-10-08

的辦案經驗建議,網暴受害者在取證時最好通過公證處或第三方存證平臺進行證據存證保全。除傳統的公證,目前大部分互聯網存證平臺也都可以幫助受害人固定證據。“例如,杭州互聯網法院的電子證據平臺采用區塊鏈技術存