Instagram終於決定打造可自動攔截冒犯性內容的私信圖片過濾器


為盡力保護Instagram用戶免遭平臺上泛濫的私密照請求,母公司Meta剛剛向外媒表示,在應用團隊初步研究之後,Instagram正在開發相關圖像過濾器。可知作為一款控件,Instagram用戶可選啟用該工具,以保護自己免受此類騷擾消息的影響。

這傢科技巨頭將這些控件比作“隱藏詞”(Hidden Words)功能,以幫助用戶自動過濾包含冒犯性內容的直接消息請求。

不過 Meta 強調稱,該技術並不涉及允許 Meta 查看實際消息、或與第三方共享。

該公司發言人 Liz Fernandez 表示:“我們正在與專傢密切合作,以確保這些新功能可保護人們的隱私、同時賦予其掌控消息接收的能力”。

目前看來,Meta 的測試進展相當順利,且該公司會在接下來的幾周內披露有關新功能的更多細節。

今年早些時候,英國非盈利組織“范數字仇恨中心”在一份報告中指出 —— Instagram 的官方工具,未能對發送給知名女性用戶、基於圖像的 90% 的侮辱性私信,采取切實有效的行動。

這些冒犯性內容大多由男用戶發送的色情圖片組成,即使“隱藏詞”系統也無法做到徹底過濾到“碧池”之類的臟話。

此外去年,皮尤研究中心在一份報告中提到 —— 在 35 歲以下的女用戶群體中,33% 都曾遭遇過線上性騷擾。

好消息是,若英國議會通過新法案,在網上向陌生人(通常為異性)發送冒犯性的騷擾信息,也將構成刑事犯罪。

遺憾的是,這類行為尚未被美國大部分地區視作犯罪行為 —— 即便一些專傢認為它可能和當面的性虐待一樣具有心理破壞性,但德克薩斯州還是隻在 2019 年將之視作一項輕罪。


相關推薦

2022-10-21

Meta公司推出新的方法,以保護人們不在Instagram上看到該服務被濫用,Instagram是該公司的照片和短視頻分享應用程序。這些新功能更多是對平臺保護措施的改進,而不是全新的功能。去年,Meta公司在Instagram中引入增強的屏蔽機制

2022-07-14

Instagram已經正式開始測試其新的創作者市場(creatormarketplace),這是一個旨在幫助品牌發現和聯系創作者的合作和活動的中心。該市場目前隻對美國的品牌進行邀請。被邀請進入市場的品牌可以使用Meta Business Suite的桌面體驗,

2022-09-21

圖。這是繼Newgrounds、PurplePort和FurAffinity等網站做出類似決定後,最新也是最大的用戶生成內容平臺出臺此類禁令。Getty圖片社首席執行官克雷格-彼得斯(Craig Peters)表示,該禁令是出於對人工智能生成的內容的合法性的擔憂,

2024-02-28

實現 Al 浪潮的絕佳跳板。讓我們專註於最重要的事情:打造值得用戶信賴的有用產品。

2023-01-17

傢開通後可以在售後詳情頁面進行物流攔截,攔截成功後可自動同意退款,可以提升商傢的售後處理效率。據介紹,攔截物流是指商品已發貨,消費者未簽收且申請退款時,商傢可以使用該功能迅速地把在途的商品在派件前進行

2023-02-03

絕上架 App Store。但昨天,情況發生重大變化,Damus 應用終於獲得批準。Jack Dorsey 激動地聲稱,Damus 在 App Store 上的首次亮相是“開放協議的一次裡程碑”,代表著不受技術巨頭操縱的新一代社交工具已經開始落地……Nostr 甫一上

2022-10-13

,微軟在2021年推出AzureAI。通過該平臺為語言翻譯和文本自動完成等應用程序,AzureAI提供對OpenAIAPI的企業定制訪問。今年5月,該公司通過微調帶來服務擴展。現在,微軟又為部分AzureOpenAI服務客戶,引入對DALL-E2的限量邀請訪問

2023-11-08

改的潛在誤導性內容時進行披露。新規則適用於Facebook和Instagram上的廣告,這些廣告包含"逼真"的圖片、視頻或音頻,虛假地顯示某人做他們從未做過的事,或想象真實事件的發展與現實不同。描述逼真的虛假

2023-02-08

行模糊處理,這些結果包括色情、暴力和血腥等性方面的內容。Google指出,用戶可以選擇在任何時候調整這一設置。在這次擴展之前,對於18歲以下的登錄用戶,該過濾器已經默認開啟。一旦該設置成為默認值,Google就會通知你

2022-08-04

職。然而屋漏偏逢連夜雨:就連公司旗下最受歡迎的產品Instagram,都被忠實的網紅用戶和普通網友罵個狗血淋頭……文/杜晨最近,很多用戶都發現Instagram改版,變成一種“既熟悉又陌生”的樣子:一個翻版的TikTok。為推廣Reels短

2023-01-13

p;quot;顛覆互聯網",導致廣泛的審查制度和攻擊性內容的擴散。在提交給高等法院的一份新文件中,Google表示,縮減責任保護可能導致互聯網巨頭封鎖更多潛在的攻擊性內容,包括有爭議的政治言論,同時也導致較小的

2023-12-02

景下的最新進展。幾個月來,《華爾街日報》詳細報道 Instagram 和 Facebook 如何向用戶提供與兒童有關的不當和性內容。今年 6 月,一篇報道詳細描述 Instagram 如何將買賣兒童性虐待材料(CSAM)的賬戶網絡連接起來,並通過其推薦

2022-07-16

白的頁面。慶幸的是,太平洋時間當天下午 15:25,Google 終於正式修復相關問題。雖然 Google 官方沒有表態,但不少人推測這隻是一個很容易被糾正的過濾器 bug 。

2022-09-29

發佈持謹慎態度。專傢指出,若這項技術被濫用,或導致冒犯性的色情騷擾、錯誤宣傳、或帶有偏見等破壞性後果。原因是文本到圖像機器學習系統,是通過從互聯網上抓取的大量圖像數據集展開的訓練。比如讓 AI 畫出一張 CEO