如何刪除有害內容?Twitter新老板馬斯克需吸取Meta這些教訓


據報道,美國許多社交媒體平臺雇傭瞭大批內容審核員,他們的使命就是刪除有害內容。這些審核員在刪帖時是否經常犯錯?實際的情況可能超出您的想象。在15個月之前,Meta(之前的Facebook)創辦瞭一個獨立的內容監管委員會,委員會的使命是監督審核員們的工作。而在這15個月之內,該委員會就發現瞭130多個存在問題的刪帖決定。

在審查這些刪帖樣本案例之後,Meta公司得出瞭一個結論:內容審核員在執行公司政策時一共犯下瞭51次錯誤,換言之,內容審核員四成的刪帖工作出現瞭錯誤。

如果這些樣本能夠廣泛代表Meta平臺的用戶內容,則這意味著審核員被發現的錯誤隻是冰山一角。

就在本周,Meta內容監管委員會宣佈,在處理Facebook平臺和Instatram的用戶內容上,委員會一共接到瞭110萬次投訴。

網民對於刪帖行為的嚴重不滿,再加上審核員的錯誤判斷,這些事實似乎證明瞭美國億萬富豪馬斯克最近在收購Twitter網站時的一個觀點,那就是應該盡量減少對言論內容的審核控制。

馬斯克公開表示,之所以要收購Twitter,其中一個原因是要消除對於網絡言論的障礙(隻要這些內容合法)。不過,最近一段時間,馬斯克立場有所軟化,表示事情可能不想他想象的那麼簡單。

上個月,馬斯克表示,他將會刪除Twitter平臺上“對世界有破壞性”的帖子,與此同時,他也會用各種策略,比如限制某些推文的傳播范圍,暫時封禁某個用戶的賬號。

上周,馬斯克對Twitter員工也表示,將和平臺上騷擾其他用戶的不良行為做鬥爭。

各種跡象表明,在內容管理上,馬斯克將會面臨和Meta一樣的挑戰。

對於Facebook的東傢來說,網絡霸凌和騷擾信息的處置是用戶反映的最不滿意的兩個領域,占到瞭內容審核委員會所有投訴的三分之一。其他用戶不滿意的領域,還包括Meta對網絡仇恨言論以及煽動暴力內容的處置。

如果馬斯克對Twitter內容進行審核監管,而且還要防止引發用戶大規模抱怨,他可能要采取比Meta更嚴格的措施。

Meta讓一個外部獨立委員會來對審核員的刪帖行為做“馬後炮”式的決定,這相當於拱手放棄瞭平臺涉及到用戶體驗的一個重要方面。

當然,Meta的做法有利有弊,可以讓公司和一些刪帖爭議保持距離,通過讓外部獨立機構處理刪帖爭議,Meta相當於“外包瞭正義和良心”。

Meta的外包行為,也讓外界看到瞭處理刪帖糾紛的難度,如何對網民“語言和言論”執行公司的一條硬性規定,這頗具挑戰。

在內容審核委員會發佈的第一個報告中,委員會稱在前15個月中,他們一共隻處理瞭20宗糾紛,在14宗糾紛中,委員會修改瞭Meta審核員的刪帖決定。和委員會接到的海量投訴相比,這些處置的案例數量隻是九牛一毛。

對於Meta來說,公開某些刪帖爭議的處置細節也有一些好處,可以讓一部分炮轟社交媒體“審查言論”的批評聲“閉嘴”。要知道,在網絡平臺上,並不是非黑即白,還有灰色地帶。

這個獨立的審核監管委員會,也給Meta帶來瞭一些不適。委員會要求Meta提供更多有關刪帖過程的信息,另外在刪帖決定上必須向用戶保持更加透明。另外在Meta正在打造的元宇宙中,這個監管委員會也希望在內容審核政策方面獲得話語權。

獨立監管委員會的運作,可以讓Meta把精力放在重要工作上,Meta也可以對外表明:我們在回應外界的壓力和呼聲。這樣的監管委員會也可以消除另外一種聲音,那就是讓政府機構來監管網絡平臺的用戶內容。

從一個小樣本四成的差錯率,可以看出,內容審核工作的準確度不高。人類的言論內容本來就是模糊的,人類審核員自身的判斷也會犯錯誤,這使得言論監管政策執行起來很難。

如果馬斯克成功收購瞭Twitter,在內容監管和刪帖上,他可能需要吸取Meta的一些教訓。另外一方面,馬斯克一直不害怕成為網絡爭議風暴的主角,因此在監管全球網民言論方面,這位全球首富其實正盼著在媒體聚光燈下、發揮他個人的影響力。


相關推薦

2022-12-24

知情人士稱,Twitter公司在過去幾天裡刪除一項防自殺功能,該功能向查找特定內容的用戶推薦自殺預防熱線和其他安全資源。他們透露,這項功能是Twitter新老板埃隆·馬斯克(ElonMusk)下令刪除的。這項被刪除的功能名為#那裡有幫

2023-04-01

北京時間4月1日消息,Twitter公司周五宣佈提高透明度措施,公開決定該社交媒體如何推薦內容的部分計算機代碼,允許用戶和程序員解其工作原理,並能夠對算法提出修改建議。Twitter在一篇題為《Twitter透明度新時代》的博文中

2022-10-22

實,韋斯特的言論違反該平臺的規則。10月8日,韋斯特在Twitter上發佈一連串的內容,但又因涉及“反猶言論”被刪帖禁言。韋斯特當時寫道:“我今晚有點困,但當我醒來時,我要對猶太人進入戰備狀態(觀察者網註:原文為

2023-01-26

包括永久刪除他的網頁和賬戶。"去年11月,特朗普的Twitter賬戶被恢復。在收購該公司後,特斯拉首席執行官埃隆-馬斯克在Twitter上進行投票,詢問是否應允許前總統重返該網站。特朗普還沒有正式回歸Twitter,他完全使用他的

2022-11-29

Twitter表示,它將不再執行其長期存在的COVID-19錯誤信息政策,這是埃隆·馬斯克計劃如何改造他一個月前收購的這傢社交媒體公司的又一跡象。2020年,Twitter制定一套廣泛的規則,試圖禁止有關該病毒及其疫苗的"有害的

2022-11-29

內容應被審查。它說,平臺所有者如Facebook的所有者Meta和Twitter,如果沒有違反其服務條款或法律將被禁止刪除或限制用戶生成的內容,或暫停或禁止用戶。政府此前曾表示,如果社交媒體公司未能杜絕濫用等有害內容,即使這

2022-11-16

埃隆-馬斯克昨天繼續在Twitter上橫沖直撞,解雇該公司的一名工程師,他犯公開與老板爭論的錯誤。這位前雇員在Twitter的Android部門上工作6年,他稱馬斯克的聲明是錯誤的。兩人在幾個小時內來回爭吵後,馬斯克發佈一條現已刪

2023-03-09

Twitter內部人士向媒體透露,自從馬斯克“入主”Twitter並開展裁員與各種改動後,該社交平臺公司再也無力保障用戶免受“網絡噴子”(troll)、虛假信息行為以及兒童性剝削侵害的危害。據英國廣播公司(BBC)3月7日報道,Twitte

2022-08-27

據TheVerge報道,根據一份發給Twitter員工團隊的內部備忘錄,Twitter上的購物功能會帶來內容審核風險,並可能“導致個人或社會傷害”。據一位知情人士透露,這份備忘錄是在7月初發給Twitter不同團隊的一組員工的。在這封郵件中

2022-09-24

jet賬號。相比之下,Instagram頁面隻有大約1.1萬名粉絲,而Twitter上的@ElonJet賬戶有近50萬人關註。斯威尼過去就曾表示,他擔心社交媒體網站可能會試圖封禁他的賬戶,特別是在他首次得知馬斯克計劃收購推特的時候。當時,他說

2023-01-27

埃隆-馬斯克"看起來不像是"擁有Twitter的合適人選,這個社交媒體平臺的聯合創始人比茲·斯通說,在新老板的領導下,該企業在士氣和內容政策方面的改進,尤其是近年來幫助監督的積極變化已經被特斯拉的

2022-08-24

在Twitter跟埃隆·馬斯克的法律鬥爭及其前安全主管變成舉報人的混亂中,這傢公司正在將其打擊錯誤信息和有害內容的團隊跟負責刪除垃圾郵件賬戶的團隊合並。根據路透社看到的一封內部郵件,這傢社交媒體公司將把這個新團

2024-02-10

Meta不希望自己的新應用Threads成為另一個Twitter,充滿激烈的政治辯論和由此產生的毒性。在今天的一份公告中,該公司詳細說明將如何處理Instagram及其姊妹應用Threads(埃隆-馬斯克的X的競爭對手)中的政治內容推薦問題。該公司

2022-12-16

在Twitter精心制定一項新政策來解釋其禁止追蹤ElonMusk私人飛機的賬戶的決定後的一天,餘波仍在繼續。周四下午,Twitter暫停其開源競爭對手Mastodon的服務。據檔案顯示,就在被暫停之前,Mastodon(@joinmastodon)在Twitter上發佈自己