據報道,美國許多社交媒體平臺雇傭瞭大批內容審核員,他們的使命就是刪除有害內容。這些審核員在刪帖時是否經常犯錯?實際的情況可能超出您的想象。在15個月之前,Meta(之前的Facebook)創辦瞭一個獨立的內容監管委員會,委員會的使命是監督審核員們的工作。而在這15個月之內,該委員會就發現瞭130多個存在問題的刪帖決定。
在審查這些刪帖樣本案例之後,Meta公司得出瞭一個結論:內容審核員在執行公司政策時一共犯下瞭51次錯誤,換言之,內容審核員四成的刪帖工作出現瞭錯誤。
如果這些樣本能夠廣泛代表Meta平臺的用戶內容,則這意味著審核員被發現的錯誤隻是冰山一角。
就在本周,Meta內容監管委員會宣佈,在處理Facebook平臺和Instatram的用戶內容上,委員會一共接到瞭110萬次投訴。
網民對於刪帖行為的嚴重不滿,再加上審核員的錯誤判斷,這些事實似乎證明瞭美國億萬富豪馬斯克最近在收購Twitter網站時的一個觀點,那就是應該盡量減少對言論內容的審核控制。
馬斯克公開表示,之所以要收購Twitter,其中一個原因是要消除對於網絡言論的障礙(隻要這些內容合法)。不過,最近一段時間,馬斯克立場有所軟化,表示事情可能不想他想象的那麼簡單。
上個月,馬斯克表示,他將會刪除Twitter平臺上“對世界有破壞性”的帖子,與此同時,他也會用各種策略,比如限制某些推文的傳播范圍,暫時封禁某個用戶的賬號。
上周,馬斯克對Twitter員工也表示,將和平臺上騷擾其他用戶的不良行為做鬥爭。
各種跡象表明,在內容管理上,馬斯克將會面臨和Meta一樣的挑戰。
對於Facebook的東傢來說,網絡霸凌和騷擾信息的處置是用戶反映的最不滿意的兩個領域,占到瞭內容審核委員會所有投訴的三分之一。其他用戶不滿意的領域,還包括Meta對網絡仇恨言論以及煽動暴力內容的處置。
如果馬斯克對Twitter內容進行審核監管,而且還要防止引發用戶大規模抱怨,他可能要采取比Meta更嚴格的措施。
Meta讓一個外部獨立委員會來對審核員的刪帖行為做“馬後炮”式的決定,這相當於拱手放棄瞭平臺涉及到用戶體驗的一個重要方面。
當然,Meta的做法有利有弊,可以讓公司和一些刪帖爭議保持距離,通過讓外部獨立機構處理刪帖爭議,Meta相當於“外包瞭正義和良心”。
Meta的外包行為,也讓外界看到瞭處理刪帖糾紛的難度,如何對網民“語言和言論”執行公司的一條硬性規定,這頗具挑戰。
在內容審核委員會發佈的第一個報告中,委員會稱在前15個月中,他們一共隻處理瞭20宗糾紛,在14宗糾紛中,委員會修改瞭Meta審核員的刪帖決定。和委員會接到的海量投訴相比,這些處置的案例數量隻是九牛一毛。
對於Meta來說,公開某些刪帖爭議的處置細節也有一些好處,可以讓一部分炮轟社交媒體“審查言論”的批評聲“閉嘴”。要知道,在網絡平臺上,並不是非黑即白,還有灰色地帶。
這個獨立的審核監管委員會,也給Meta帶來瞭一些不適。委員會要求Meta提供更多有關刪帖過程的信息,另外在刪帖決定上必須向用戶保持更加透明。另外在Meta正在打造的元宇宙中,這個監管委員會也希望在內容審核政策方面獲得話語權。
獨立監管委員會的運作,可以讓Meta把精力放在重要工作上,Meta也可以對外表明:我們在回應外界的壓力和呼聲。這樣的監管委員會也可以消除另外一種聲音,那就是讓政府機構來監管網絡平臺的用戶內容。
從一個小樣本四成的差錯率,可以看出,內容審核工作的準確度不高。人類的言論內容本來就是模糊的,人類審核員自身的判斷也會犯錯誤,這使得言論監管政策執行起來很難。
如果馬斯克成功收購瞭Twitter,在內容監管和刪帖上,他可能需要吸取Meta的一些教訓。另外一方面,馬斯克一直不害怕成為網絡爭議風暴的主角,因此在監管全球網民言論方面,這位全球首富其實正盼著在媒體聚光燈下、發揮他個人的影響力。