2014年，銷聲匿跡多年的美國白宮前實習生萊溫斯基重回公眾視野。萊溫斯基曾於1998年卷入與時任美國總統克林頓的性醜聞，並最終導致對方被國會彈劾。通過演講和撰寫署名文章，萊溫斯基稱自己很可能是遭受全球性網絡欺凌的第一人。醜聞中的她，曾被貼上“妓女”“蕩婦”“蠢女人”等標簽。
萊溫斯基認為，在事件發生後，社交媒體興起帶來的病毒性傳播中，自己“受到的屈辱更具有毀滅性”。
如今，更多比萊溫斯基無辜的人正遭遇著類似的痛苦。
在國際上，聯合國兒童基金會將利用數字技術進行的欺凌行為定義為“網絡欺凌” （Cyberbullying），也即通過社交媒體、即時通訊平臺、遊戲平臺等，以恐嚇、激怒或羞辱他人為目的的重復行為。
在中國，人們將這類網絡欺凌稱之為“網絡暴力”（下稱“網暴”）。雖然法律法規尚未對網暴的概念、外延進行明確的界定，但一般認為網暴是社會暴力在網絡世界的延伸，具有誹謗性、誣蔑性、侵犯名譽、損害權益和煽動性等特點。
中國政法大學傳播法中心副主任朱巍告訴財經E法，與互聯網早期相比，現階段的網暴往往與通過線上和線下的組織，進行“有文案、有矩陣、有同質化內容”的傳播。個別案例中，甚至會出現“長達多年，對一個人或企業進行污名化”。
近年來，隨著“杭州女子取快遞被造謠案”“劉學州網暴自殺案”等引發公眾高度關註的事件，網暴已成為不容忽視的互聯網生態問題，平臺治理的重要性也日益凸顯。
財經E法通過走訪網暴受害者、律師、社交平臺審核員，乃至參與建章立制的學者，試圖解析網暴難以禁絕的真正原因。並基於此，探討面向未來的解決之道。
在調查中，財經E法發現，網暴者面臨的維權困境是一個涉及平臺技術升級、平臺盈利模式規制，以及法律法規突破的綜合性難題，需各方合力，才能真正破局。
誰是網絡施暴者？
2022年8月17日，一起與網暴有關的訴訟在北京互聯網法院開庭，抖音運營方北京微播視界科技有限公司成為被告。
案件的原告方張婷是一名擁有千萬粉絲的抖音博主，在一次意外走紅後，她經歷一場長達一年多的網暴。2020年底，張婷開始在抖音分享自己走出農村，通過勤工儉學、助學貸款完成學業並最終獲得博士學位的故事。此後的一個月內，她的賬號粉絲量從200萬漸漸增長到1000萬。
與此同時，抖音平臺的一些自媒體賬號開始質疑張婷學歷造假、其走紅背後有資本運作。其中，某賬號使用直播和短視頻等形式，對張婷進行一年半的質疑。2021年初，在得知張婷入職西安的一所高校後，前述賬號的運營者又以“辱罵網友”“疫情詐捐”等事由向陜西省教育廳、教工委等部門信訪舉報。為此，張婷向信訪部門提交接近30封書面情況說明。
2021年8月，張婷被北京大學國際醫院確診為焦慮狀態、失眠、抑鬱狀態。同月20日，張婷以被誹謗為由向前述賬號的居住地——北京市通州區的警方報案，警方認為符合立案標準，並於同年10月17日出具立案告知書。
張婷隻是眾多網暴受害者之一。不同之處是，她發現平臺在其中扮演的重要角色。
此後，張婷向平臺方發起訴訟，請求判令抖音披露前述賬號的真實身份信息，並立即刪除該賬號及其關聯賬號發佈的侵權信息。
“抖音已經完整披露侵權者的身份信息。”張婷告訴財經E法，她隨後撤銷對抖音的訴訟，同時對侵權賬號提起訴訟，目前法院已經立案。
張婷的代理律師周兆成介紹，在網暴訴訟中，由於個人極難在網絡世界獲取他人的身份信息，起訴平臺是最合法、最直接、最快速獲取侵權者基本身份信息的途徑。
周兆成認為，網絡服務提供者對侵權行為承擔通知侵權網絡用戶、采取刪除、屏蔽、斷開鏈接等必要措施的法律責任，其在一定程度上需要與侵權網絡用戶共同承擔侵權責任。作為大數據收集匯納的網絡平臺，其有義務向權利人及時披露侵權網絡用戶的真實身份信息。
2022年8月23日，中央網信辦副主任、國傢網信辦副主任盛榮華在國務院新聞發佈會上通報 “清朗·網絡暴力專項治理行動”成果。此次專項整治行動當中，重點網站平臺累計攔截涉攻擊謾罵、造謠詆毀等信息6541萬餘條，處置違法違規的賬號7.8萬個。
這場始於今年4月的專項行動，聚焦網暴易發多發、且社會影響力大的18傢網絡平臺（包括新浪微博、抖音、百度貼吧、知乎等），要求這些網站平臺通過建立完善監測識別、實時保護、幹預處置、溯源追責、宣傳曝光等措施開展全鏈條治理。
受害者的舉證困境
獲取侵權人的身份信息僅是訴訟維權的第一步。由於網暴規模龐大、受害者舉證成本高，當事人和律師往往面臨著多重困境，鮮少有受害者主動通過法律途徑維護自身權益。
在中國裁判文書網以“網絡暴力”為關鍵詞，檢索並翻閱53份相關判決書後，財經E法發現，從2013年到2022年，僅有17份判決書是直面網暴問題的案件。
目前，網絡發言大多為匿名，網暴往往呈現出多對一的特點。北京京師（合肥）律師事務所主任朱政告訴財經E法，面對網暴時，受害者僅憑自身的力量難以完整收集和固定證據。此外，受害者的舉證成本較高，需要花費大量時間、金錢用於收集證據，而最終在案件判決時卻難以獲得足額賠償，“這是一個現實困境”朱政說。
“杭州女子取快遞被造謠案”就是一個典型案例。
2020年7月，杭州谷女士到小區快遞點取快遞時，被附近便利店店主郎某某偷拍。隨後，郎某某與何某某編造“富婆出軌快遞小哥”的對話內容發至微信群。之後，上述偷拍的視頻、捏造的微信聊天記錄截圖被他人合並轉發，並相繼擴散到多個微信群、微信公眾號等網絡平臺。此事在網絡不斷發酵，谷女士因此被辱罵，遭公司勸退，被診斷為抑鬱狀態，她直言經歷“社會性死亡”。
2020年10月26日，谷女士向杭州市餘杭區人民法院提起刑事自訴，以郎某某、何某某捏造事實，通過網絡誹謗自訴人谷某某且情節嚴重為由，要求以誹謗罪追究兩人的刑事責任。
由於中國法律尚未對網暴做出明確界定，一般屬於民事案件范疇，而與網暴相關的誹謗罪、侮辱罪最嚴重可作刑事自訴案件。
該案代理律師鄭晶晶直言，此類案件立案門檻較高，無法在被告人缺席的情況下判決。“如果立案時出現被告人‘下落不明’的情況，法院可能會說服自訴人撤回起訴，如果自訴人不撤回，法院可以裁定不予受理。”鄭晶晶說。
幸運的是，此案最終經檢察機關的推動，從“刑事自訴”轉為“公訴”，並於2022年2月入選最高人民檢察院第三十四批指導性案例。
鄭晶晶告訴財經E法，能轉為公訴是因為案件本身的特殊性。谷女士通過聊天記錄、照片拍攝角度定位到嫌疑人，谷女士在與他們對質時，對方也承認造謠的事實。之後，谷女士立刻報警，杭州市餘杭區警方對兩名嫌疑人進行行政處罰，他們的身份信息、侵權行為都通過行政處罰被固定，因此對訴訟幫助很大。
2021年4月30日，杭州市餘杭區人民法院作出判決：兩名被告人皆被認定構成誹謗罪，分別被判處有期徒刑一年，緩期兩年執行。
這一案件也凸顯這類訴訟取證難、證據難以固定等問題。浙江省人民檢察院檢察長賈宇亦曾在接受媒體采訪時表示，因為大量證據存在於網絡中，依靠個人力量取證維權十分困難。賈宇透露，在“杭州女子取快遞被造謠案”中，檢察機關用近1個月時間進行取證，最後形成18本案卷、76張光盤。
張婷則告訴財經E法，為準備訴訟，她隻對被告以及其的兩個追隨者展開取證。最終形成五大本證據，公證花費接近10萬元。
鄭晶晶表示，“杭州女子取快遞被造謠事件”一開始是在微信群中傳播發酵的，在這一情形下，一旦被群主踢出群或本身就不在傳播的微信群中，受害人將很難取證。此外，根據最高人民法院《關於辦理利用信息網絡實施誹謗等刑事案件適用法律若幹問題的解釋》，同一誹謗信息實際被點擊、瀏覽次數達到5000次以上，或者被轉發次數達到500次以上的，才能被認定為刑法第二百四十六條第一款規定的捏造事實誹謗他人“情節嚴重”，達到刑事立案標準。在微信群中，視頻及文字消息的轉發次數與瀏覽次數難以判定。
當時，鄭晶晶采用轉載謠言公眾號文章的閱讀量、點擊量以作為證據。後來，鄭晶晶接到一些隻在微信群中傳播謠言的案子，“我隻能通過民事侵權訴訟來追究對方的侵權責任，因為很難找到達到刑事立案標準的證據。”鄭晶晶說。
2022年春節前夕，尋親無果的河北未成年男孩劉學州遭受網暴後，在海南三亞自殺身亡。
周兆成也是“劉學州網暴自殺案”的代理律師。據他回憶，在劉學州死亡當日，很多曾網暴劉學州的自媒體賬號刪除相關視頻，企圖銷毀證據，這對律師取證造成不小的障礙。所以，“我們還是希望能夠與警方等司法機關溝通，希望司法機關可以強勢介入。”周兆成說。
朱政認為，想要從根本上解決網暴案件舉證難的問題，一方面要制度先行，必須進一步制定與完善針對網暴的相關司法解釋和舉證規定，為受害者收集證據提供明確指引，避免受害者盲目取證或無效取證。還需從法律或者司法解釋的層面上明確，受害人的取證成本應由施暴者承擔。另一方面，要充分利用平臺“一鍵取證”“區塊鏈存證”等技術，降低取證和存證的成本，為受害者維權保駕護航。
平臺的“一鍵取證”功能無疑為當事人取證提供便利，但“一鍵取證”的技術落地效果，以及在實踐中的法律效力仍有待驗證。
相對於已經成熟的電子證據公證、區塊鏈存證技術，“一鍵取證”功能尚屬於新鮮事物，“其取證的效力如何？是否具備可信的時間戳？是否易於保存？是否可以直接被用於司法案件並被司法機關采信等？這些均還有待於在司法實踐中進一步考察和完善。”朱政說。
B站在2022年7月曾經上線“一鍵取證”功能。但財經E法在B站客戶端並未看見相關的入口， B站客服在接受咨詢時表示，如果有“一鍵取證”的需要，用戶可以直接向客服留言。但對於“一鍵取證”所采用的技術，B站客服未做清晰的解釋，隻是表示站內所有信息都有記錄，侵權信息被刪除也不影響工作人員回查核實。
某社交媒體平臺的風控安全運營人員沈河告訴財經E法，他所在的平臺仍在開發“一鍵取證”功能，希望能解決網民取證麻煩，以及取證時可能再次受到傷害的問題，但目前這一功能尚未上線。
據鄭晶晶介紹，網暴取證並非隻是截圖那麼簡單。證據需要滿足真實性、合法性、關聯性的要求，內容發佈者一旦刪除原文或者對內容進行修改，先前截圖的證據效力就會存疑。
因此，鄭晶晶基於自己的辦案經驗建議，網暴受害者在取證時最好通過公證處或第三方存證平臺進行證據存證保全。除傳統的公證，目前大部分互聯網存證平臺也都可以幫助受害人固定證據。“例如，杭州互聯網法院的電子證據平臺采用區塊鏈技術存證，這一存證技術的效力在實踐中幾乎獲得所有互聯網法院的認可。”鄭晶晶說：“其它法院也可能參考類似的做法。”
平臺做哪些努力？
2022年以來，多個網絡平臺陸續推出網暴治理措施，但這些措施背後的技術和運作流程是什麼？又能在多大程度上解決網暴問題？
北京觀韜中茂（上海）律師事務所合夥人、深圳市大數據研究與應用協會法律專傢吳丹君對財經E法介紹，法律對平臺提出網暴言論等違法違規信息管理要求，並賦予一定的治理權利。例如，《移動互聯網應用程序信息服務管理規定》規定，平臺可采取警示、限制功能、暫停更新、關閉賬號等處置措施對用戶通過平臺發佈違法違規信息的行為進行處理。
從財經E法對遭遇網暴的當事人和平臺風控人員的采訪來看，平臺確實在完善相關的治理措施。
張婷回憶，在2020年底那場有關她學歷的爭論中，她在評論和私信中收到不少誹謗、辱罵信息。當時抖音對關閉評論、私信等功能的提示尚未完善，她也沒有想到關閉評論、私信等。但2021年7月，前述賬號質疑張婷“親日”時，張婷的抖音後臺再一次收到大量的侮辱、誹謗性的言論。此時，抖音已經自動彈出通知，提醒張婷可以關閉私信和評論。
財經E法梳理發現，2022年3月以來，微博、抖音、B站陸續上線“一鍵防護”“一鍵防暴”“一鍵取證”等新功能；快手、百度貼吧、知乎、小紅書等平臺均可以自主設置私信、評論權限。必要時，用戶可以及時關閉私信、評論，盡量避免網暴的傷害。
朱巍認為，僅靠事後救濟並非良策，平臺方應當在網暴發酵初期就做好預警，在事件中期迅速切斷網暴傳播鏈路。
事實上，一些平臺已在探索事先發現網絡安全風險的機制。
據沈河介紹，他所在平臺會通過技術手段采集視頻中的原始語料，並利用自動化模型將語料庫進行分類和數據模型的提取。基於提取出的語料特征，安全團隊對語料進行過濾和上報，並錄入風險數據庫。這些數據的主體是靠自動化召回獲得，但一些團隊重點關註的數據則是由人工召回而來：包括人工舉報、用戶反饋、安全團隊自發掘等方式。
發現風險後，專項小組會按照內部審核規則對數據進行研判，並根據不同的風險劃分優先等級、類型等，此時並不會對所有的網暴風險進行封禁處理、單篇文章屏蔽或社交關系屏蔽。
平臺網絡安全風險發掘流程
沈河舉例說，如果某個事件被標註為高風險，其中的某位發言用戶是個大V，發的內容有可能被網暴，且他的粉絲裡有20%是有網暴傾向的用戶，平臺就會判定他是一個高風險的網暴對象。平臺會對大V本身做一些適當的社交關系屏蔽，比如關閉評論等，並對其中20%有網暴傾向的用戶做人群分割，不向他們展示相關的內容。“這個策略可以由平臺去下發，也可以交由被網暴者主動觸發我們的‘一鍵防暴’功能。”沈河說。
平臺治理仍有局限
但是，現有的平臺治理也有一定的局限性。
針對網暴事件的事前預警，沈河告訴財經E法，平臺會針對用戶已經發佈的內容（包括作者創造的內容、普通社交關系上發佈的評論）進行自動數據召回和風險發現，之後再通過人工對數據回撈發現的風險進行校對。由於可能會影響用戶體驗，“我們不能直接對機器的召回風險直接執行封禁等策略，所以事前發現並不是一個我們真正能夠閉環解決網暴問題的手段。”他說。
在網暴事件中期，平臺會設置“一鍵防暴”等主動攔截手段，也會在模型側加高邊審核（高級編輯和審核人員）作為事中的幹預手段。“唯一的缺點是這一幹預手段會直接阻斷可能被網暴賬號的社交關系，即網暴言論的輿論場，也不能防止在本平臺外的第三方（平臺）進行的一些網暴。”沈河說。
平臺在網暴事前和事中的治理手段
平臺對網暴信息的審核方式為機器預測初篩，配合人工復核，但仍難以避免錯漏。
沈河舉例說，假如100條文章或評論，平臺會先用自動化模型過一遍，篩出疑似網暴或有網暴風險的50條，再進行人工審核。“目前的人審復核主要是給信息打個標簽。”
財經E法在沈河展示的人工審核記錄中看到，疑似網暴的信息被審核員打上“網暴潛在名單”“負評針對內容，與作者無關”等標簽，隨後給出“建議扣分至封禁”“禁言”等處置後續。
抖音前審核員小樂告訴財經E法，他曾工作過的審核部門有相應的網暴防自殺培訓與審核機制。小樂表示，他工作中遇到較多的是言語暴力。審核員會依據相關的敏感詞庫，例如“國罵”，辱罵主播或觀眾且“造成人身攻擊”“危險性發言”“過激性話語”等，打上標簽並上報。
但是，判定言語暴力或者侮辱的標準存在模糊地帶，小樂處理的時候也經常犯難。“因為有的人習慣把一些話語當成口頭禪，並沒有主觀侮辱的意向。”小樂說。
據媒體此前報道，字節跳動 2017 年起大量招募內容審核員，至2021年已有超過2萬人，多數是正式員工。
小樂稱，人工審核如何在在準確率和效率之間做好平衡，是一大挑戰。審核員需要在審核系統中查看視頻是否有違規點，並對此打標提交。小樂回憶，他需要在幾分鐘內瀏覽多條視頻，他所在小組的審核員每天要審核至少300條1分鐘-5分鐘時長不等的視頻。其它有些小組一天的任務是處理1000條時長在30分鐘以上的視頻。如果遇到節假日、輿情爆發，內容遞增就要分時段加班處理。與此同時，後臺也在檢測審核員的效率，太低就會被警告。
據小樂介紹，審核員每日的一般工作時長為9小時，在崗時間由上級提前一個月排班，確保24小時都有人在。幾乎每一個審核員都會輪到通宵班，加班則是常態。據小樂觀察，她身邊相熟的審核員有不少已經離職或計劃離職，“離職率高，平臺也在不斷地招聘”。
吳丹君認為，在人工審核能力不足和機器審核算法模型不夠完善的情況下，可能遺漏部分網暴言論，亦可能誤傷部分正常言論。因此，平臺需定期對對審核員進行培訓，以提高其業務能力，也需定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，以完善機器審核算法模型。
探索更有效的治理模式
如何放大流量帶來的商業收益，同時規避網暴帶來的法律風險，是平臺治理的挑戰。
朱巍表示，網暴形式多樣，比如用捏造虛假事實、移花接木、斷章取義的方式引起輿情、引導輿論，進而引發網暴。在話題討論中，網友也常形成對立的兩派。“有對立就會有流量、有話題、甚至上熱搜，就為平臺帶來收益。”朱巍說。
中國傳媒大學教授、人類命運共同體研究院副院長王四新也認為，網暴事件對平臺的流量有直接影響，按照狹義的市場回報率來講，流量越大，平臺的收益越大。但網暴事件大肆發生，也會帶來法律和監管風險。“因此平臺需要在兩者間保持平衡。”
沈河告訴財經E法，監管部門十分關註他所在平臺的動向。一旦平臺被發現有違規行為，最嚴重的情況下，會導致App被下架，違規成本很高。所以，“我們一般不會為熱度放松對網暴的治理。”他透露，有些娛樂屬性的內容平臺可能會選擇冒一些風險。
對那些平臺未能及時處理的問題，朱巍提到，中央網信辦（國傢互聯網信息辦公室）違法和不良信息舉報中心設立的12377免費舉報電話、舉報網站、舉報郵箱也是一種有效的救濟途徑。“但目前由於舉報數量過多，12377也在超負荷運轉，無法滿足所有的舉報需求。”朱巍透露。
張婷告訴財經E法，最初她向抖音舉報時，平臺僅對被舉報賬號封禁一個月。直到她通過12377郵箱舉報違規行為，被舉報賬號才被永久封號。
什麼才是對網暴更有效的監管模式？未來，平臺的自我約束與相關部門的直接監管，又該如何產生合力？
北京師范大學互聯網發展研究院院長助理吳沈括告訴財經E法，可參考美國和歐盟的網暴治理思路，美國的治理思路以加大侵權處罰為特點，強調對侵害者的處罰力度，以及平臺的安全保護義務。歐盟側重的則是對於特定信息內容、言論類型的約束，最具代表性的是2018年前後提出的反虛假消息行為守則，以及有關仇恨言論的相關法律法規。其中，反虛假消息行為守則強調的是“平臺的自我約束”。
吳沈括認為，在全球范圍內，針對特定網絡言論內容的治理范圍正在擴大，對平臺責任的要求、對相關主體的處罰力度也在提升。目前，中國的網暴治理以《網絡安全法》作為頂層設計，在技術要素、組織管理和在線內容三個層面建構規則內容，強調的是一種新的綜合治理思路。在這個過程中，也吸收國際的實踐和經驗，例如，技術阻斷平臺的保護義務和多層次的權利保障渠道。
中國社會科學院大學互聯網法治研究中心執行主任劉曉春建議，未來的治理思路可以從對內容施暴者的防范，向受害者自力救濟功能的提供上轉換。通過一些聲譽機制和信息披露機制，例如IP地址公開等措施，對網民進行引導。通過對網民的教育以及技術角度的功能設置上為網民賦能，提供及時的自我保護方式。
多位受訪對象提到，中國現行法規對於網暴並無明確規制，那麼，是否應該出臺針對網暴的專門規定？對此，各方觀點不一。
“隻靠平臺治理是不夠的。”朱巍認為，每個人都擁有表達權，但在在網絡空間匿名化的環境下，群體行為往往不理性，缺少道德和法律的約束。治理網暴的根本在於法要責眾，區分情況追究參與者的責任。在立法層面，應當制定針對網暴的專項治理規定。
王四新則認為，對網暴立法並不現實。在他看來，網暴是一個細碎的問題，其產生的社會效果也難以量化。鄭晶晶也提到，網暴是一個綜合性概念，包含多種不同的行為。“網暴更像是各種行為的匯總，很難進行法律上的定義。”
例如，在民事侵權行為中，網暴通常涉及“名譽權糾紛”“隱私權糾紛”“網絡侵權責任糾紛”，程度較為嚴重的會涉及到刑事犯罪中的誹謗罪、侮辱罪、尋釁滋事罪等；涉及行政處罰的行為，《治安管理處罰法》《網絡安全法》也有相關規定。
從實務角度，鄭晶晶認為，網暴治理中亟待解決的現實問題，是在法律救濟中更加明確從“刑事自訴”轉“公訴”的銜接機制和操作細則。
“國傢應當通過司法解釋等進一步明確自訴轉公訴的銜接規定，對法律實踐進行明確指引。”鄭晶晶建議。
（應受訪者要求，文中沈河、小樂均為化名）
文/樊朔
編輯/郭麗琴