原標(biāo)題：社交網(wǎng)絡(luò)的暗面：仇恨言論的“魔道之戰(zhàn)”

這年頭但凡接觸過網(wǎng)絡(luò)，一定近距離感受過仇恨言論的力量。

無論是跑到別人評論區(qū)下面謾罵的個人暴力，還是發(fā)泄對政府、社會不滿的吐槽，亦或是帶有歧視排外極端色彩的危險發(fā)言，反正總有一款網(wǎng)友教你做人。

網(wǎng)絡(luò)“仇恨值”近年來已經(jīng)已經(jīng)發(fā)酵到了“難承其重”的程度，成為不少全球惡性恐怖事件的源頭。

大家想必都聽說了，就在8月3日，美國一天時間內(nèi)留發(fā)生了兩起公共傷害事件，造成30多人死亡。加上今年3月的新西蘭清真寺事件， 4月份以的美國加州猶太教堂事件，這些兇手被發(fā)現(xiàn)都是種族歧視的捍衛(wèi)者，動手之前都曾在網(wǎng)絡(luò)上分享過自己的行程與仇恨理念，這顯然不是巧合。

一場全社會與仇恨言論之間的戰(zhàn)斗正在展開，但成果遠(yuǎn)沒有我們想象中那樣卓有成效。

一場抵御仇恨的全民戰(zhàn)爭

“仇恨”，似乎是一個離普通人生活很遙遠(yuǎn)的事情，不幸的是，它正在變得越來越接地氣。

2003年，盧旺達(dá)國際刑事法庭審理的“仇恨媒體案”，對兩名散播仇恨言論的前媒體負(fù)責(zé)人分別判處了終身監(jiān)禁和35年監(jiān)禁的刑罰，這是國際法庭首次對媒體進(jìn)行仇恨言論的限制。

但這種規(guī)制很快在互聯(lián)網(wǎng)的沖刷下成了過去時，人們往常理解的“仇恨”也逐漸發(fā)生變化：

首先是言論主體變了。起初，利用網(wǎng)絡(luò)傳播仇恨言論的活動者，大多是一部分極端主義者，隨著所有智能手機用戶都開始參與社交網(wǎng)絡(luò)討論，助長了仇恨言論的擴(kuò)散，直接導(dǎo)致相關(guān)群體迅速壯大。

（8月3日美國德州街頭慘案現(xiàn)場，人們在尋找親人）

其次是攻擊范圍變得更廣。二戰(zhàn)后歐洲國家出于抑制種族和宗教仇恨等原因開始對仇恨言論進(jìn)行立法規(guī)制，但在網(wǎng)絡(luò)環(huán)境下，仇恨言論的議題正在變得越來越廣泛。對外來者、難民、窮人的抵制，對其他種族、性別、地域群體的歧視，這些“抱怨”和侮辱性語言，看上去似乎并不能產(chǎn)生即時性的危害，卻讓極端的仇恨犯罪行為變得更加隱蔽，令監(jiān)管喪失警惕。

社交鏈的加強也變相推動了事實性犯罪的增加。仇恨泛化的大背景下， 一些極端主義者更容易通過社交網(wǎng)絡(luò)獲得支持?，F(xiàn)實中互不相識的極端分子正在網(wǎng)上尋找彼此，并試圖“一起”發(fā)動襲擊，制造疊加的恐怖主義事件。比如8月3日美國慘案的兇手克魯修斯，案發(fā)之后就得到了8chan網(wǎng)絡(luò)社區(qū)用戶的大量討論和普遍贊揚，這種社區(qū)氛圍更容易激勵其他人犯罪。

（白人極端主義造成的案件，是最具殺傷力的事件之一）

累覺不愛的同時，大家可能會疑惑，在這場“仇恨抵御戰(zhàn)”中，政府和互聯(lián)網(wǎng)巨頭們都扮演了什么樣的角色，為什么沒有拿出行而有效的治理手段。

政府+巨頭的陽謀，以及小眾網(wǎng)站的暗面

公平地說，在控制網(wǎng)絡(luò)仇恨言論這件事上，各國政府與科技巨頭們前所未有地統(tǒng)一戰(zhàn)線和團(tuán)結(jié)。

2016年5月，歐盟委員會宣布與Facebook、Twitter、YouTube和微軟就控制網(wǎng)絡(luò)不法仇恨言論展開合作，互聯(lián)網(wǎng)巨頭們集體簽署了一項行為準(zhǔn)則，承諾“接到舉報后24小時內(nèi)屏蔽和刪除相關(guān)仇恨言論”。

2018年，監(jiān)管再次加碼，沒在規(guī)定時間內(nèi)下架相關(guān)內(nèi)容，將面臨高達(dá)5000萬歐元的罰款，平臺們還必須每六個月上報一次自己對違法內(nèi)容的處理結(jié)果。

而各大平臺也表示出了高度的配合，甚至到了舍生忘死的程度。比如Facebook 和 Twitter 對 ISIS 的極端言論采取了嚴(yán)厲的封殺態(tài)度，還一度引發(fā)了恐怖分子的不滿，在網(wǎng)站上發(fā)布恐嚇視頻，展示了一張扎克伯格與杰克多西（Twitter 創(chuàng)始人）中彈的照片進(jìn)行威脅。

報告顯示，F(xiàn)acebook在2018年7月至9月期間刪除了約290萬條仇恨言論，去年一舉封禁了259個涉嫌發(fā)布和傳播支持恐怖分子材料的賬號。借助機器學(xué)習(xí)，YouTube上超過95％的仇恨內(nèi)容能在24小時內(nèi)被屏蔽。

既然政府機構(gòu)打擊態(tài)度很強硬，平臺們也拿出了“一生懸命”般的魄力在治理，為什么近年來仇恨言論誘發(fā)的暴力事件依然屢禁不止呢？原因總結(jié)起來大概有四點：

第一，關(guān)于“仇恨言論”目前尚未有權(quán)威的定義，這就造成了不同國家、不同公司、不同機構(gòu)在執(zhí)行審查時，缺乏一個統(tǒng)一的信息評價標(biāo)準(zhǔn)去有效認(rèn)定非法信息，難以把握分寸，讓治理措施充滿了不確定性，且缺乏預(yù)見性，直接影響處罰效果。比如歐洲人權(quán)法院與網(wǎng)絡(luò)言論有關(guān)的三起案件中，對可以明確定義為仇恨言論的網(wǎng)站經(jīng)營者進(jìn)行了追責(zé)，而對具有侮辱、誹謗性質(zhì)的攻擊性語言并沒有進(jìn)行處罰。

第二，仇恨言論與表達(dá)自由之間的沖突仍未解決。言論自由已經(jīng)成為根深蒂固的社會文化，這就導(dǎo)致輿論導(dǎo)向容易“慕虛名而處實禍”。單純以立法的手段來管理，會直接遭遇多樣化的阻礙而阻礙治理的推進(jìn)。此前美國對網(wǎng)絡(luò)管理的一些立法就多次受到社會團(tuán)體的否定，最終被法院裁決為違憲。

第三，監(jiān)督仇恨言論的公共性質(zhì)與網(wǎng)絡(luò)市場化的博弈。一些西方發(fā)達(dá)國家更傾向于通過市場調(diào)節(jié)和行業(yè)自律來對網(wǎng)絡(luò)進(jìn)行監(jiān)管，但互聯(lián)網(wǎng)的商業(yè)化運作對市場的依賴性很強，運營商逐利的天性決定了其不可能真正從社會公眾利益的角度來規(guī)范管理，所以客觀上就導(dǎo)致了行業(yè)自律行為比較脆弱。

舉個例子，德國司法部曾給Facebook開出200萬歐元的罰單，原因是對涉及仇恨言論的內(nèi)容，F(xiàn)acebook提供的舉報入口不如其他準(zhǔn)則清晰。再比如，埃爾帕索案發(fā)生后， 8chan創(chuàng)辦者布雷南要求現(xiàn)任管理者華特金斯父子與CDN 提供商Cloudflare關(guān)停網(wǎng)站，但這二位都拒絕了這種呼吁。

（8chan 的創(chuàng)造者Fredrick Brennan，是一名脆骨癥患者）

第四，小眾網(wǎng)站的崛起與暗面。

Facebook和Twitter等大型網(wǎng)站，在刪除危險內(nèi)容方面更加積極主動，使其社交生態(tài)不太適合恐怖分子，而無障礙的交流才是社交的第一要義，于是，諸如8chan之類的小眾網(wǎng)站就有了機會。

用戶活躍與廣告分發(fā)是小站生存的根源，因此平臺有時會刻意放縱審查，比如8chan就把自己當(dāng)作言論自由的烏托邦，任何發(fā)言都會受到歡迎，不管它有多毒，平臺都幾乎完全無動于衷。另外小站的人員不足，社區(qū)運營能力也比較弱，也無力對UGC內(nèi)容進(jìn)行嚴(yán)格的監(jiān)管。

在反誹謗聯(lián)盟（anti-defamation league）的CEO喬納森格林布拉特看來，“最壞的罪犯會在那里分享他們的可怕想法，這些思想被放大和擴(kuò)展，最終，人們被激化”，誘發(fā)更多的大規(guī)模傷害事件。8chan也正如網(wǎng)站主題所顯示的那般，成為“互聯(lián)網(wǎng)最黑暗的地方”。

這種現(xiàn)狀還有可能改變嗎？

告別烏托邦：欠發(fā)達(dá)國家的內(nèi)容監(jiān)管之路

對比之下我們發(fā)現(xiàn)，一些亞洲和欠發(fā)達(dá)國家，總體市場化的程度不高，但極少爆發(fā)出類似仇恨言論的惡性事件。

原因之一，是許多亞洲國家傳統(tǒng)文化中一直強調(diào)集體利益和公眾原則，所以在互聯(lián)網(wǎng)的管理上，在保護(hù)用戶權(quán)利的同時也非常強調(diào)公共利益，更加注重借助政府的行政效力，通過各類剛性措施來保證互聯(lián)網(wǎng)的規(guī)范化運轉(zhuǎn)，這就解決了網(wǎng)絡(luò)仇恨言論“該不該管”的問題。

其二，一般情況下，多數(shù)國家的網(wǎng)絡(luò)內(nèi)容審查都采取的是“事后追懲”模式，也就是在違法行為發(fā)生以后才通過法律予以追究，不做普遍的預(yù)先審查。而許多亞洲國家的做法是主動防御，將普遍過濾的預(yù)先審查與人工干預(yù)的后期抽查相結(jié)合，來防范仇恨言論“禁區(qū)”。

舉個例子，韓國的實名制措施就對網(wǎng)絡(luò)世界起到了非常明顯的凈化效果，新加坡廣播管理局SBA從1996年開始實施分類許可證制度，有可能從事非法內(nèi)容服務(wù)的互聯(lián)網(wǎng)服務(wù)商都需要申領(lǐng)許可，并保證最初最大努力刪除法律禁止的內(nèi)容。越南、緬甸等國更嚴(yán)格的措施也基本杜絕了問題的出現(xiàn)。

當(dāng)然，這些亞洲國家的管理方式也存在一些問題，比如說過度依賴行政手段，從而限制了互聯(lián)網(wǎng)產(chǎn)業(yè)的發(fā)展，新傳播技術(shù)的潛在效能沒能夠在社會生活中充分彰顯。

從這些探索的失利與不利中，不難看到，互聯(lián)網(wǎng)內(nèi)容安全監(jiān)管是一項龐大的工程，需要各種手段跟極端分子斗智斗勇，行政、立法、技術(shù)、產(chǎn)業(yè)等的參與缺一不可。

如今中國正在內(nèi)容監(jiān)管領(lǐng)域緊鑼密鼓地部署，爭取在產(chǎn)業(yè)效率與網(wǎng)安風(fēng)險上達(dá)到理想化的平衡狀態(tài)。仇恨言論“該怎么管”，其他國家的前車之鑒或許能帶來不少啟發(fā)。

而網(wǎng)絡(luò)世界里的魔道斗法，注定將持續(xù)交戰(zhàn)下去，永不止步。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。