雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng))按：在北京時(shí)間今天凌晨開(kāi)幕的 Facebook 年度開(kāi)發(fā)者大會(huì) F8 上，創(chuàng)始人扎克伯格在開(kāi)幕演講中，向 Facebook 直播謀殺的受害者表達(dá)了慰藉。此事在網(wǎng)絡(luò)上傳播甚廣，其中一個(gè)爭(zhēng)議的焦點(diǎn)是 Facebook 在事發(fā)兩小時(shí)后才將視頻移除。在直播和各類視頻內(nèi)容爆炸的年代，及時(shí)識(shí)別出用戶上傳的不良內(nèi)容，同時(shí)又不損害用戶體驗(yàn)，成為各大平臺(tái)面臨的一道技術(shù)難題。針對(duì)這個(gè)問(wèn)題，人工智能成為良策，但現(xiàn)在也沒(méi)有達(dá)到完美，國(guó)外媒體 Wired 就撰文進(jìn)行了分析，雷鋒網(wǎng)對(duì)文章進(jìn)行了編譯。AI 能做些什么？" />

上周日，Steve Stephens 在 Facebook 上傳了一個(gè) 57 秒視頻，視頻中他殺害了一名男子后自殺。該視頻在他的 Facebook 主頁(yè)上掛了兩個(gè)小時(shí)后才被 Facebook 識(shí)別后刪除。但是這兩個(gè)小時(shí)已經(jīng)足夠讓數(shù)千人在 Facebook 上分享這個(gè)視頻，讓各種第三方網(wǎng)站下載該視頻并重新上傳給他們的用戶。

整個(gè)事件重新燃起了一項(xiàng)關(guān)于社交媒體的激烈辯論：社交媒體公司究竟應(yīng)該怎么做才可以防止他們的網(wǎng)頁(yè)上出現(xiàn)不良內(nèi)容？并且，一旦不良內(nèi)容出現(xiàn)，就無(wú)法避免它被保存和傳播到網(wǎng)絡(luò)的各個(gè)角落。所以社交媒體企業(yè)應(yīng)該如何將不良內(nèi)容直接扼殺在搖籃里？

防止一個(gè)視頻在網(wǎng)絡(luò)上公開(kāi)的最佳方法就是在它第一次上傳時(shí)進(jìn)行阻止。Facebook 可以通過(guò)很多步驟實(shí)現(xiàn)該方法，例如他可以堅(jiān)持人工審查核準(zhǔn)每一個(gè)視頻的上傳。但是這并不現(xiàn)實(shí)，因?yàn)檫@會(huì)使大批喜歡實(shí)時(shí)分享生活的用戶離開(kāi) Facebook，公司并不能承擔(dān)這樣的風(fēng)險(xiǎn)。

另一個(gè)方法是，F(xiàn)acebook 可以在不良視頻公布時(shí)立刻刪除它，但是這又會(huì)出現(xiàn)另一個(gè)問(wèn)題：即時(shí)精準(zhǔn)定位和刪除圖像材料在技術(shù)上還無(wú)法實(shí)現(xiàn)。技術(shù)算法還無(wú)法達(dá)到自動(dòng)篩選并刪除的能力，而雇傭大量人員手動(dòng)處理也并不現(xiàn)實(shí)。但如果 Facebook 授權(quán)算法直接刪除視頻，一定會(huì)發(fā)生不可避免的錯(cuò)誤。就算是 Facebook 可以根據(jù)其服務(wù)條款給予算法這樣的權(quán)力，公司也會(huì)因?yàn)閷彶閱?wèn)題被指控。這樣的影響是巨大的，因?yàn)闆](méi)有人喜歡自己的視頻因?yàn)樗惴ǖ腻e(cuò)誤而被刪除，而用戶的不信任問(wèn)題也是 Facebook 根本無(wú)法承擔(dān)的風(fēng)險(xiǎn)。

因此，F(xiàn)acebook 目前采用的是多管齊下的解決方法。任務(wù)前端是 Facebook 的用戶，公司根據(jù)用戶對(duì)視頻的瀏覽和標(biāo)記來(lái)跟蹤不良視頻。利用一些人工智能算法，挑選出潛在的不良視頻（如兒童色情等）。此類視頻被標(biāo)記后，會(huì)送到 Facebook 的內(nèi)容審查部門(mén)，該部門(mén)有上萬(wàn)人每天觀看數(shù)小時(shí)的視頻，人工決定視頻是否被刪除。這個(gè)系統(tǒng)還很不完善，但是目前，人工審查仍然比 AI 技術(shù)靠譜的多。

但是最終，AI 識(shí)別不良視頻會(huì)變得越來(lái)越有效，人類會(huì)與 AI 合作作業(yè)，而不是被AI 所代替。Facebook 人工智能搜索的主管 Yann LeCun 說(shuō)：“我認(rèn)為，只要有足夠的數(shù)據(jù)訓(xùn)練，我們是可以實(shí)現(xiàn)這一技術(shù)的。”盡管他沒(méi)有回答周日殺人視頻的處理細(xì)節(jié)，但是他表示 Facebook 未來(lái)會(huì)做的更好。對(duì) Facebook 來(lái)說(shuō)，用 AI 實(shí)時(shí)監(jiān)控視頻，識(shí)別殺人兇手的技術(shù)完全可以實(shí)現(xiàn)，只是還不是現(xiàn)在。

上傳殺人視頻的Stephens

現(xiàn)在還不是時(shí)候

理想情況下，F(xiàn)acebook 可以這樣解決 Stephens 的視頻：當(dāng)他第一次上傳說(shuō)明他想要?dú)⑷说囊曨l時(shí)，AI 軟件就應(yīng)該立即“看過(guò)”該視頻，并將它標(biāo)為優(yōu)先級(jí)別。接著優(yōu)先級(jí)的標(biāo)識(shí)會(huì)觸發(fā) Facebook 人工審核部門(mén)的警報(bào)，迅速開(kāi)始人工審查視頻內(nèi)容，發(fā)現(xiàn)直接危害，刪除該視頻，關(guān)閉 Stephens 的賬號(hào)，通知有關(guān)部門(mén)。

但是現(xiàn)實(shí)并不是這樣。根據(jù) Facebook 全球運(yùn)營(yíng)副總裁 Justin Osofsky 昨天發(fā)表的聲明稱，最初上傳的視頻并沒(méi)有被標(biāo)識(shí)，第二個(gè)視頻，也就是有謀殺者自己的視頻是在 Stephens 上傳超過(guò)一個(gè)半小時(shí)后才被標(biāo)識(shí)了出來(lái)。Osofsky 說(shuō)，只要有用戶將危險(xiǎn)視頻標(biāo)識(shí)出來(lái)，F(xiàn)acebook 的審查部門(mén)在23分鐘內(nèi)就可以將該視頻從網(wǎng)站中刪除。

但是問(wèn)題仍然是，如何讓這個(gè)程序迅速反應(yīng)立即處理。人工智能目前還無(wú)法識(shí)別出第一個(gè)視頻中的危險(xiǎn)因素，甚至對(duì)第二個(gè)視頻中出現(xiàn)的謀殺者也無(wú)能為力。為了讓 AI 介入謀殺，AI 必須首先能夠處理 Stephen 的語(yǔ)言，分析他的語(yǔ)音語(yǔ)調(diào)，分辨他說(shuō)到殺人時(shí)究竟是開(kāi)玩笑還是真正想法。LeCun 說(shuō)：“確實(shí)有這樣的技術(shù)，但是目前還不清楚將該技術(shù)整合進(jìn)深度學(xué)習(xí)框架中后是否還能有效率的運(yùn)行。并且由于缺乏人類的常識(shí)，這種系統(tǒng)會(huì)犯低級(jí)錯(cuò)誤。”

Facebook 明白 AI 必須學(xué)習(xí)這個(gè)技術(shù)，所以公司在這方面投入巨大。LeCun 的團(tuán)隊(duì)是繼谷歌團(tuán)隊(duì)后在該領(lǐng)域進(jìn)行前沿研究的第二大團(tuán)隊(duì)。他的團(tuán)隊(duì)已經(jīng)開(kāi)發(fā)了算法幫助計(jì)算機(jī)標(biāo)識(shí)各種問(wèn)題內(nèi)容，比如兒童色情、裸體、產(chǎn)權(quán)侵害問(wèn)題等。去年秋季， Facebook 總裁扎克伯格在 WIRED 的采訪中說(shuō)到，目前網(wǎng)絡(luò)上一半的標(biāo)識(shí)都是由 AI 完成的，而非人工操作。“ 這是一個(gè)人類與 AI 并肩作戰(zhàn)的時(shí)代，AI 正在幫助人類解決超大體量的問(wèn)題。同時(shí)，我們也在發(fā)展新技術(shù)，探討這種聯(lián)合可以做到什么。”

但即使扎克伯格現(xiàn)在已經(jīng)意識(shí)到了這一點(diǎn)，目前AI 與人工必須相互配合工作，Stephens 殺人視頻的例子正是一個(gè)鮮活的例子。本周二在舊金山的 F8 開(kāi)發(fā)者會(huì)議上，扎克伯格直接回應(yīng)了社會(huì)辯論：“我們要做的還很多。上周日的悲劇提醒著我們，我們會(huì)繼續(xù)努力，盡我們所能避免這樣的悲劇再次發(fā)生。”

訓(xùn)練計(jì)算機(jī)識(shí)別暴力問(wèn)題比識(shí)別裸體圖像要難得多，相當(dāng)于識(shí)別假新聞的難度。這需要對(duì)背景線索和形式的復(fù)雜理解。

AI 可以做些什么？

因?yàn)?Facebook 需要大量時(shí)間來(lái)訓(xùn)練其神經(jīng)網(wǎng)絡(luò)來(lái)規(guī)范化這個(gè)過(guò)程，所以目前階段，F(xiàn)acebook 需要改變其審查過(guò)程來(lái)應(yīng)對(duì)危機(jī)。在視頻殺人事件發(fā)生后的聲明中，Osofsky 說(shuō)：“在一系列恐怖事件發(fā)生后，我們正在改善上報(bào)流程，確保用戶可以盡快向我們報(bào)告網(wǎng)站中存在的危險(xiǎn)視頻。”

這意味著 Facebook 將簡(jiǎn)化加速優(yōu)先級(jí)別審查內(nèi)容的過(guò)程，增加更多人工審查員，使視頻審查過(guò)程更快。同時(shí)，人工審查員會(huì)繼續(xù)訓(xùn)練 AI，但這需要花費(fèi)大量時(shí)間，AI 需要大量暴力視頻的例子進(jìn)行學(xué)習(xí)，才能有效地識(shí)別出危險(xiǎn)視頻。所以第一件事情是收集足夠多得的正確標(biāo)識(shí)的暴力視頻。這需要人工雇員不斷地瀏覽暴力視頻，標(biāo)識(shí)暴力語(yǔ)言，這一過(guò)程將會(huì)比較漫長(zhǎng)。

當(dāng)考慮到 Facebook 的直播功能時(shí)，問(wèn)題就更嚴(yán)重了。直播視頻更加難以控制，所以很多人直接建議 Facebook 關(guān)閉其直播功能。當(dāng)然這是不現(xiàn)實(shí)的，F(xiàn)acebook 去年開(kāi)發(fā)該功能的目的就是為了與其他直播網(wǎng)站相競(jìng)爭(zhēng)，公司絕不會(huì)因此而放棄直播。另外，直播功能還引發(fā)了另一種形式的暴力事件。比如去年，黑人 Philando Castile 被警察射殺后，他的妻子用 Facebook 直播了射殺后的場(chǎng)景，還在直播中發(fā)出了全球范圍內(nèi)的求救信號(hào)。

Lehigh 大學(xué)傳媒專業(yè)副教授 Jeremy Littau 說(shuō)：“無(wú)論是好是壞，即時(shí)視頻或直播視頻終將存在下去。Facebook 必須面對(duì)這個(gè)現(xiàn)實(shí)。”

不過(guò)，F(xiàn)acebook 可以像廣播式網(wǎng)絡(luò)的功能一樣，堅(jiān)持對(duì)直播視頻進(jìn)行一定的延遲處理。但那時(shí)正如上文所說(shuō)，除非用人工或AI 來(lái)監(jiān)控所有視頻，否則延遲直播也不會(huì)起到太大作用。

然而，有一件 Facebook 可以實(shí)現(xiàn)的事就是，控制第三方從 Facebook 上下載視頻的過(guò)程(與 Instagram 做法類似)。這樣可以阻止如 Live Leak 的第三方網(wǎng)站獲取并再次傳播 Stephens 的暴力視頻。這樣的小調(diào)整至少可以避免不良視頻在其他地方再次上傳，進(jìn)入互聯(lián)網(wǎng)的永久無(wú)法刪除的記憶。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。