在微博，有一個神奇的團隊——微博用戶服務(wù)輿情組。

說他神奇，是這樣一個聽起來并不太出眾的崗位，卻常常引得一些內(nèi)部員工主動申請加入。用微博用戶服務(wù)輿情組的負(fù)責(zé)人張喆民的話來說：“他們會覺得這份工作更加值得。”

究其原因，原來是這份工作，在幫助普通用戶解決問題的同時，還有可能為處于生命邊緣的用戶提供救助。

如今，當(dāng)你打開微博，搜索諸如“自殺、抑郁、燒炭”等詞匯時，在微博列表頂部會出現(xiàn)免費心理咨詢的提示，點擊提示還會跳轉(zhuǎn)至北京心理危機研究與干預(yù)中心。此外，上面還有一句話格外暖人——“你并不孤單，我們都在。”

起源：從被動發(fā)現(xiàn)到主動識別

神奇的微博用戶服務(wù)輿情組隸屬于微博用戶運營部部門。最初成立的目的是，隨著微博用戶越來越多，用以監(jiān)測平臺服務(wù)體驗上的負(fù)面內(nèi)容，搜集微博用戶提出的建議和意見，并反饋給內(nèi)部產(chǎn)品和策略的同事。

在此工作過程中，團隊逐漸在平臺上注意到許多用戶的負(fù)面情緒，其中不乏有“輕生”想法的極端內(nèi)容。后來，更是多次接到平臺用戶求助：希望平臺協(xié)助聯(lián)系到平臺上準(zhǔn)備“輕生”的用戶。

循環(huán)往復(fù)，在多次參與救援后，很多用戶因此得到了救援。但也讓用戶服務(wù)輿情組意識到了，這件事應(yīng)該納入整個工作當(dāng)中，通過主動抓取“負(fù)面情緒以及輕生傾向”的內(nèi)容，及時上報網(wǎng)警，為線下救助爭取到更多時間。

提高準(zhǔn)確率，不斷擴展篩選的信息和手段

從一開始，團隊的定位就是如何發(fā)現(xiàn)更多“疑似自殺”的內(nèi)容。在工作之初，團隊也曾遇到過兩難的境況。由于用戶的博文中，可能包含有“采取自殺行動”和“不會采取行動”的兩類情況。

開始時，團隊本能的擔(dān)心看不到“要采取自殺行動”的用戶;還會考慮所識別的用戶，僅僅是抱怨，并不會采取自殺行動，進而在對接給網(wǎng)警后，給網(wǎng)警帶來不必要的工作量。

在解決這個問題的過程中。團隊采用的是不斷完善篩選信息的來源，其中包括前臺用戶發(fā)布的博文、微博評論、超話及用戶反饋等，并不斷增加有“自殺傾向”的關(guān)鍵詞。

此外，在定位關(guān)鍵詞方面，平臺還會追溯對自殺傾向、極端情緒的微博用戶的其他圖文進行敏感內(nèi)容的分析。

如用戶常在日常博文中，提到自身的抑郁、雙向情感障礙，并分享自己的藥物等。由于自殺對象中，多和抑郁有關(guān)，張喆民認(rèn)為，這樣的關(guān)鍵詞，都可以納入檢測的范圍。

截止至今，平臺共添加收錄關(guān)鍵詞上百條，同時還劃分了一級關(guān)鍵詞和二級輔助關(guān)鍵詞。

在此期間，用戶反饋為團隊的工作提供了極大的助力，幫助了團隊及時發(fā)現(xiàn)輕生意向的用戶。每次反饋后，團隊會思考為何自己沒有發(fā)現(xiàn)，并不斷改進。如平臺過往只對文字識別，后來還可以對用戶發(fā)布的圖片進行識別。

張喆民解釋說，“很多用戶并不直接發(fā)文字，而是發(fā)帶有文字的圖片。”為此團隊在識別方式上，進一步升級，進一步擴寬了識別“輕生意向”用戶的方式。

圖注：救助案例

為了避免上傳信息不準(zhǔn)確，給網(wǎng)警帶來不必要的麻煩。團隊從最初只會提交單條內(nèi)容給到網(wǎng)警，到會增加到提交用戶之前的五條內(nèi)容作評估，這類追溯溯源進行判斷的方式，幫助了團隊工作的改進。

如今，團隊會對用戶發(fā)布的負(fù)面內(nèi)容進行分級并采取不同的反饋方式。

對于僅僅抱怨生活的負(fù)面情緒的人來說，采取只觀測不上報;對有心理負(fù)面情緒升級，并擁有一些自殺想法和計劃的用戶，則需要額外注意;對于已經(jīng)準(zhǔn)備和已經(jīng)實施自殺行為的用戶，如寫遺書、購買安眠藥、與好友告別等極端行為，則需要及時上報網(wǎng)警，協(xié)助進行自殺干預(yù)。

依托大數(shù)據(jù)和人工識別結(jié)合，不斷提升效率

在對內(nèi)容的抓取和識別的過程中，面對微博上龐大的用戶群體，單獨依靠人工既不現(xiàn)實也不助于這項工作的開展。為此，團隊很早就搭建了自身的數(shù)據(jù)模型，并不斷優(yōu)化。

為盡可能通過大數(shù)據(jù)篩選的方式，減少員工的工作量。模型不僅僅能從“輕生內(nèi)容”中找到關(guān)鍵詞，同時還從無關(guān)的內(nèi)容識別共性。

通過這種交叉識別和排除類比的方法，進一步提高準(zhǔn)確和效率。當(dāng)人工再進行監(jiān)測時，大幅度減少所看到無關(guān)內(nèi)容數(shù)量。

相關(guān)的敏感內(nèi)容，及時反饋給工作人員，再由工作人員進行人工的識別。但考慮到，由人工對用戶的歷史微博進行追溯的過程，需要10多分鐘的時間，擔(dān)心當(dāng)用戶再次發(fā)布新內(nèi)容時，無法及時發(fā)現(xiàn)。

張喆民認(rèn)為，未來也許可以將團隊判斷的邏輯，通過智能算法實現(xiàn)，用算法識別用戶的發(fā)布內(nèi)容。根據(jù)用戶發(fā)布的內(nèi)容歷史，在一定的時間范圍內(nèi)，去識別他是否發(fā)布過相關(guān)的情況，系統(tǒng)識別用戶下一步行動的敏感程度，并由此考慮是否上傳給網(wǎng)警。

4分鐘實現(xiàn)從發(fā)現(xiàn)到跨部門上報

目前，由于團隊的定位更多在發(fā)現(xiàn)。識別自殺信號后，團隊會轉(zhuǎn)交給微博內(nèi)部的二線部門，由他們將內(nèi)容匯總后轉(zhuǎn)交到內(nèi)容安全部門，再由內(nèi)容安全部門對接網(wǎng)警。

通過二線部門轉(zhuǎn)交給內(nèi)容安全部門，再上報給網(wǎng)警，整個問題流程最快只需要4分鐘。

但在張喆民看來，還可以更快。談及更理想的狀態(tài)，他認(rèn)為可以擁有一個系統(tǒng)或平臺，團隊和網(wǎng)警有一個直通的平臺，可以將內(nèi)容上傳到平臺，網(wǎng)警可以調(diào)取用戶發(fā)布的內(nèi)容和地址等信息，快速實現(xiàn)自殺干預(yù)。

數(shù)據(jù)下降背后，隱含團隊的成長和努力

從2018年6月到2022 年 7 月底，微博平臺已累計上報 5268 例疑似案例。但有趣的是，觀察平臺在 2021 年和 2022 年的信息收錄和上報的數(shù)量和比例，其趨勢是明顯下降的。

圖注：信息收錄量：指的是各渠道收錄自殺的信息總量;上報量是輿情組篩選后疑似自殺量。

而之所以會出現(xiàn)這種現(xiàn)象，和平臺的標(biāo)準(zhǔn)越來越完善有關(guān)。最初，平臺往往將帶有悲觀情緒或其他極端情緒的用戶統(tǒng)一進行上報。隨著網(wǎng)警的反饋，平臺開始結(jié)合用戶的歷史微博進行判斷。這成為數(shù)據(jù)下降的原因之一。

另一個原因，則和平臺用于識別內(nèi)容的數(shù)據(jù)模型不斷升級有關(guān)系。比如對帶有輕生相關(guān)內(nèi)容的關(guān)鍵詞識別的同事，對無關(guān)內(nèi)容的關(guān)鍵詞識別。這種方式使得內(nèi)容識別朝著更聚焦更標(biāo)準(zhǔn)的方式升級。這成為導(dǎo)致數(shù)據(jù)條目出現(xiàn)下降的另一原因。

與員工一起用心為用戶創(chuàng)造工作之外的價值

寫到最后，當(dāng)聽到最初團隊只有6人時，依舊有被震撼到。用戶服務(wù)輿情組的工作內(nèi)容并不局限于此，微博用戶的自殺干預(yù)也僅僅是她們工作的一部分。

能在如此繁重的工作下，依舊希望申請加入，可見的是，員工對企業(yè)做這件事的認(rèn)同。

值得一提的是，在用戶服務(wù)輿情組中，女性員工占比較多，加之他們的共情能力較強，往往他們對用戶的更敏感，感受和體驗也更深。在服務(wù)過程中，過往也曾有員工感到壓抑，甚至還有看完用戶內(nèi)容落淚的員工。

對此，由于團隊隸屬于用戶服務(wù)運營部，時常接收到來自用戶的用戶反饋，公司也會為員工提供相應(yīng)的培訓(xùn)，教他們?nèi)绾位庳?fù)面情緒。

除此之外，團隊還鼓勵和幫助員工找到自己放松的方式。比如，吃零食、接水或在園區(qū)散步。

員工對于工作的態(tài)度。在張喆民看來，是平臺對得起用戶信任的一種方式。帶著對這份工作的期盼，他說：“希望平臺也好，用戶也好，可以信賴著對方，然后完成各自的工作，讓良好的關(guān)系能持續(xù)地進行下去。”

啟示：讓商業(yè)、科技成為向善的支點

在過去的三年，疫情防控成為常態(tài)，自然災(zāi)害時有發(fā)生。但在這期間，我們依舊看到，越來越多的企業(yè)，利用自己的優(yōu)勢，為社會問題的解決出一份力。

越來越多的研究表明，企業(yè)用專業(yè)能力參與社會問題的解決，除了實現(xiàn)社會價值，同時也為企業(yè)帶來了經(jīng)濟上的回報。比如員工忠誠度、消費者忠誠度的提升。

越來越多的相關(guān)方，喜歡有良好社會目的的企業(yè)，越來越多的企業(yè)，也從中看到新的機遇。在產(chǎn)品或服務(wù)、價值鏈或地方集群等多個維度，添加了社會價值實現(xiàn)考慮，實踐也證明"利成于益"。

負(fù)責(zé)任經(jīng)營的企業(yè)，不但受人尊敬，還是企業(yè)可持續(xù)發(fā)展、企業(yè)常青的關(guān)鍵所在。

作者：張威威

轉(zhuǎn)載自公眾號：向善實驗室

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）