70分鐘，與死神賽跑
6月26日21時許，快手員工正在對用戶直播進行常規(guī)巡查，突然發(fā)現(xiàn)一個直播間的畫面中，男子躺在沙土地上，臉色蒼白，手腕鮮血淋漓。
“是自殺！快報警！”快手社區(qū)安全員工張洋立即啟動應(yīng)急響應(yīng)，第一時間掐掉直播，并將相關(guān)信息推送給客服團隊。不到10分鐘，客服團隊就與屬地云南省個舊市公安局建立了聯(lián)動關(guān)系。
圖為民警在高架橋下找到輕生者李林（個舊市公安局提供）
只有大體位置，本著生命至上的原則，在快手平臺協(xié)助下，個舊市公安局立即安排民警摸黑展開地毯式搜尋。經(jīng)過70分鐘的全力搜索，繞過三個高架橋之后，當天22時30分，民警終于在大屯轄區(qū)某高架橋下找到已經(jīng)跳下高架橋且割腕的李林。經(jīng)過醫(yī)生的救治和民警的安撫，李林生命體征平穩(wěn)、情緒逐漸趨于穩(wěn)定，已被家屬帶回家做進一步觀察。
今年25歲的李林，只因欠了4000塊錢外債，周圍親友拒絕借錢幫其償還，心灰意冷的他選擇從高架橋一躍而下，發(fā)現(xiàn)沒死后用玻璃劃破手腕，在手機鏡頭前等死。
快手的快速響應(yīng)，民警的及時救援，一場悲劇被成功阻止。
圖為民警在安撫李林（個舊市公安局提供）
在快手，這樣驚心動魄的場景并非偶然，社區(qū)安全和客服團隊每天都要處理多起類似事件。今年以來，快手社區(qū)安全和客服團隊已聯(lián)動各地警方救援270余名試圖自殺自殘的用戶。
算法賦能+多方聯(lián)動，阻擋自殺自殘
作為一款國民級應(yīng)用，每天有大量的人在快手上記錄生活的點點滴滴，直播自己的喜怒哀樂。然而，在網(wǎng)絡(luò)的某個角落里，一些人正在面對人生的至暗時刻。
湖北巴東一名女孩，因為失戀而抑郁，不停上傳有明顯自殺傾向的作品；吉林一名網(wǎng)友直播時一邊拿著藥盒，一邊激動地講述自己悲慘經(jīng)歷，表示自己不想活了……快速變化的社會里，很多人處于多重壓力環(huán)境下，自殺自殘事件愈發(fā)常見，容易因一件小事情緒崩潰，沖動決定自殺。
對于日活躍用戶數(shù)超過3億的快手而言，每天有海量的用戶上傳視頻作品、開直播。僅靠人工無法審核全部的內(nèi)容，在技術(shù)和算法的賦能下，有自殺自殘傾向的作品，系統(tǒng)會第一時間識別并自動攔截。在直播中出現(xiàn)自殺、揚言自殺等內(nèi)容，系統(tǒng)警報會立即拉響，相關(guān)直播很快被關(guān)閉。
然而，僅僅是刪除或屏蔽相關(guān)視頻作品、關(guān)掉直播，并不能完全攔阻自殺自殘行為繼續(xù)進行。快手社區(qū)安全和客服團隊不停琢磨，認為除了處理相關(guān)作品和直播，還應(yīng)該采取更加積極主動的手段，去干預(yù)自殺自殘的行為。
經(jīng)過不停嘗試和摸索，快手社區(qū)安全和客服團隊建立了一套相對完備的自殺自殘干預(yù)處置策略，搭建了快速反饋流程。直播判罰結(jié)果為“自殺自殘”的，直播會立即被關(guān)閉，相關(guān)信息會同時推送給客服團隊，由客服團隊確認后迅速聯(lián)動警方介入；對于有自殺自殘傾向的作品，風控會召回相關(guān)用戶和作品，通過線上流程及時推送給客服團隊，由客服團隊確認后聯(lián)動警方介入干預(yù)；一線評級團隊發(fā)現(xiàn)相關(guān)異常情況也會快速同步給客服團隊。
別怕，我們都在
3月18日凌晨，在一個直播間里，一名男子手持電棍坐在車上，旁邊還有一名疑似被控制的女子，身上僅穿內(nèi)衣，有傷害自殘傾向。相關(guān)信息很快就被快手社區(qū)安全團隊捕捉到，隨后被推送至客服團隊。當晚值班的客服團隊劉坤很快向?qū)俚厣綎|濱州警方報警求助。
在客服團隊協(xié)助下，濱州市公安局沾化分局立即開展調(diào)查工作，妥善處理了該事件，及時消除了負面影響。事后，當?shù)鼐竭€給快手公司發(fā)來一封感謝信。
圖為感謝信
“危機干預(yù)是一場戰(zhàn)斗，當事人在痛苦掙扎的同時，我們都不能袖手旁觀。“劉坤說，在這一點上，快手和警方的目標是一致的。在干預(yù)自殺自殘上，快手與各地警方已經(jīng)建立了密切的協(xié)作關(guān)系。
其實，在與死神對抗的過程中，不僅僅只有當事人，快手、警方、第三方機構(gòu)都在另一端默默努力著。
除了處置賬號和內(nèi)容、報警介入等直接干預(yù)手段，情緒的紓解與表達也是自殺自殘干預(yù)中的關(guān)鍵。
圖為快手高敏關(guān)鍵詞搜索結(jié)果頁面
在快手搜索“自殺”“自殘”“我想死”等極端關(guān)鍵詞，會發(fā)現(xiàn)置頂顯示的是一個名為“別怕，我們都在”的心理咨詢H5宣傳頁。點開宣傳頁，是一個自動滾動的“群聊”信息頁面。“這個世界雖然不完美，但愛和關(guān)心不會缺少”“沒有爬不過的山?jīng)]有過不了的坎，所有的一切都會隨風過去”“沖鴨，今天也要開心鴨”等“群聊”信息映入眼簾，最后還附上24小時免費心理危機咨詢熱線的電話號碼。
在H5頁面下方，系統(tǒng)會自動展現(xiàn)平臺內(nèi)各類正向內(nèi)容，向特定用戶提供情緒紓解與表達的渠道。在快手，這樣潤物細無聲的舉措還有不少。
“做細小而正確的事，這符合我們的價值觀。”快手相關(guān)負責人說，自殺自殘干預(yù)困難重重，策略還要不斷迭代完善，還有很多漏洞需要填補，但我們會一直堅持做下去。（文中人名均為化名）