本文來自 “TechWeb”
在“人人都是主播，萬物皆可直播”的時代，為了嚴防低俗內容出現，國內領先遊戲直播平臺鬥魚(DOYU.US)不斷投入技術研發，優化完善平臺規則，嚴打低俗庸俗內容，用AI構建內容防火牆。
今年3月起，鬥魚對直播內容進行了分類巡查和整治，針對色情三俗、造謠傳謠、侵權假冒、標題黨等六大類惡意營銷賬號進行了全面深度排查，對問題賬號進行了從重、從快處理。今年6月份，鬥魚累計清理問題賬號4099個，其中低級庸俗類3200個、標題黨類861個、造謠傳謠類20個、侵權假冒類18個。截至目前，鬥魚內容整治措施已取得了實際到位的效果。
在鬥魚內容監管體系下，平臺所有開播主播均需要通過“實名驗證+人臉識別+人工審核”三道防火牆，既能夠從源頭防止劣跡主播直播，也能杜絕未成年人進行直播，並能在主播違規後第一時間追蹤到個人，預防後續惡性事件的發生。
主播開啟直播間後，其所產出的直播視頻內容就在AI系統裏不停運轉，每個畫面都會通過程序做實施對應識別，一旦機器自動識別到低俗、惡搞、謾罵等不良內容，攔截違規的圖像視頻，平臺可以對這些不良內容做到“秒關”。在顏值、户外等泛娛樂版塊，系統還會同步採取捕捉交傳聲信息進行分段切片，並通過數據模型進行分析、通過語音、語義、彈幕文字等關鍵點進行智能判斷識別，過濾問題內容推送至人工審核。
據瞭解，鬥魚的AI審核技術已經發展的相當成熟，目前在直播領域裏，鬥魚對圖片、視頻、音頻的鑑黃準確度都非常高，已經可以對外輸出該項技術能力。對比其他平臺，鬥魚擁有更加龐大的、獨特的用户數據和行為數據，並且能夠基於海量用户數據進行分析運算。對比早期鬥魚只能應用第三方數據進行圖片識別，目前平臺均已實現自主建模。相對於第三方數據，鬥魚風險識別系統經過長期數據篩選、培育和自學習後，積累了大量的違規特徵數據，構建了強大計算能力，使得自身的風險識別模型更加精準。
除了自動化監管外，鬥魚採取機器審核和人工審核相結合的方式，通過後台監控、人員巡查、機器識別以及舉報處理等各種途徑對所有直播頻道進行全天24小時監控。為進一步防止出現“漏網之魚”，鬥魚還設立了電話舉報、網頁和APP一鍵舉報等功能，更特別集結招募熱心觀眾對全平臺直播相關內容進行監督與巡查。截止目前，鬥魚巡管團隊共計參與報名人數為17萬餘人，已有2000餘名鬥魚熱心觀眾加入。
除此之外，鬥魚還特別制定了完善的應急處置制度，涵蓋“突發公共安全事件的應急處置制度、應急響應預案、互聯網突發事件應急處置預案”等各項內容，提高重大安全事件、突發敏感事件的應急處理能力，從根源將事件的影響降到最低，所造成的破壞和損失減到最小。
在鬥魚的嚴格審核和封禁措施下，“清朗”行動頗具成效。鬥魚表示，未來平臺將持續完善內容審核機制，充實內容審核團隊，嚴格落實24小時監測的要求，不斷推進網絡直播行業的生態趨向健康。
(編輯：李國堅)