數字化時代，直播已成為廣泛流行的傳媒方式。據第51次《中國互聯網絡發展狀況統計報告》顯示，截至2022年12月，我國網絡直播用戶規模達7.51億，占網民整體的70.3%。同時，直播短視頻的市場規模也極為巨大，根據《2023中國網絡視聽發展研究報告》，2022年網絡直播領域市場規模為1249.6億。海量的用戶和巨大的市場推動網絡直播行業蓬勃發展。
視頻直播如火如荼發展的同時，也帶來了許多問題。低俗直播、涉黃直播、直播間謾罵、引流、涉暴恐等問題層出不窮。杭州亞運會期間，“清朗·杭州亞運會和亞殘運會網絡環境整治”專項行動查處一批違法違規網絡賬號。
針對直播中出現的各類內容違規問題，中國移動貫眾和盾產品基于先進的AI識別技術和人工審核系統，推出直播內容檢測，結合直播拉流抽幀、圖像識別、語音識別、文本審核、行為分析、實時人工復審等全流程服務，構建智能、高效的直播內容安全防護系統，為直播平臺及用戶提供安全、健康的直播環境。
圖1：和盾直播流內容防護功能
和盾直播內容防護系統具備諸多優勢：
（1）AI能力:基于業界先進的ResNeSt和transformer網絡框架，可以快速準確地檢測直播視頻和音頻文字中的不良內容。目前已具備直播涉政、涉黃、謾罵、涉暴等多種檢測能力，其中涉黃檢測準確率達97%（內部測試結果），處于業界先進水平。
（2）秒級抽幀：采用自研實時抽幀技術，用戶可動態調整直播流的抽幀頻率。在重點場景可設置高頻抽幀，頻率為1～2秒，最大可能避免不良內容的漏檢。在普通場景可設置關鍵幀抽幀，頻率為5～10秒，可減少服務資源的壓力。
（3）高效監測：系統可7×24h不間斷運行，最大可支2000路2k高清直播流的同時接入。采用該系統可減少直播平臺管理人數，無需大量審核員不斷監控直播，極大降低人力成本的同時提高監測效率。
（4）靈活配置：直播內容安全防護系統支持用戶靈活配置。用戶可以根據具體場景需求進行個性化設置。例如自定義抽幀頻率、審核時長、敏感詞庫、違規標準、審核策略等內容，選擇最適合的策略守護直播內容安全。
目前，中國移動貫眾和盾產品已應用于移動看家慢直播、和家親、移動辦公、移動高清等86個業務，累計過濾消息254億條，攔截違規消息近2億條。
未來，和盾直播內容防護系統將持續致力于為更多直播平臺和企業提供安全、可靠的直播環境，為廣大用戶帶來更加優質的直播體驗，提供更加全面、高效的安全防護能力，推動直播行業的健康發展。
