網易易盾總經理朱浩齊:內容風控已成網際網路公司的新生命線 未來的內容風控形式將向結構化方向發展。



時至今日,很少有網際網路企業會否認內容風控的重要性。不少網際網路公司頻頻因為內容安全問題中招,尤其是在網民大量聚集的社交、資訊、娛樂類產品中,內容風控在某種程度上可以稱做平臺的生命線。

很長一段時間裡,網際網路公司都通過不斷招聘內容稽覈人員來解決這一問題。2018年,今日頭條一度將4000人規模的稽覈團隊擴張至10000人。在海外,Facebook幾乎每年都要以外包形式招聘幾千名內容稽覈員,去年這個數字也增長到了1萬餘名。

但隨著內容形式和風險種類的增多,不斷擴大稽覈團隊的規模,已經不再是這個問題的最優解。如今,購買內容風控服務成為一種潮流,而以網易、騰訊、阿里等為首的大廠,是這個領域的最熱玩家。

網易易盾是網易旗下一站式數字內容風控品牌。在其業務商業化五週年之際,網易易盾總經理朱浩齊接受了介面新聞專訪。在採訪中,他分享了易盾在內容風控領域的經驗,以及對行業趨勢的看法。

毫無疑問,現在是內容風控行業高速增長的時代。尤其是在2017年《網路安全法》頒佈之後,不少企業對內容風控的重視程度直線上升。朱浩齊透露,近幾年來,網易易盾的營收和新客戶的年增長率都在40%-50%左右,已經成為細分領域的頭部玩家。


易盾主要有兩類競爭者。一是國內網際網路大廠,也擁有相應的內容風控服務,但鑑於公司的資源主要還是投入在發展更為成熟的業務上,在安全行業的角色更貼近於跟進者,並未將內容風控作為公司的主要戰略;第二類則是創業公司,近年來頗為活躍,但在朱浩齊看來,內容風控領域需要大量的應對經驗積澱,這可能是創業公司面臨的最大挑戰。

“如果只把內容風控當成一件純技術性的事情,只需要準備一些訓練資料,再做一些模型拿來用,也可以拿出去做生意。但如果是真正經歷過內容安全痛苦的企業就會知道,這種服務很難滿足真實場景中的多變需求,這是這個行業最大的門檻。”朱浩齊說。

延伸閱讀  騰訊捐贈5000萬,緊急馳援山西救災

許多人對網易的B端業務感到陌生。據朱浩齊介紹,網易有包括郵箱、音樂、遊戲、輕部落格等在內的多款內容產品,過去出於產品自身的發展,為了避免垃圾資訊破壞產品氛圍,需要在內容運營上引導使用者,由此也積澱了完善的內容風控體系,這便是網易易盾的由來。

他認為,易盾的優勢在於更豐富的行業經驗。以音樂產品為例,音樂軟體中涉及到大量的文字歌詞,這是比圖片更難識別的內容種類。“違規資訊的種類是多種多樣的,一些音樂人在翻唱歌曲時,會刻意將其中的歌詞改成違規內容,通過原有旋律及歌曲名進行傳播,另外一些沒有歌詞的歌曲,需要帶旋律去識別,這也需要大量的訓練才能準確識別。”

儘管AI識別技術不斷成熟,但在下游仍然需要大量的人工輔助。這是因為,雖然每個平臺都有一套內容稽覈標準,但內容的評判很難完全依賴死板的規定,人工稽覈員都難以給出統一的準確決策,更不用提AI。因此,利用AI將疑似有害內容傳送給人工稽覈進行二次判斷,是目前行業的普遍選擇。

朱浩齊提到,未來的內容風控形式可能是更結構化的。一些內容適用於A平臺,但並不適用B平臺,一味封禁可能會不利於使用者體驗。當現有評判標準無法準確判斷內容是否“好”或“壞”時,易盾會給內容資訊增加更多標籤,最後提供一個結構化的結果給企業自己做判斷。企業可以依據這些標籤來判斷內容是否適合自身。

下一個五年,易盾的目標是是優化技術,讓評判標準更加精準,以減少重複地、機械性的人工稽覈,提高人力效能;另一方面,進一步豐富檢測的維度,不僅僅識別內容,也識別發出內容的人本身,用更多維度來提升識別的準確性,避免風險的產生。

從全球網際網路發展現狀來看,無論是網民數量、上網時長還是網際網路內容種類都在飛速增長,網際網路公司應對的內容風險也因此變得越來越複雜。朱浩齊認為,內容風控是全球網際網路公司的長期挑戰,產業鏈仍然有許多待完善環節,行業的天花板仍然很高。

Scroll to Top