【51CTO.com原創(chuàng)稿件】日前，網易易盾舉辦了一場2019內容安全智能體系發(fā)布會，分享易盾對內容安全體系建設的前瞻思考，并正式發(fā)布了面向智能時代的審核管理系統(tǒng)。中國人工智能產業(yè)發(fā)展聯盟辦公室主任、網信技術委員會秘書長石霖、央視網網絡安全部副總監(jiān)黃樂受邀發(fā)表主題演講，現場一百多位企業(yè)內容風控人員全程參與了本次活動，共同研討內容安全體系建設和實踐。在會后，網易易盾CTO朱浩齊和網易易盾產品總監(jiān)饒曉艷還共同接受了媒體的采訪，分享了網易易盾內容安全體系的創(chuàng)新之處和應用價值。

　　內容識別產業(yè)初見雛形 三大困局待破解

　　石霖表示，在互聯網飛速發(fā)達的時代，大量的有害信息也相伴相生，文字、圖片、音視頻不僅是傳遞互聯網信息的有效載體，也成為了色情、暴、恐等有害信息傳播的載體。

　　他透露了一個專網通報數據，僅在2019年11月，各級網信部門就受理了970多萬件有害信息的舉報，幾乎每位網民都曾經受到有害信息的侵擾。國家一直在出臺各種相關管理規(guī)定，今年10月網絡音視頻管理規(guī)定中，明確要求相應的媒體、網絡音視頻提供者，在傳播發(fā)布視頻時要具有相應的檢測手段。而很多廠商也在積極參與，落地使用人工智能等技術來識別和處理文字、語音、圖像、視頻中存在的有害信息。

　　石霖還指出內容識別產業(yè)仍然處于起步階段，還有三大問題亟待解決：一是標準的缺失，二是訓練數據的缺失，三是傳播形式愈加復雜。

　　智能做抓手，網易易盾一直在創(chuàng)新突破

[[286703]]

網易易盾CTO朱浩齊

　　對于內容安全當下的現狀，網易易盾CTO朱浩齊表示，為此易盾構建了面向未來的內容安全體系，希望通過智能驅動、統(tǒng)一聯動、個性定制、共建眾治的體系，能夠全面高效地解決內容安全治理中的一些難題。

　　朱浩齊告訴記者，隨著法律法規(guī)越來越完善，再加上企業(yè)社區(qū)氛圍調性建設，以及企業(yè)積極承擔起社會責任，需要內容安全服務的企業(yè)也越來越多。他以蘋果應用商店為例，AppStore有40多個應用類型的分類，每個分類都有上千款App，而這里面絕大部分App都有內容安全的需求。不僅如此，像不少傳統(tǒng)行業(yè)也開始需要內容安全技術的幫助，例如金融行業(yè)，為了增加用戶黏性，也開始做互動評論，這也使得他們的產品/社區(qū)必然遭受有害信息的侵擾。“內容安全正在上升期，到了2025年預計智能終端設備將上升到80億規(guī)模，這些終端產生的信息將達到驚人的程度，一些有害信息的規(guī)模也可想而知。所以必須從眼下就著手內容安全生態(tài)的建設，而人工智能就是非常好的一個抓手。”

　　據了解，本次網易易盾升級的內容安全智能體系就是利用智能驅動：目前99.8%以上的海量實時多媒體內容都可以被智能技術精準識別過濾。自然語義、圖像識別、聲紋識別等都在內容安全領域有成熟徹底的落地。而這，背后是網易易盾在技術上的持續(xù)打磨和迭代，光今年僅在圖片檢測能力升級上，就新增40+細分類模型，重要更新50次，性能提升30%，召回和精確度提升10%……

　　據朱浩齊透露，智能驅動更加高效，漏判率遠低于純人工審核，智能指標模型精確度非常高，這得益于網易擁有海量的訓練數據，能夠搜集到大量的誤判數據，從而幫助機器提升誤判基線。他告訴記者，傳統(tǒng)的內容審核往往是依賴關鍵詞，但是網易易盾建立了智能關鍵詞模型，能夠進行上下文的語義理解，從而結合整篇文章的語句進行判斷，準確率高。更重要的是，還節(jié)省了大量的人力成本，將人工審核的工作量至少降低80%，這也就意味著用戶如果采用網易的內容安全技術，僅需很少的人力成本就可以實現內容安全高度控制。

[[286704]]

網易易盾產品總監(jiān)饒曉艷

　　饒曉艷坦言，其實灰黑產也一直緊跟新興科技發(fā)展步伐，不斷嘗試用更新的手段隱藏自己。例如過去不法分子將關鍵信息隱藏在文本中，看似是無意義的字符串，傳統(tǒng)內容安全技術識別不出問題，但是現在通過網易易盾的技術做文本內容聚類，就可以真正識別出這些隱藏的非法信息。再以圖像信息為例，灰黑產在不同圖片的不同位置放置二維碼，試圖瞞天過海，一般的內容安全技術的確識別出來，但是通過圖像聚類就可以火眼金睛識別出來。“雖然灰黑產一直都沒有停止擴充的步伐，但我們的技術一直在進步，研發(fā)創(chuàng)新也一直在突破，遏制他們發(fā)展勢頭。”

　　面向智能時代設計的審核管理系統(tǒng)

　　在本次發(fā)布會上，網易易盾還發(fā)布了面向智能時代設計的審核管理系統(tǒng)。之所以推出這套審核管理系統(tǒng)，是因為傳統(tǒng)審核長久一直缺乏相應通用規(guī)范，操作后臺長期得不到研發(fā)支持，大多數審核管理系統(tǒng)存在操作繁瑣、設計陳舊、功能落后，甚至有些操作需要在多個后臺跳轉處理的問題。

　　饒曉艷表示，相比較爆發(fā)式的內容增長和日趨嚴格的監(jiān)管要求，審核管理系統(tǒng)已成為企業(yè)內容安全的最大短板，嚴重影響了審核效率和安全要求。而網易易盾此次發(fā)布的審核管理系統(tǒng)是面向智能時代的審核機制而設計，具有功能豐富、智能高效、輕量靈活、交互友好四大優(yōu)勢。“審核人員是企業(yè)內容安全的重要保障力量，為公司健康發(fā)展付出了很多，非常高興可以為審核人員設計一套友好有溫度的管理系統(tǒng)，讓他們的工作更加輕松快捷。”

　　網易易盾脫胎于網易安全部，扎根內容安全領域已超過20年，2016年對外商用以來，已服務數千家企業(yè)，其中不乏OPPO/VIVO、B站、一直播等知名客戶，每日過濾有害信息超過十億條，目前已是國內領先的內容安全和業(yè)務安全服務商。

【51CTO原創(chuàng)稿件，合作站點轉載請注明原文作者和出處為51CTO.com】