【51CTO.com原創(chuàng)稿件】2017年1月8日，天公作美吹散了漫天霧霾，網(wǎng)易大廈在周末的下午迎來(lái)了一百多位互聯(lián)網(wǎng)運(yùn)營(yíng)小伙伴，共聚“億級(jí)互聯(lián)網(wǎng)產(chǎn)品背后的故事”線下沙龍，一起討論互聯(lián)網(wǎng)內(nèi)容安全運(yùn)營(yíng)的話題。

　　談及舉辦這場(chǎng)活動(dòng)的初衷，網(wǎng)易易盾總經(jīng)理周森表示，隨著國(guó)內(nèi)互聯(lián)網(wǎng)的蓬勃發(fā)展，網(wǎng)民數(shù)量的激增，互聯(lián)網(wǎng)的運(yùn)營(yíng)工作越來(lái)越難：例如對(duì)用戶上傳內(nèi)容尺度難以把握、海量垃圾信息騷擾難清理、垃圾樣本變化多端難過(guò)濾、人力審核成本不堪重負(fù)……

　　那么這些問(wèn)題該如何解決?不同階段的運(yùn)營(yíng)會(huì)遇到哪些典型問(wèn)題?互聯(lián)網(wǎng)安全的真實(shí)現(xiàn)狀又是怎樣一番場(chǎng)景?未來(lái)該往什么方向發(fā)展?為了解答這一連串的疑問(wèn)，周森領(lǐng)導(dǎo)的網(wǎng)易易盾團(tuán)隊(duì)邀請(qǐng)了美拍、暢游游戲，以及網(wǎng)易自身的資深運(yùn)營(yíng)專家予以解答，通過(guò)他們的講述，我們不僅可以聽到運(yùn)營(yíng)者們背后的故事，對(duì)于互聯(lián)網(wǎng)內(nèi)容安全的未來(lái)發(fā)展更是有了更清晰的判斷。

[[181289]]

　　網(wǎng)易跟貼：讓用戶遇見另一個(gè)自己

　　孫媛媛是沙龍第一位發(fā)言嘉賓，身為網(wǎng)易跟帖運(yùn)營(yíng)主管的她，從自己工作的角度，向大家介紹了網(wǎng)易跟帖背后的運(yùn)營(yíng)故事。

[[181290]]

　　孫媛媛先介紹到，網(wǎng)易跟貼是網(wǎng)易門戶新聞下的網(wǎng)友評(píng)論，內(nèi)容以犀利有才著稱，是網(wǎng)易新聞的特色，也是中國(guó)網(wǎng)民智慧和社會(huì)生態(tài)的集中反映。目前網(wǎng)易跟貼累計(jì)注冊(cè)用戶數(shù)達(dá)到3億+，日均參與頂、踩的用戶數(shù)近9000萬(wàn)，日均發(fā)貼條數(shù)120萬(wàn)+，日均發(fā)貼用戶數(shù)30萬(wàn)+，已經(jīng)成為國(guó)內(nèi)最活躍、最有深度的新聞評(píng)論社區(qū)。

　　“我們的工作就是要保證優(yōu)質(zhì)的跟貼內(nèi)容能夠凸顯出現(xiàn)，同時(shí)保持觀點(diǎn)的多樣性，吸引大家評(píng)論。”孫媛媛透露，跟帖越踴躍，運(yùn)營(yíng)工作者的工作就繁重，網(wǎng)易的運(yùn)營(yíng)人員平均每天要審核6000-8000條跟貼，內(nèi)容包括政治敏感、廣告、低俗、色情、刷屏五花八門。

　　正如孫媛媛所強(qiáng)調(diào)的，建立的人與人之間的關(guān)系是以內(nèi)容為前提，在優(yōu)化用戶的閱讀體驗(yàn)、探索互動(dòng)運(yùn)營(yíng)的過(guò)程中，內(nèi)容的健康非常重要，也是互聯(lián)網(wǎng)社交類產(chǎn)品的立足根本。

　　美拍：談?wù)勆鐓^(qū)產(chǎn)品反作弊與內(nèi)容監(jiān)控

[[181291]]

　　美拍安全產(chǎn)品經(jīng)理田孟月的發(fā)言非常接地氣兒，她不僅列舉了大量實(shí)際社區(qū)運(yùn)營(yíng)案例，更是從運(yùn)營(yíng)者的角度出發(fā)，對(duì)社區(qū)產(chǎn)品運(yùn)營(yíng)給出非常多有效的建議。

　　她率先談到了大家經(jīng)常遇到的作弊行為，其中既有針對(duì)電商的刷單行為，也有針對(duì)廣告文章刷閱讀數(shù)刷贊行為，還有針對(duì)社交的刷粉絲行為。這些作弊行為以營(yíng)利為目的，既傷害了用戶體驗(yàn)，也影響了社區(qū)/產(chǎn)品氛圍。

　　她以美拍為例，介紹社區(qū)產(chǎn)品常見的作弊形態(tài)，如SEO營(yíng)銷、廣告騷擾、色情、上熱門等。那么該如何發(fā)現(xiàn)作弊行為呢?她給出了五個(gè)建議：一是通過(guò)產(chǎn)品統(tǒng)計(jì)數(shù)據(jù)監(jiān)控，二是通過(guò)業(yè)務(wù)數(shù)據(jù)例行評(píng)估、三是通過(guò)舉報(bào)數(shù)據(jù)分析、四是進(jìn)行產(chǎn)品前端巡查，最后是依靠群眾的力量，從用戶反饋中發(fā)現(xiàn)端倪。

　　當(dāng)談到如何進(jìn)行高效的內(nèi)容監(jiān)控時(shí)，田孟月認(rèn)為，內(nèi)容審核不僅僅局限于文字，還包括圖片、視頻、音頻，人工審核已經(jīng)漸漸無(wú)法完成海量的審核任務(wù)，應(yīng)該充分發(fā)揮技術(shù)優(yōu)勢(shì)，提高審核效率，減少人工審核成為。除此之外，敏感詞的詞庫(kù)需要及時(shí)更新，違規(guī)的內(nèi)容要上報(bào)，與上級(jí)主管單位保持聯(lián)系，確保內(nèi)容審核工作與時(shí)俱進(jìn)。

　　暢游游戲：一夫當(dāng)關(guān) 豎游戲安全之盾

　　邢哲源是暢游游戲安全工程師，他表示在游戲安全領(lǐng)域內(nèi)，每天都會(huì)面臨著不同的威脅，其中以盜號(hào)、作弊和垃圾信息最為常見。目前隨著個(gè)人電腦和安全軟件的普及、硬件密保和手機(jī)密保的推廣，賬號(hào)安全問(wèn)題已經(jīng)得到的極大的改善，反作弊與反垃圾信息就成為了工作的重點(diǎn)。

　　這些作弊行為和發(fā)送垃圾信息的行為，對(duì)內(nèi)影響游戲內(nèi)商城收益，擾亂游戲內(nèi)經(jīng)濟(jì)系統(tǒng)，更關(guān)鍵的是，外掛賬號(hào)發(fā)送大量無(wú)用的數(shù)據(jù)包，影響服務(wù)器性能并占用帶寬資源;對(duì)外而言，對(duì)于游戲玩家來(lái)說(shuō)，大量明顯的“非人”賬號(hào)堆積在一起容易影響玩家情緒和感官，可以說(shuō)是百害無(wú)一利，人人欲誅之。

　　邢哲源表示，在最初，他們采取的措施是技術(shù)對(duì)抗，通過(guò)技術(shù)手段“發(fā)現(xiàn)”游戲客戶端可能存在的外掛程序;隨后發(fā)展成數(shù)據(jù)分析，他們根據(jù)用戶的集群性和行為相似性，帶入合理的模型進(jìn)行分析，從而發(fā)現(xiàn)目標(biāo)。“現(xiàn)在我們已經(jīng)可以兩者結(jié)合在一起，根據(jù)不同項(xiàng)目不同時(shí)期需求進(jìn)行調(diào)整。”

　　在邢哲源看來(lái)，處罰規(guī)則是整個(gè)反作弊&反垃圾體系中最重要的環(huán)節(jié)，他認(rèn)為，以維護(hù)游戲環(huán)境和諧為職責(zé)的他們，不僅需要打擊罪惡，同時(shí)也需要“引人向善”，于作弊者，每一次的處罰都是一次試錯(cuò)過(guò)程，簡(jiǎn)單的處罰規(guī)則更容易破解。“中間的度一定要把握好。”

　　網(wǎng)易易盾：內(nèi)容優(yōu)化運(yùn)營(yíng)實(shí)戰(zhàn)策略及企業(yè)級(jí)產(chǎn)品經(jīng)驗(yàn)交流

[[181292]]

　　網(wǎng)易易盾高級(jí)產(chǎn)品經(jīng)理饒曉艷一上臺(tái)，底下聽眾的議論就不絕于耳，在大家看來(lái)，畢竟前面幾位發(fā)言嘉賓珠玉在前，看上去這么年輕的一個(gè)女士，能聊出什么新料呢?可饒曉艷發(fā)言結(jié)束后，臺(tái)下報(bào)以熱烈持久的掌聲，這是對(duì)她發(fā)言的肯定，也是對(duì)網(wǎng)易易盾做了大量幕后工作的敬意與認(rèn)同。

　　饒曉艷首先表示，這是一個(gè)內(nèi)容為王的時(shí)代，從流量到場(chǎng)景，從產(chǎn)品到人，都在圍繞著內(nèi)容做文章。那究竟為什么在內(nèi)容運(yùn)營(yíng)中要專門做反垃圾呢?饒曉艷以音樂(lè)評(píng)論舉了一個(gè)例子，目前我國(guó)云音樂(lè)的用戶數(shù)突破2個(gè)億，在UGC方面，用戶自主創(chuàng)建歌單超過(guò)8000萬(wàn)，大約有50%的用戶會(huì)邊聽歌邊看評(píng)論，音樂(lè)評(píng)論總量已經(jīng)超過(guò)2億條。“在這些評(píng)論中，摻雜著大量廣告、低俗信息，極大地影響了評(píng)論者的使用感受和評(píng)論積極性。” 饒曉艷談到，對(duì)運(yùn)營(yíng)者而言，大量違規(guī)的垃圾信息的存在，也違反了國(guó)家規(guī)定，給運(yùn)營(yíng)工作帶來(lái)了極大的風(fēng)險(xiǎn)。

　　她將發(fā)垃圾的不法分子稱之為“垃圾蟲”，并將這類人群的特點(diǎn)歸納成六類，那就是占領(lǐng)熱門、不分晝夜、持續(xù)對(duì)抗、分工協(xié)作、利益明確、法律邊緣。

　　那么究竟該如何對(duì)癥下藥呢?饒曉艷表示，網(wǎng)易易盾的做法是首先明確產(chǎn)品主要的垃圾分類，是屬于網(wǎng)友普通的情緒謾罵，還是專業(yè)團(tuán)隊(duì)打擦邊球打廣告，還是明知法律令行禁止發(fā)布反動(dòng)內(nèi)容?

　　做好分類之后，就要根據(jù)內(nèi)容的形式進(jìn)行過(guò)濾，看用戶是通過(guò)文字內(nèi)容、圖片內(nèi)容、視頻內(nèi)容還是音頻內(nèi)容進(jìn)行傳播?文字內(nèi)容的過(guò)濾大家往往都比較了解，但是像圖片過(guò)濾就需要用到機(jī)器學(xué)習(xí)、魯棒圖片特征檢測(cè)、人臉識(shí)別這些技術(shù)了。而視頻過(guò)濾則用到視頻轉(zhuǎn)碼壓縮、視頻流分析、截圖分析、視頻特征識(shí)別等技術(shù)。

　　“以圖片識(shí)別為例，網(wǎng)易易盾的服務(wù)目前可以支持人臉識(shí)別、色情圖片檢測(cè)、動(dòng)漫識(shí)別、相似匹配、水印識(shí)別等多種識(shí)別方式。” 饒曉艷還表示，在語(yǔ)音過(guò)濾領(lǐng)域，網(wǎng)易積累多年經(jīng)驗(yàn)，語(yǔ)音MD5庫(kù)實(shí)時(shí)過(guò)濾有害語(yǔ)音，可以同時(shí)將語(yǔ)音轉(zhuǎn)成文字進(jìn)一步過(guò)濾。

　　正所謂“眼見為實(shí)”，饒曉艷在現(xiàn)場(chǎng)打開網(wǎng)易易盾的官網(wǎng)，在產(chǎn)品界面，向大家演示了圖片、文字的過(guò)濾識(shí)別，如此簡(jiǎn)便易操作的方式贏得了大家的認(rèn)可。

　　在線下會(huì)議結(jié)束時(shí)，還有聽眾針對(duì)她所介紹的網(wǎng)易易盾產(chǎn)品不斷提問(wèn)，追問(wèn)細(xì)節(jié)，可見眾人對(duì)網(wǎng)易易盾產(chǎn)品的興趣濃厚。

　　也有的聽眾問(wèn)，為什么網(wǎng)易如此關(guān)注互聯(lián)網(wǎng)內(nèi)容安全話題?其實(shí)這位聽眾有所不知，網(wǎng)易可能是國(guó)內(nèi)最有發(fā)言權(quán)的互聯(lián)網(wǎng)權(quán)威之一了，從關(guān)鍵詞、黑白名單到過(guò)濾器這些反垃圾技術(shù)應(yīng)用之日起，網(wǎng)易的反垃圾團(tuán)隊(duì)經(jīng)過(guò)了19年的技術(shù)積累，并且早已將大數(shù)據(jù)分析、人機(jī)識(shí)別、人工智能這些新興技術(shù)應(yīng)用到反垃圾實(shí)踐中。2017年，記者希望中國(guó)互聯(lián)網(wǎng)內(nèi)容安全可以吸引越來(lái)越多的人參與，網(wǎng)易易盾也能充分發(fā)揮技術(shù)優(yōu)勢(shì)，幫助更多的互聯(lián)網(wǎng)客戶實(shí)現(xiàn)全面的內(nèi)容安全。

【51CTO原創(chuàng)稿件，合作站點(diǎn)轉(zhuǎn)載請(qǐng)注明原文作者和出處為51CTO.com】