【51CTO.com原創(chuàng)稿件】2017年1月8日，天公作美吹散了漫天霧霾，網(wǎng)易大廈在周末的下午迎來了一百多位互聯(lián)網(wǎng)運營小伙伴，共聚“億級互聯(lián)網(wǎng)產(chǎn)品背后的故事”線下沙龍，一起討論互聯(lián)網(wǎng)內(nèi)容安全運營的話題。

　　談及舉辦這場活動的初衷，網(wǎng)易易盾總經(jīng)理周森表示，隨著國內(nèi)互聯(lián)網(wǎng)的蓬勃發(fā)展，網(wǎng)民數(shù)量的激增，互聯(lián)網(wǎng)的運營工作越來越難：例如對用戶上傳內(nèi)容尺度難以把握、海量垃圾信息騷擾難清理、垃圾樣本變化多端難過濾、人力審核成本不堪重負……

　　那么這些問題該如何解決?不同階段的運營會遇到哪些典型問題?互聯(lián)網(wǎng)安全的真實現(xiàn)狀又是怎樣一番場景?未來該往什么方向發(fā)展?為了解答這一連串的疑問，周森領(lǐng)導的網(wǎng)易易盾團隊邀請了美拍、暢游游戲，以及網(wǎng)易自身的資深運營專家予以解答，通過他們的講述，我們不僅可以聽到運營者們背后的故事，對于互聯(lián)網(wǎng)內(nèi)容安全的未來發(fā)展更是有了更清晰的判斷。

[[181289]]

　　網(wǎng)易跟貼：讓用戶遇見另一個自己

　　孫媛媛是沙龍第一位發(fā)言嘉賓，身為網(wǎng)易跟帖運營主管的她，從自己工作的角度，向大家介紹了網(wǎng)易跟帖背后的運營故事。

[[181290]]

　　孫媛媛先介紹到，網(wǎng)易跟貼是網(wǎng)易門戶新聞下的網(wǎng)友評論，內(nèi)容以犀利有才著稱，是網(wǎng)易新聞的特色，也是中國網(wǎng)民智慧和社會生態(tài)的集中反映。目前網(wǎng)易跟貼累計注冊用戶數(shù)達到3億+，日均參與頂、踩的用戶數(shù)近9000萬，日均發(fā)貼條數(shù)120萬+，日均發(fā)貼用戶數(shù)30萬+，已經(jīng)成為國內(nèi)最活躍、最有深度的新聞評論社區(qū)。

　　“我們的工作就是要保證優(yōu)質(zhì)的跟貼內(nèi)容能夠凸顯出現(xiàn)，同時保持觀點的多樣性，吸引大家評論。”孫媛媛透露，跟帖越踴躍，運營工作者的工作就繁重，網(wǎng)易的運營人員平均每天要審核6000-8000條跟貼，內(nèi)容包括政治敏感、廣告、低俗、色情、刷屏五花八門。

　　正如孫媛媛所強調(diào)的，建立的人與人之間的關(guān)系是以內(nèi)容為前提，在優(yōu)化用戶的閱讀體驗、探索互動運營的過程中，內(nèi)容的健康非常重要，也是互聯(lián)網(wǎng)社交類產(chǎn)品的立足根本。

　　美拍：談?wù)勆鐓^(qū)產(chǎn)品反作弊與內(nèi)容監(jiān)控

[[181291]]

　　美拍安全產(chǎn)品經(jīng)理田孟月的發(fā)言非常接地氣兒，她不僅列舉了大量實際社區(qū)運營案例，更是從運營者的角度出發(fā)，對社區(qū)產(chǎn)品運營給出非常多有效的建議。

　　她率先談到了大家經(jīng)常遇到的作弊行為，其中既有針對電商的刷單行為，也有針對廣告文章刷閱讀數(shù)刷贊行為，還有針對社交的刷粉絲行為。這些作弊行為以營利為目的，既傷害了用戶體驗，也影響了社區(qū)/產(chǎn)品氛圍。

　　她以美拍為例，介紹社區(qū)產(chǎn)品常見的作弊形態(tài)，如SEO營銷、廣告騷擾、色情、上熱門等。那么該如何發(fā)現(xiàn)作弊行為呢?她給出了五個建議：一是通過產(chǎn)品統(tǒng)計數(shù)據(jù)監(jiān)控，二是通過業(yè)務(wù)數(shù)據(jù)例行評估、三是通過舉報數(shù)據(jù)分析、四是進行產(chǎn)品前端巡查，最后是依靠群眾的力量，從用戶反饋中發(fā)現(xiàn)端倪。

　　當談到如何進行高效的內(nèi)容監(jiān)控時，田孟月認為，內(nèi)容審核不僅僅局限于文字，還包括圖片、視頻、音頻，人工審核已經(jīng)漸漸無法完成海量的審核任務(wù)，應(yīng)該充分發(fā)揮技術(shù)優(yōu)勢，提高審核效率，減少人工審核成為。除此之外，敏感詞的詞庫需要及時更新，違規(guī)的內(nèi)容要上報，與上級主管單位保持聯(lián)系，確保內(nèi)容審核工作與時俱進。

　　暢游游戲：一夫當關(guān) 豎游戲安全之盾

　　邢哲源是暢游游戲安全工程師，他表示在游戲安全領(lǐng)域內(nèi)，每天都會面臨著不同的威脅，其中以盜號、作弊和垃圾信息最為常見。目前隨著個人電腦和安全軟件的普及、硬件密保和手機密保的推廣，賬號安全問題已經(jīng)得到的極大的改善，反作弊與反垃圾信息就成為了工作的重點。

　　這些作弊行為和發(fā)送垃圾信息的行為，對內(nèi)影響游戲內(nèi)商城收益，擾亂游戲內(nèi)經(jīng)濟系統(tǒng)，更關(guān)鍵的是，外掛賬號發(fā)送大量無用的數(shù)據(jù)包，影響服務(wù)器性能并占用帶寬資源;對外而言，對于游戲玩家來說，大量明顯的“非人”賬號堆積在一起容易影響玩家情緒和感官，可以說是百害無一利，人人欲誅之。

　　邢哲源表示，在最初，他們采取的措施是技術(shù)對抗，通過技術(shù)手段“發(fā)現(xiàn)”游戲客戶端可能存在的外掛程序;隨后發(fā)展成數(shù)據(jù)分析，他們根據(jù)用戶的集群性和行為相似性，帶入合理的模型進行分析，從而發(fā)現(xiàn)目標。“現(xiàn)在我們已經(jīng)可以兩者結(jié)合在一起，根據(jù)不同項目不同時期需求進行調(diào)整。”

　　在邢哲源看來，處罰規(guī)則是整個反作弊&反垃圾體系中最重要的環(huán)節(jié)，他認為，以維護游戲環(huán)境和諧為職責的他們，不僅需要打擊罪惡，同時也需要“引人向善”，于作弊者，每一次的處罰都是一次試錯過程，簡單的處罰規(guī)則更容易破解。“中間的度一定要把握好。”

　　網(wǎng)易易盾：內(nèi)容優(yōu)化運營實戰(zhàn)策略及企業(yè)級產(chǎn)品經(jīng)驗交流

[[181292]]

　　網(wǎng)易易盾高級產(chǎn)品經(jīng)理饒曉艷一上臺，底下聽眾的議論就不絕于耳，在大家看來，畢竟前面幾位發(fā)言嘉賓珠玉在前，看上去這么年輕的一個女士，能聊出什么新料呢?可饒曉艷發(fā)言結(jié)束后，臺下報以熱烈持久的掌聲，這是對她發(fā)言的肯定，也是對網(wǎng)易易盾做了大量幕后工作的敬意與認同。

　　饒曉艷首先表示，這是一個內(nèi)容為王的時代，從流量到場景，從產(chǎn)品到人，都在圍繞著內(nèi)容做文章。那究竟為什么在內(nèi)容運營中要專門做反垃圾呢?饒曉艷以音樂評論舉了一個例子，目前我國云音樂的用戶數(shù)突破2個億，在UGC方面，用戶自主創(chuàng)建歌單超過8000萬，大約有50%的用戶會邊聽歌邊看評論，音樂評論總量已經(jīng)超過2億條。“在這些評論中，摻雜著大量廣告、低俗信息，極大地影響了評論者的使用感受和評論積極性。” 饒曉艷談到，對運營者而言，大量違規(guī)的垃圾信息的存在，也違反了國家規(guī)定，給運營工作帶來了極大的風險。

　　她將發(fā)垃圾的不法分子稱之為“垃圾蟲”，并將這類人群的特點歸納成六類，那就是占領(lǐng)熱門、不分晝夜、持續(xù)對抗、分工協(xié)作、利益明確、法律邊緣。

　　那么究竟該如何對癥下藥呢?饒曉艷表示，網(wǎng)易易盾的做法是首先明確產(chǎn)品主要的垃圾分類，是屬于網(wǎng)友普通的情緒謾罵，還是專業(yè)團隊打擦邊球打廣告，還是明知法律令行禁止發(fā)布反動內(nèi)容?

　　做好分類之后，就要根據(jù)內(nèi)容的形式進行過濾，看用戶是通過文字內(nèi)容、圖片內(nèi)容、視頻內(nèi)容還是音頻內(nèi)容進行傳播?文字內(nèi)容的過濾大家往往都比較了解，但是像圖片過濾就需要用到機器學習、魯棒圖片特征檢測、人臉識別這些技術(shù)了。而視頻過濾則用到視頻轉(zhuǎn)碼壓縮、視頻流分析、截圖分析、視頻特征識別等技術(shù)。

　　“以圖片識別為例，網(wǎng)易易盾的服務(wù)目前可以支持人臉識別、色情圖片檢測、動漫識別、相似匹配、水印識別等多種識別方式。” 饒曉艷還表示，在語音過濾領(lǐng)域，網(wǎng)易積累多年經(jīng)驗，語音MD5庫實時過濾有害語音，可以同時將語音轉(zhuǎn)成文字進一步過濾。

　　正所謂“眼見為實”，饒曉艷在現(xiàn)場打開網(wǎng)易易盾的官網(wǎng)，在產(chǎn)品界面，向大家演示了圖片、文字的過濾識別，如此簡便易操作的方式贏得了大家的認可。

　　在線下會議結(jié)束時，還有聽眾針對她所介紹的網(wǎng)易易盾產(chǎn)品不斷提問，追問細節(jié)，可見眾人對網(wǎng)易易盾產(chǎn)品的興趣濃厚。

　　也有的聽眾問，為什么網(wǎng)易如此關(guān)注互聯(lián)網(wǎng)內(nèi)容安全話題?其實這位聽眾有所不知，網(wǎng)易可能是國內(nèi)最有發(fā)言權(quán)的互聯(lián)網(wǎng)權(quán)威之一了，從關(guān)鍵詞、黑白名單到過濾器這些反垃圾技術(shù)應(yīng)用之日起，網(wǎng)易的反垃圾團隊經(jīng)過了19年的技術(shù)積累，并且早已將大數(shù)據(jù)分析、人機識別、人工智能這些新興技術(shù)應(yīng)用到反垃圾實踐中。2017年，記者希望中國互聯(lián)網(wǎng)內(nèi)容安全可以吸引越來越多的人參與，網(wǎng)易易盾也能充分發(fā)揮技術(shù)優(yōu)勢，幫助更多的互聯(lián)網(wǎng)客戶實現(xiàn)全面的內(nèi)容安全。

【51CTO原創(chuàng)稿件，合作站點轉(zhuǎn)載請注明原文作者和出處為51CTO.com】