[[317631]]

在過去的幾年里，質量控制作為微信看一看推薦的基石，我們在不斷的迭代升級中積累了一定的技術和經(jīng)驗。本文主要跟大家分享一下總體框架的設計思路，以及如何通過平臺通用化來解決組合爆炸的問題。文章為了盡可能的給讀者描述一個完整質量控制體系的框架，這里既有技術上，架構上考慮，也會有產(chǎn)品上，業(yè)務上的考慮。

一、看一看介紹

1.1 看一看的場景

[[317632]]

微信作為國內最大用戶群體的應用，在人們的生活，工作，學習中提供社交功能的同時，還提供了工具，游戲，購物，支付，內容，搜索，小程序等服務?？匆豢醋鳛槲⑿诺闹匾M成部分，在原有公眾平臺資訊閱讀的基礎上，為用戶提供中心化的內容消費平臺，旨在提升內容發(fā)現(xiàn)效率，優(yōu)化內容質量，豐富內容種類。

1.2 看一看的質量控制

與其他很多資訊產(chǎn)品上線初的野蠻生長不一樣，質量控制一開始就作為看一看上線標準被提出并進行了大量的投入。質量控制的必要性是由于多方面的因素決定的。

 

 

 

 

1. (內在屬性)一個產(chǎn)品的出身和環(huán)境決定了其的調性，微信內在也決定了看一看的調性。在這里，調性這個詞更多的是形容內容質量可以被用戶接受的底線。用戶對微信的期待也提高了這個底線。
2. (外部壓力)微信的每一次改動都會受到廣泛的關注，在功能上線初期面臨著比其他應用更大的輿論壓力和監(jiān)管壓力。
3. (黑產(chǎn)對抗)因為用戶多，流量大，強大的經(jīng)濟效益引來黑產(chǎn)的參與，使得內容生產(chǎn)的大環(huán)境很差，低質量數(shù)據(jù)充斥各個角落;問題也在不斷地的變化，識別控制難度也在持續(xù)加大。

二、總體框架

既然質量控制作為推薦系統(tǒng)必不可少的一部分，那么在推薦系統(tǒng)中處質量控制處于什么位置，包含哪些子模塊，又是從哪幾方面方面進行控制?

首先，我們先看一下內容數(shù)據(jù)在推薦系統(tǒng)的一生。

2.1 數(shù)據(jù)的一生

 

 

 

 

1. 數(shù)據(jù)從內容生產(chǎn)方發(fā)表產(chǎn)生，由平臺收集數(shù)據(jù)。這里生產(chǎn)方來自四面八方，生產(chǎn)的內容五花八門，質量也是參差不齊。所以，平臺將數(shù)據(jù)接入之后第一件事情就是將這些內容進行格式化和特征提取，方便后面的流程能通用化地處理這些內容數(shù)據(jù)。
2. 內容經(jīng)過前面的初步處理后，質量控制模塊根據(jù)已有的特征對內容進行過濾，主要是過濾不符合平臺規(guī)則的低質量數(shù)據(jù)和提供后面排序需要考慮的質量因子。這里面涉及到過濾效率的問題，一般會分為粗過濾還有細過濾。排序推薦模塊將根據(jù)內容特征還有用戶行為對數(shù)據(jù)進行排序。
3. 最后，平臺將內容推薦給用戶進行消費，消費的過程中會與內容產(chǎn)生很多交互行為。這些行為數(shù)據(jù)，可以用于平臺的質量控制和推薦排序;也可以反饋給生產(chǎn)者，讓生產(chǎn)者能夠了解到內容被消費的情況，生產(chǎn)更多符合用戶需求的內容。

2.2 多維度控制

數(shù)據(jù)的一生中，我們可以看到平臺都是通過對發(fā)表內容本身進行檢測來進行質量控制，這顯然是不夠的。一個控制框架的有效運行不能僅僅在一個地方進行監(jiān)控，需要全面，多維度共同作用。我們可以抽象一下平臺，生產(chǎn)，還有用戶。我們會發(fā)現(xiàn)其實除了對平臺自身檢測能力進行提升外，

也可以對生產(chǎn)者和用戶進行引導，評估。

 

 

 

 

1. 根據(jù)生產(chǎn)者生產(chǎn)內容的質量，還有用戶對內容的反饋，平臺可以對生產(chǎn)者進行分級分類。對不同等級的生產(chǎn)者，使用不同質量控制策略，如，高質量的賬號頒發(fā)個免檢標簽，在質量控制的時候避免誤傷。而對于一些已經(jīng)被檢測到有低質量內容的賬號進行一定時間的封禁，減少相似問題的爆發(fā)，增加長尾問題的召回，提升系統(tǒng)的響應速度。不同類目也是同樣的道理，比如高危的內容類(社會民生，養(yǎng)生健康，娛樂)需要加強控制。
2. 而對于用戶，我們同樣可以根據(jù)一下用戶的基礎數(shù)據(jù)(地域，年齡，性別)和用戶在微信內的一下閱讀信息，對用戶進行分類。不同用戶可以使用不同的控制策略。這樣在保證了用戶對體驗有不同要求的前提下，盡可能地保證推薦系統(tǒng)的效率。

2.3 輔助模塊

除了上面說的三個部分之外，還有幾個同樣非常重要的質量控制輔助模塊，這些模塊對保證整個質量控制的正常運行至關重要。

 

 

 

 

1. 監(jiān)控系統(tǒng)：監(jiān)控系統(tǒng)需要對平臺，生產(chǎn)，用戶的各個方面進行監(jiān)控，有些數(shù)值監(jiān)控指標可以通過機器持續(xù)監(jiān)控，而有些數(shù)據(jù)本身的問題則需要人工的輪詢與審核，還有就是新問題的發(fā)現(xiàn)與歸納匯總。其中最重要的是能夠進行全方位覆蓋，不同范圍，不同領域，有時候問題可能隱藏的茫茫大盤數(shù)據(jù)中。
2. 干預系統(tǒng)：干預系統(tǒng)是對問題出現(xiàn)后，進行快速處理的手段。這樣能夠在模型策略迭代較慢的時候暫時壓制問題，減少影響范圍。干預系統(tǒng)除了生效快之外，還有一個重要的能力是相似內容的查找(去重指紋)，如相似標題的封禁和相似圖片的封禁。
3. 標注系統(tǒng)：標注系統(tǒng)作為一個提升樣本收集效率的平臺，不僅能有效提升標注人員的標注效率，進而有效提升模型的迭代效率;而且標注系統(tǒng)方便對問題的收集，總結，歸納，形成各個領域的知識庫。

三、數(shù)據(jù)與質量

前面介紹了質量控制的必要性，也介紹了質量控制的大體框架。那么到底數(shù)據(jù)是指哪些數(shù)據(jù)?所謂的質量又指的是哪些質量指標?這些數(shù)據(jù)跟這些質量指標帶給我們什么問題與挑戰(zhàn)呢?

3.1 內容數(shù)據(jù)源

看一看的數(shù)據(jù)從來源上分包括公眾平臺，騰訊新聞，騰訊視頻，企鵝號，微視，快手等。從內容形式上分有文章，新聞，視頻，圖片等。樣式豐富的數(shù)據(jù)在滿足不同用戶的內容需求的同時也加大了監(jiān)管的難度。

 

 

 

 

3.2 質量指標

同時，看一看以用戶的體驗為出發(fā)點結合具體業(yè)務需要建立了一套質量指標體系。這里指標隨著業(yè)務的發(fā)展不斷在增加，含義也在不斷的豐富。多維度的指標可以為業(yè)務的質量過濾和推薦排序提供更多的個性化的選擇。

 

 

 

 

3.3 問題與挑戰(zhàn)

那么，我們的問題和挑戰(zhàn)是什么呢?我們先來看一下日常工作中經(jīng)常遇到的一些對話。事情的本質往往隱藏在復雜的表面下。

 

 

 

 

豐富的數(shù)據(jù)源，多維度的質量指標，個性化的業(yè)務場景帶來的其實是組合爆炸問題。如果對每一種組合都單獨處理，不僅導致大量人力的浪費;同時，也無法對速度要求高的質量控制問題進行快速響應。毫無疑問從體系上進行通用化，模板化，可復用，可遷移是我們解決問題的方向。下一節(jié)，我們會從一個普通任務的迭代周期出發(fā)，分析上面對話對應的迭代過程的那一部分，并對相應的部分進行相應的通用化。

 

 

 

 

四、體系演進

4.1 規(guī)則，特征，樣本，模型

下圖展示了一個迭代周期里面幾個關鍵的過程。

 

 

 

 

1.規(guī)則制定：規(guī)則制定可以說是質量問題解決中最重要的工作，問題分析清楚了，解法也就出來了。這里簡單列幾個小原則，不進行展開。

• 主要組成：需要對問題進行全面的分析，包括場景數(shù)據(jù)是什么，問題有多少子類型，問題比例有多大，影響范圍有多廣，業(yè)界是否也有同樣的問題，做法是什么。
• 基于需求：這個階段更應該從需求出發(fā)進行問題的分解，盡量減少技術性的考慮。很多時候人會往往會混淆“需要做”和“怎么做”。因為覺得這個東西難做，或者不能做而將這個東西認為不需要做。
• 基于數(shù)據(jù)：規(guī)則的制訂需要結合數(shù)據(jù)進行討論，不能幾個人憑主觀想法就定下規(guī)則。數(shù)據(jù)往往會提供很多我們意想不到的沖突情況。
• 衡量標準：規(guī)則必須能在人與人之間傳遞。

2.特征提取：這里涉及如何將業(yè)務需求轉化為技術需求。根據(jù)問題分析的結論，對直接特征進行提取，如標題，正文，封面圖，隱藏內容，頁面結構，跳轉鏈接，錨文本，賬號，統(tǒng)計特征等。

3.樣本收集：根據(jù)需要從原始數(shù)據(jù)中收集一定量的正負樣本，這些樣本可以通過相似樣本挖掘，也可以通過人工標注。

4. 模型訓練：使用模型對提取的特征進行組合，并對收集的樣本分布進行擬合。

• 特征組合：模型將問題需要考慮的特征進行組合。有些問題只需要考慮標題(標題黨)，有些問題需要考慮文章標題的匹配程度(文不對題)，有些問題需要同時考慮文本與圖片的結合(低俗色情);有些問題只需要考慮主題詞(廣告)，有些問題需要考慮上下文語境(假新聞)。
• 數(shù)據(jù)分布：模型會盡可能貼合樣本數(shù)據(jù)的分布，降低 Loss。有些數(shù)據(jù)源問題比例高，有些數(shù)據(jù)源問題比例低。切換數(shù)據(jù)源的時候，如果樣本分布與目標數(shù)據(jù)源的分布不一致，效果往往有較大的差異。

4.2 通用化

看完上一小節(jié)的描述，不知道大家有沒有把對話跟迭代周期的過程對應起來。接下來嘗試對迭代周期里面的各個部分進行通用化，包括細粒度化，共享特征，樣本增強，模型復用，模型遷移。

 

 

 

 

1.細粒度化：在進行規(guī)則制定階段，要避免指定一個很大的質量問題進行優(yōu)化，盡量把問題定義成“獨立”，“明確”，“與業(yè)務無關”的細粒度問題。這樣可以減少后面因為業(yè)務變化導致的不確定監(jiān)督問題，提升模型適用性。舉個例子：我們之前有個質量問題是黑四類(廣告，活動，通知，招聘)，標注的時候沒有區(qū)分，訓練的時候也是用一個模型。這樣在有新的業(yè)務出現(xiàn)的時候突然發(fā)現(xiàn)我們不需要黑四類，而是黑三類。還有其他一些不建議的問題類型："標題不規(guī)范"，"正文質量差"，"內容不優(yōu)質"。

2.共享特征：雖然不同數(shù)據(jù)源的樣式不一樣，這樣需要對不同的數(shù)據(jù)源通過頁面解析進行特征抽取，統(tǒng)計。但是對于同一個數(shù)據(jù)源，不同的質量問題，往往會用到很多相同的特征。一個數(shù)據(jù)源抽取后的結果可以保存在結構化的數(shù)據(jù)結構中方便各個質量模型，還有其他的業(yè)務模型使用。如文本的位置，是否有鏈接，是否隱藏，是否模板內容等。

3.樣本增強：通過相似樣本挖掘和人工標注容易導致過擬合，標注效率低的問題。這里可以結合數(shù)據(jù)增強提升模型的魯棒性，結合主動學習提升標注效率。

4.3 模型復用

在處理不同的質量問題的時候，我們發(fā)現(xiàn)有些問題用到的特征，擬合的方法都是相似的。像越來越多平臺算法庫對基礎模型提供支持一樣，通過從具體問題中抽象問題，構建通用模型框架可以有效提高我們的工作效率。而構建通用模型框架需要結合的前面提到的共享特征在設計之初就其保證通用性，適配性，可擴展性。

4.3.1 通用模型

 

 

 

 

4.3.2 廣告模型

這里介紹一下廣告識別模型在構建過程中，涉及的幾個通用問題模型。廣告模型主要是負責識別文章里面的廣告內容。從內容上，分為文字廣告，圖片廣告，圖文廣告。從位置上分頂部廣告，中間廣告，底部廣告。從篇幅上分主體廣告，插播廣告。那么這里可以抽象成 3 個通用的問題：

1.問題內容的定位(插播廣告);2. 多類型特征的融合(圖文廣告);3.文章結構的序列化(頂部，中部，尾部，篇幅)。

 

 

 

 

• 問題內容的定位：這類問題與圖像中的物體檢測相似，都是需要識別相應目標及其對應的位置。據(jù)此，我們提供一個全新的用于文本問題檢測的框架 TADL。通過滑動窗口的檢測方法將大段文本切分成多個小片段，并對每個小片段進行廣告概率打分和反推定位，從而在一個模型框架內同時實現(xiàn)了廣告文字的識別和定位，并且只需要文章級別的標注就能完成訓練。

 

 

 

 

 

 

 

 

• 多類型特征的融合：圖片廣告定義廣泛，廣告的程度需要同時考慮多種類型的特征(文本大小，文本位置，文本語義，圖片場景，圖片內容)。相對于端到端的需要大規(guī)模標注的深度模型，對問題進行分而治之的 wide&deep 模型框架具有更好的解釋性，更高的召回。

 

 

 

 

• 文章結構的序列化：一篇文章是否有廣告問題，需要對整篇文章中多模態(tài)廣告的占比，位置進行綜合考慮。將不同廣告文章中的文本廣告概率和圖片廣告概率進行序列化的可視化展示，發(fā)現(xiàn)通過對有限的序列模式進行識別檢測可以用來解決多模態(tài)文章分類問題。模型通過 Multi-CNN 檢測異常“突起”，通過 BiLSTM 檢測概率變化趨勢。

 

 

 

 

4.4 模型遷移

數(shù)據(jù)源之間的數(shù)據(jù)分布一定是會存在差異的。模型遷移主要是想要解決數(shù)據(jù)分布不一致的問題。這里我們以色情低俗識別為例子，分“詞向量”和“特征分布”兩個方面來考慮遷移問題。

 

 

 

 

4.4.1 詞向量統(tǒng)一

詞向量在不同的場景中會表現(xiàn)不一樣的語義，如“下面”在圖文和視頻標題里面就有不同的語義。多數(shù)據(jù)源數(shù)據(jù)訓練的詞向量因為獲得了更多的信息量要好于多個數(shù)據(jù)源單獨訓練的向量。到后來基于更大量訓練集的 bert 的出現(xiàn)更是極大的豐富了詞向量的信息量。

 

 

 

 

4.4.2 特征空間統(tǒng)一

這里面的方法主要有 finetune，多任務學習，還有對抗學習。

 

 

 

 

• Finetune 的目的是使用已有模型的特征提取能力，然后目標數(shù)據(jù)源進行組合調整達到較好的效果。這個模型在源領域數(shù)據(jù)標注量要比較大，模型框架能夠表示足夠多的共同特征時比較有效，如 bert。

 

 

 

 

• 多任務學習通過不同任務間建立共享層，學習不同 domain 之間的共享知識，進而實現(xiàn)雙贏。缺點是需要大量的目標領域的有標數(shù)據(jù)。

 

 

 

 

• 對抗學習充分利用了大量的無標數(shù)據(jù)消除一些鄰域間分布不同的差異。

 

 

 

 

 

 

 

 

五、持續(xù)對抗

5.1 動態(tài)數(shù)據(jù)

前面所提到的多樣化的問題，更多的是平臺內部因為業(yè)務需求主動引入更多的數(shù)據(jù)和質量指標導致。這些問題相對來說是靜態(tài)的。在業(yè)務上線之前，平臺會進行摸底優(yōu)化，不會有太多的意外。

接下來我們討論數(shù)據(jù)動態(tài)變化的問題。在日常的內容生產(chǎn)過程中，內容生產(chǎn)者根據(jù)平臺的環(huán)境和用戶的反饋不斷修改內容的樣式，類目。這些變化會改變數(shù)據(jù)的分布，從而導致平臺對新數(shù)據(jù)出現(xiàn)漏召或者誤判。其中，黑產(chǎn)的持續(xù)不斷的有意對抗最為頻繁，花樣最多，也是我們最為關注的。這些對抗具有形式類目多，迭代周期多的特征。

形式類目多：問題數(shù)據(jù)類型不斷變化演進，從文本，圖片，視頻一直到鏈接。類目上也是在多個高危類目上來回切換，不斷創(chuàng)新。

 

 

 

 

• 迭代周期短：某個特殊的色情標題黨樣式，在某一時間短獲得不錯的曝光后，黑產(chǎn)立即進行了大規(guī)模的投產(chǎn)，而在受到打壓后又迅速的轉向其他類型的 case。

 

 

 

 

5.2 解決體系

由于敵暗我明，完全杜絕幾乎是不可能的。原則上是提高黑產(chǎn)的作弊成本，降低平臺的維護成本。我們還是從前面提到質量控制體系的三部分入手。

 

 

 

 

平臺：每天都有少量的標注人工對線上數(shù)據(jù)進行輪詢，對有問題的數(shù)據(jù)進行屏蔽收集。

用戶：對大量用戶反饋有問題的數(shù)據(jù)進行限制。

生產(chǎn)：

• 黑名單：對歷史上劣跡斑斑的賬號進行封禁，同時，對跟這些賬號關聯(lián)緊密的賬號進行挖掘封禁。
• 沙盒機制：對新注冊的，發(fā)文較少，未被平臺驗證的賬號，限制其推廣范圍。

樣本擴散，模型迭代：

• 用戶反饋和平臺監(jiān)控，雖然能發(fā)現(xiàn)新的問題，但是泛化性不夠。
• 賬號打壓雖然具有泛化性，但是無法將新問題，新賬號發(fā)現(xiàn)。
• 為了解決原有體系的不足，我們嘗試結合兩部分，通過人工監(jiān)控跟負反饋收集樣本進行擴散，然后提供給模型進行迭代提升召回。最后再從賬號維度進行泛化打擊。這里跟前文提到的樣本增強的區(qū)別在于樣本擴散更多的是對新問題樣本的收集。

5.3 擴散迭代

5.3.1 正常流程

那么怎么進行樣本擴散，加快模型的迭代周期呢?下面是一個樣本收集周期里面大概需要做些什么事情。

• 首先根據(jù)發(fā)現(xiàn)的問題數(shù)據(jù)通過相似度計算，我們在源數(shù)據(jù)(source data)找到一批跟問題數(shù)據(jù)(sample data)相似度較高的未標注數(shù)據(jù)(unlabeled data)。

1. 賬號：一個賬號的內容大部分比較相似，同一個黑產(chǎn)內容跟也往往相同。
2. 類目：對問題比較集中的類目進行數(shù)據(jù)挖掘。
3. 關鍵詞：用一些匹配式框定一個范圍。
4. 聚類模型：簡單的計算樣本內容的文本相似性。
5. 分類模型：構建簡單的分類模型進行初篩。

• 然后對這批未標注的數(shù)據(jù)進行人工標注，這樣可以篩選出一批能有效提升模型對新問題識別效率的標注樣本(selected data)。
• 最后將篩選的樣本跟原有的標注數(shù)據(jù)(labeld data)進行合并作為訓練樣本進行模型訓練。訓練好模型之后在測試數(shù)據(jù)(test data)上面進行測試效果。

 

 

 

 

5.3.2 加速流程

工作周期主要的工作量是在兩個部分，一是相似樣本的挖掘，二是人工標注樣本;相似樣本挖掘的精度越高，覆蓋的樣式越全，人工標注的樣本量就越少。而這兩方面我們可以使用半監(jiān)督學習跟強化學習的方法來進行優(yōu)化。

 

 

 

 

5.3.3 自動化流程

更進一步我們嘗試使用強化學習代替整個問題樣本的挖掘過程，強化學習選擇器從源數(shù)據(jù)里面選擇樣本，跟已有標注樣本送入判別器訓練，然后將判別器在測試數(shù)據(jù)和問題數(shù)據(jù)的表現(xiàn)當成 Reward 反饋給強化學習選擇器。

 

 

 

 

六、總結展望

前面討論了框架內部的通用性，那么這個框架整體是否具有通用性，能否在其他平臺適用呢?其實因為各類內容平臺在問題類型跟數(shù)據(jù)類型本身就存在大量的共性;所以看一看的控制框架和技術，在面對如搜一搜，公眾平臺，朋友圈等其他場景時，依然可以提供相應的經(jīng)驗和能力。近半年來，搜一搜作為用戶獲取內容重要場景，我們在復用看一看能力的基礎上也構建了類似的控制框架。

雖然我們已經(jīng)掌握了各式各樣的能力，能夠解決很多問題，但是相比起知道的知識，我們不了解的內容更多，經(jīng)常會出現(xiàn)讓我們意想不到的狀況。質量控制，乃至于機器學習的主要矛盾在于用有限的知識處理無限的未知。持續(xù)的知識獲取意味著自主學習，也意味著持續(xù)的與現(xiàn)實交互。

一個平臺的質量控制系統(tǒng)就像是人體的免疫組織，當病毒來臨，免疫細胞產(chǎn)生抗體，消滅病毒。人類在漫長的進化過程中，構建了復雜的免疫系統(tǒng)，同時，病毒也在不斷的進步。越是復雜的系統(tǒng)，出現(xiàn)問題的可能性越高，出現(xiàn)問題后解決問題的成本難度也越大。在構建強健的內部免疫系統(tǒng)的同時，我們同樣需要營造良好的外部環(huán)境，讓更多優(yōu)質的內容生產(chǎn)者進來，才是解決質量問題之根本。