在進行內(nèi)容治理時，我們需要考慮需要治理的對象及其方式，本文從12個維度出發(fā)，談?wù)勆暇€一條策略、一條規(guī)則的完整流程，希望對你有所幫助。

本文基于智能驗證碼和延時審核的背景，聊聊上線一條策略、一條規(guī)則的完整流程，本文目錄如下圖。

這是一本書中的一個規(guī)則挖掘流程，下文的流程可以理解為這個流程的完整版，在他的基礎(chǔ)上有一些補充。

一、價值觀

1. 業(yè)務(wù)類

不管是內(nèi)容治理還是業(yè)務(wù)治理，第一步要確定的是，我們需要治理什么。不同公司業(yè)務(wù)不同，在業(yè)務(wù)側(cè)需要治理的內(nèi)容也大不相同。

例如美團點評可能需要治理虛假評價、惡意差評等公信力問題。只有真實、對用戶有幫助的內(nèi)容才能留得住用戶的信任，下圖來自美團在拉勾的招聘要求。

例如微博可能需要在各個環(huán)節(jié)控制不良內(nèi)容的產(chǎn)生和消費。

例如知乎可能需要治理不友善、抄襲、男女權(quán)等氛圍向的內(nèi)容。

在 58 同城社區(qū)模塊，則需要能夠提升用戶對業(yè)務(wù)認(rèn)知，及能夠提升留存的內(nèi)容。所以相應(yīng)的需要治理掉虛假信息、低質(zhì)內(nèi)容、重復(fù)內(nèi)容、改寫抄襲、水帖等。

2. 底線類

對于底線類的內(nèi)容各公司相差不會太大，都是來自外部倒逼的治理：指令、輿情。

1.2 1 指令

指令有兩種，第一種是國家部門公開發(fā)布的清查、政治指令。這類指令一般描述得較為抽象和寬泛，需要專業(yè)的政府關(guān)系部門和風(fēng)控部門共同進行研判解讀后，基于平臺定位制定具體的執(zhí)行范圍和方向。

比如：6 月 15 日，中央網(wǎng)信辦宣布在全國范圍內(nèi)開展“清朗·‘飯圈’亂象整治”專項行動。豆瓣開始對違規(guī)賬號、問題小組等進行刪除和解散，愛奇藝對集資、打榜徹底“自查自糾”。

另一種是國家部門直接給企業(yè)下達的查殺的指令，比如互聯(lián)網(wǎng)舉報中心收到 xx 舉報，命令平臺處理，這類指令必須執(zhí)行。

1.2.2 輿情

輿情一般指用戶或媒體在站外對平臺出現(xiàn)的內(nèi)容進行負面評價，并達到一定傳播量，如果不及時處理，可能對平臺品牌形象、聲譽有惡劣影響。官媒發(fā)出的負面評價，嚴(yán)肅程度不亞于指令。

比如：9 月末，《新京報》和《央視網(wǎng)》等多家媒體報道了社交媒體的“佛媛”現(xiàn)象，一時間上了熱搜。各個社區(qū)在第一時間進行了清查，抖音共處罰利用“佛媛”形象營造人設(shè)開展虛假營銷行為相關(guān)賬號 48 個，其中永久封禁賬號 7 個，同時，清理違規(guī)視頻 148 條。小紅書第一時間已啟動專項檢查，清理違規(guī)筆記 70 篇，封禁賬號 3 個。

10 月，很多人假期出游后，在社交網(wǎng)絡(luò)上吐槽小紅書“濾鏡景點”，一時沖上了熱搜，之后小紅書進行了公開道歉。

對于外部倒逼的指令、輿情，一般由企業(yè)內(nèi)專業(yè)的公關(guān)部門，政府關(guān)系部門進行快速交涉和判斷，給出應(yīng)對措施到各個部門執(zhí)行落地，進行生態(tài)治理是其中必備的措施之一。

二、如何發(fā)現(xiàn)未發(fā)現(xiàn)的問題

需要治理的問題可以分為兩類，一類是已知的問題，我們知道這個問題存在，只是考慮如何更好的識別、如何識別變形、如何引導(dǎo)用戶不發(fā)違規(guī)內(nèi)容、需要治理到什么程度、如何處罰、如何教育等，例如治理重復(fù)內(nèi)容、改寫內(nèi)容。

但還有一類是，我們不需要的內(nèi)容，但是我們當(dāng)前并未發(fā)現(xiàn)這個這個問題，如何才能更好的發(fā)現(xiàn)這個問題。例如我們最近治理過的一類型問題，雖然在寫自己經(jīng)歷，但我們分析后發(fā)現(xiàn)這類型帖子極易出現(xiàn)詐騙行為。這類型就屬于之前未關(guān)注到，但很明確這類型類容是我們不需要的，需要新發(fā)現(xiàn)這個問題。

我們常用的幾種發(fā)現(xiàn)未發(fā)現(xiàn)的問題包括：

• 監(jiān)控體系/預(yù)警體系：通過對某些核心指標(biāo)的監(jiān)控，例如提現(xiàn)金額、發(fā)帖頻率、發(fā)帖量、頻繁切換賬號等的監(jiān)控，如果指標(biāo)出現(xiàn)異常，則去排查相應(yīng)的問題，順藤摸瓜可能又會挖出一系列黑產(chǎn)。
• 離線數(shù)據(jù)分析：定期或非定期的分析歷史數(shù)據(jù)，也可以發(fā)現(xiàn)一些未發(fā)現(xiàn)的問題。例如我們曾分析歷史數(shù)據(jù)發(fā)現(xiàn)有一批用戶從 5 月份開始，頻繁的在評論中發(fā)布「新年快樂」相關(guān)內(nèi)容，經(jīng)分析，發(fā)現(xiàn)是一個哈爾濱的黑產(chǎn)團隊。
• 臥底在黑產(chǎn)群內(nèi)：平時多關(guān)注黑產(chǎn)作弊方式，臥底在相應(yīng)群內(nèi)，及時發(fā)現(xiàn)新型違規(guī)方式，然后再回來完善自己產(chǎn)品的風(fēng)控體系。
• 用戶反饋：時常關(guān)注用戶反饋，從用戶反饋中發(fā)現(xiàn)平臺方未關(guān)注到的問題。
• 舉報：也算是用戶反饋的一種。

建立審核團隊反饋 case 流程：平臺人員很清楚知道哪些是需要的內(nèi)容，哪些是不需要的內(nèi)容，但見的 case 一定沒有審核人員多。審核人員見過足夠多的 case，但是規(guī)則未包含的內(nèi)容他們并不清楚哪些是不需要的。雙方各有優(yōu)劣勢，所以可以將平臺的價值觀，即第一步的問題也同步到審核團隊，他們可以把規(guī)則暫時未包含到的，但是他們覺得可能不需要的 case 提供給平臺人員，即可發(fā)現(xiàn)某些不知道的問題。

每日瀏覽社區(qū)：是對上一步的補充，既然平臺人員對 case 了解的不夠多，那就去加強了解。

建立紅線內(nèi)容快速反應(yīng)流程：這個主要是針對一些緊急的輿情事件，例如李易峰事件、唐山打人事件等（這兩個案例雖說常遇到，但比較輕，平時需要處理的更多是更緊急更嚴(yán)重的不適合在公眾號舉例的輿情事件，會被刪文）。

除了上面提到的，還有其他還未成方法論的方式，只是偶爾用來發(fā)現(xiàn)問題。

發(fā)現(xiàn)問題后需要對問題有個初步評估，這個問題的嚴(yán)重性、涉及量、如果治理對業(yè)務(wù)的影響、需要多大成本來治理等，此時需要有個大概預(yù)估。

例如涉黃、詐騙、危害青少年的內(nèi)容，可能占比很低，也很不好識別，但結(jié)果很嚴(yán)重，所以必須得解決。

例如發(fā)帖時很多內(nèi)容使用相同圖片，對消費用戶體感不好，量級可能也大，但是影響程度較輕，且可通過降權(quán)分發(fā)，或分發(fā)打散，只需要不讓同一個人看到相同圖片即可，所以可不治理，或優(yōu)先級很低。

三、收集樣本

不管是已知的問題，還是新發(fā)現(xiàn)的問題，在制定規(guī)則、策略前，都需要大量的樣本，而根據(jù)不同問題類型可能會有不同的收集樣本，例如：

巡檢團隊提供，把篩選樣本標(biāo)準(zhǔn)給到巡檢團隊，找出更多樣本。不同公司也可能是標(biāo)注、質(zhì)檢、審核團隊，也有可能是產(chǎn)品自己來篩選。

自己跑 SQL，如果有可量化的標(biāo)準(zhǔn)，即自己就可初篩樣本。例如滿足最近 3 天發(fā)帖量 ≥20 & 所發(fā)帖觸發(fā) ≥3 個不同職業(yè)標(biāo)簽 & 注冊時間晚于 2022 年 1 月 1 日。

四、特征分析

這一步得有點刨根問底，順藤摸瓜的精神，以及對數(shù)據(jù)敏感性、對業(yè)務(wù)足夠理解、對用戶足夠理解。所以，雖然是屬于數(shù)據(jù)分析范疇，但產(chǎn)品往往會比數(shù)據(jù)分析做得更好。

這一步能說出來的方法論屬于流程性的，不具有實際操作性，具有實操性的又沒有固定的方法論，我以兩個案例來講是咋做的吧。

1. 案例一，多設(shè)備多賬號

問題介紹，我們通過知識圖譜發(fā)現(xiàn)部分賬號和設(shè)備之間存在關(guān)聯(lián)關(guān)系，例如同一個賬號短時間內(nèi)在多個設(shè)備上登錄過，同一個設(shè)備短時間內(nèi)登錄過多個賬號，且他們相互之間還存在金額轉(zhuǎn)移行為、帖子內(nèi)容質(zhì)量低、抄襲、大量刪帖等問題。

注：下面案例中所涉及數(shù)字，并非我做分析時實際取的數(shù)字，為了公司策略安全，下面數(shù)字我隨意寫的，可根據(jù)自己產(chǎn)品實際情況做調(diào)整。

具體分析這個問題，我們就取最近 3 個月內(nèi)，同一個設(shè)備上登錄 ≥5 個 uid，及同一個 uid 在≥3 個設(shè)備上登錄過，兩個條件作為兩個問題單獨分析。

先針對同設(shè)備商登錄多個 uid 這個問題，具體分析時需注意：

做好用戶分群：按登錄 uid 數(shù)量做用戶分層，例如 ≥20 個，10-20 個，5-10 個。

結(jié)合其他數(shù)據(jù)：針對這三個用戶群再看對應(yīng)的金額轉(zhuǎn)移情況，以及內(nèi)容違規(guī)情況。最終會形成一個矩陣，類似 RFM 模型中的矩陣。

例如一段時間內(nèi)同一個設(shè)備上登錄 uid 數(shù)量 5-10 個，則金額轉(zhuǎn)移違規(guī)的概率 17%，內(nèi)容違規(guī)的概率 27%。

例如一段時間內(nèi)同一個設(shè)備上登錄 uid 數(shù)量≥20 個，則金額轉(zhuǎn)移違規(guī)的概率 93%，內(nèi)容違規(guī)的概率 73%。

例如一段時間內(nèi)同一個設(shè)備上登錄 uid 數(shù)量 5-10 個，但是這部分 uid 有 37%的 uid 在同一段時間內(nèi)在≥3 個設(shè)備上登錄過。

給不同處罰：結(jié)合上面矩陣，根據(jù)不同嚴(yán)重情況基于用戶不同處罰。例如違規(guī)嚴(yán)重且識別準(zhǔn)確，則直接拉黑。違規(guī)不嚴(yán)重但識別準(zhǔn)確，則限制功能。違規(guī)嚴(yán)重但識別不準(zhǔn)確，則送人審。這里所說的「嚴(yán)重、不嚴(yán)重」「準(zhǔn)確、不準(zhǔn)確」，都是在數(shù)據(jù)分析的結(jié)果下有確定的數(shù)值的。

2. 案例二，信用卡詐騙規(guī)則

提供篩選規(guī)則給巡檢團隊，他們在一定范圍內(nèi)的內(nèi)容中篩選出 xx 條可能有問題的內(nèi)容給我，我在通過瀏覽分析出其中的特性，再針對特性做一些延展，例如包含追債、網(wǎng)貸、催更等關(guān)鍵詞，圖片包含手寫、聊天截圖、蓋章合同簽字、信用卡相關(guān)的海報等。

下一步制定規(guī)則時就會根據(jù)這些特定，并再做一些拓展即可（MECE 原則）制定規(guī)則。

在排查他們的其他行為，以及內(nèi)容，是否存在比較高概率也存在相同問題，先接受些誤傷，在支持用戶做申訴。

五、制定策略/規(guī)則/模型

在分析出一些特征后，我可能會通過規(guī)則、策略、模型來解決。

1. 策略/規(guī)則/模型之間的關(guān)系

策略：通常指機審的策略，例如最常見的觸發(fā)某些關(guān)鍵詞就不通過。

規(guī)則：通常指人審的規(guī)則，作為策略的補充，包含部分策略，但又無法完全包含策略，他們是下圖的關(guān)系。

機審策略有，人審規(guī)則無。例如針對識別重復(fù)文本，需要和歷史庫內(nèi)進行對比，人工則不可能做到這件事。

機審策略有，人審規(guī)則有。例如針對男子裸露上體，策略不一定能夠很準(zhǔn)確，如果漏過，則需要人審時識別出來。

機審策略無，人審規(guī)則有。例如以語氣助詞出現(xiàn)的不文明用語，如：

他們的看老子穿裙子還叫老子爬樹（語氣助詞）

可能基于成本，或算法成熟度等原因，會把某些規(guī)則僅讓人工來識別，之后可能逐漸的也會替換成機器識別。

模型：模型可以是作為策略的一個工具，例如我們需要根據(jù)帖子和話題相關(guān)度來決定帖子是否需要獎勵，或者是否需要分發(fā)，可能就會開發(fā)一個相關(guān)度模型，根據(jù)相關(guān)度不同，配置不同的策略處理方式。也可以將多條策略融合之后開發(fā)的模型，直接用于對內(nèi)容的判斷。注：不要一味地相信模型，模型可解釋性遠低于策略，開發(fā)周期長，效果不一定比簡單配置一條策略好。

2. 策略篩選用戶

做策略則是一個不停地切蛋糕的過程，而使用的刀便是由用戶特征組成的規(guī)則，5.2 下面內(nèi)容來自知乎。

5.2.1 用戶情況

5.2.2 策略方法一：單規(guī)則變量刀

單變量組成的規(guī)則，就是一把切出頭的刀，一切到底。

一刀切當(dāng)然是不夠的，我們需要多切幾刀。

通過上面兩刀我們留在中間的用戶，只有兩個壞用戶，壞賬率控制在了 15%。通過率則到了。

5.2.3 策略方法二：多變量規(guī)則刀

單變量規(guī)則刀切的顆粒度刀，對于變量要求高，一刀切就怕切大了。所以，從維度上看，可以用多個維度的變量去切樣本，例如二變量。二變量的刀便成為了矩形刀。

多變量能夠把區(qū)域區(qū)分得更加細膩，如上圖按面積計算的通過率就提升了。

5.2.4 策略方法三：模型透視鏡

嘗試完各種初級變量刀之后，就可以將模型透視鏡引入了。模型透視鏡的作用不在于切，而在于給凌亂不堪的樣本帶來秩序 – 排序能力。

在用了模型透視鏡之后，再配合變量刀就容易得多了。

5.2.5 策略方法四：用戶分層刀

以上的方法都是基于一塊蛋糕來操作的，在原有的基礎(chǔ)上不斷的切：所有人都被切了同樣的刀。但是，我們有時候可能想做得更加細膩一些，商品推薦有千人千面，策略當(dāng)然也能做。這時候就需要用用戶分層刀了。

用戶分層刀將一個蛋糕變成了兩塊，兩塊分別過刀。

有了不同的分群，我們再來一個個多刀。

當(dāng)然實際中策略同學(xué)還有更多的方法，我羅列了幾種常見武器。探索最佳策略的過程，也是不斷挑選武器，不斷嘗試應(yīng)用武器的過程。

3. 策略處理方式

通過上一步篩選出用戶或內(nèi)容或行為，或其他任何東西。我們還需要對不同場景、不同類型、不同嚴(yán)重程度、不同用戶分群等等等基于不同的處罰?？赡苁遣煌ㄟ^、可能是封號、可能是做挑戰(zhàn)、可能是送人審等。隨著業(yè)務(wù)發(fā)展，策略和處理方式都會逐漸的精細化。

4. 制定規(guī)則/策略注意點

5.4.1 豐富性

策略多樣：審核標(biāo)準(zhǔn)的落地應(yīng)在視頻、?頻、?本、圖?、直播等不同內(nèi)容形態(tài)下具備靈活性，滿?內(nèi)容安全的前提下還要符合不同產(chǎn)品形態(tài)、內(nèi)容形態(tài)的傳播特點。

避免?硬：審核標(biāo)準(zhǔn)要能最?限度保護內(nèi)容、尤其是優(yōu)質(zhì)創(chuàng)作者的內(nèi)容，審核標(biāo)準(zhǔn)的?不?是為了規(guī)避?險，也要充分滿?平臺的發(fā)展需要；規(guī)則上不應(yīng)該只有刪除和通過，也應(yīng)包含提醒、退回、限制、分地區(qū)等等多種策略。

5.4.2 前瞻性

前瞻視?：審核標(biāo)準(zhǔn)的制定應(yīng)盡量前置于?險的發(fā)?，這也需要制定者有豐富的業(yè)務(wù)經(jīng)驗與?險意識；

舉一反三：出現(xiàn)一個問題，需梳理出同類型的問題一并制定規(guī)則。

發(fā)展眼光：審核標(biāo)準(zhǔn)應(yīng)盡量???遠并能持續(xù)執(zhí)?，避免頻繁改動，這樣會過于消耗業(yè)務(wù)資源、同時也會影響執(zhí)?效果。

5.4.3 清晰易懂，主要針對人審規(guī)則

條款清晰：審核標(biāo)準(zhǔn)的撰寫要措辭準(zhǔn)確、??簡潔，對于操作者也要便于理解、便于操作，忌諱晦澀難懂與執(zhí)?脫節(jié)。

案例得當(dāng)：除?字規(guī)則外，需要搭配適當(dāng)案例?便理解與對標(biāo)實操。

5.4.4 易于執(zhí)行，主要針對人審規(guī)則

換位思考：審核標(biāo)準(zhǔn)不是為了有?有，應(yīng)本著?便執(zhí)?的原則，?條審核標(biāo)準(zhǔn)要輻射到?百、上千名審核同學(xué)，應(yīng)有敬畏之?，換位思考，制定過程要始終站位落地層?。

操作便捷：審核標(biāo)準(zhǔn)不僅僅是紙?上的?字，應(yīng)充分考慮執(zhí)?的便捷性、判斷的準(zhǔn)確性。

例如，我們需要治理虛假信息，不能說看起來像假的，或者在你的價值觀中是假的，得細分場景，例如對于曬工資，對于滴滴司機/外賣員/快遞員崗位，若月薪≥一定值，則認(rèn)為這是條虛假信息。因為有行業(yè)數(shù)據(jù)，行業(yè)內(nèi)只有不到 x%的人高于這個數(shù)值，我們接受這個誤傷，并且針對這個誤傷我們也不是直接干掉，給他的處罰只是不分發(fā)而已。

例如，我們某條規(guī)則針對嬰兒不執(zhí)行，規(guī)則描述中不能說嬰兒或 1 歲以下的人，因為審核人員無法判斷。可以用他身上的某些標(biāo)志，例如還不能走路的小孩。

5.4.5 注意誤傷

制定一個策略時，需注意可能的誤傷，如果誤傷量級過大，會影響業(yè)務(wù)。

5.4.5 做好平衡

例如我們有一個安保方案，監(jiān)管讓我們在某些特殊時期，針對某些類型賬號不允許發(fā)布內(nèi)容，發(fā)現(xiàn)對業(yè)務(wù)的流量影響過大，我們會設(shè)置更嚴(yán)格的策略，以確保在安全的前提下盡量小的對業(yè)務(wù)造成影響。

例如我們一個策略，觸發(fā)「xxx」相關(guān)的某些內(nèi)容刪除，因為容易存在風(fēng)險，且對應(yīng)內(nèi)容對業(yè)務(wù)無價值，所以在用用戶無感知的前提下，內(nèi)容有些誤傷也沒關(guān)系。

六、預(yù)上線

從嚴(yán)謹(jǐn)流程上來說，一條策略不允許直接上線，都得先經(jīng)過預(yù)上線，觀察一段時間數(shù)據(jù)，然后優(yōu)化，根據(jù)預(yù)上線的數(shù)據(jù)優(yōu)化后再上線。即使非常緊急，也只是縮短預(yù)上線觀察數(shù)據(jù)的時間而已。

預(yù)上線定義：讓策略空跑一段時間，只需知道哪些用戶、哪些設(shè)備、哪些內(nèi)容等觸發(fā)了策略，但并不實際對他們造成處罰。

在預(yù)上線之后可以對策略分為兩種類型，看是否會對用戶行為鏈路受影響。

如果風(fēng)控的動作會導(dǎo)致用戶的行為鏈路受影響，建議進行 ABtest，例如處罰后就會出現(xiàn)滑塊驗證。

如果風(fēng)控的動作對用戶操作無感知，建議染色標(biāo)記，例如海外 ip 在某些時間段內(nèi)發(fā)的內(nèi)容在某些場景不分發(fā)。

七、評估及調(diào)優(yōu)

我們在各個環(huán)節(jié)都會存在評估，只是有的時候會嚴(yán)謹(jǐn)?shù)幕跀?shù)據(jù)來評估，有的時候會大概預(yù)估，這一步是指預(yù)上線、ABtest、染色標(biāo)記后，需觀察數(shù)據(jù)做好評估，以及調(diào)優(yōu)策略。但這一步所列的評估，也并不一定只在這一步使用，在前面決定要解決這個問題，制定策略時也可能會用到。

常用評估方面包括召回率，準(zhǔn)確率，規(guī)則穩(wěn)定性等。

對業(yè)務(wù)流量的影響，對審核人力的影響，對舉報申訴的影響等。

不同業(yè)務(wù)可能還會有其他一些關(guān)注的指標(biāo)，例如影響發(fā)帖量、影響用戶量、影響頭部用戶量等。甚至還聽說過某公司 Q4 會選擇性把風(fēng)控放松一些，一方面影響年度目標(biāo)，一方面影響明年的業(yè)務(wù)預(yù)算，這也是需要評估的方面之一。

指標(biāo)評估后，會根據(jù)對策略的目標(biāo)決定是否需要調(diào)優(yōu)，若已滿足需求，則可以進入下一階段，策略正式上線。

八、策略正式上線

策略由預(yù)上線變?yōu)檎缴暇€，在功能上可能只需要在一個 btn 上調(diào)整下狀態(tài)，但在流程上還有很多事需要做。

1. 上線前做好各方同步

一條新策略上線之前，需要同步到相關(guān)的各方。我們業(yè)務(wù)曾經(jīng)發(fā)生過，策略運營上線一條策略，導(dǎo)致大量內(nèi)容推到人審，人審出現(xiàn)積壓，然后策略運營和審核主管出現(xiàn)吵架。

2. 繼續(xù)觀察數(shù)據(jù)

當(dāng)策略穩(wěn)定后還需要關(guān)注一定周期內(nèi)的數(shù)據(jù)，例如 1 天，3 天，7 周后的治理效果。這個問題是否在減少，用戶是否會變形方式在違規(guī)，是否還有進一步優(yōu)化空間，有沒有引入新的問題等。

例如不允許發(fā)布聯(lián)系方式，上線一個治理聯(lián)系方式的策略，用戶是否以其他變形的聯(lián)系方式在違規(guī)，這個都是需要上線后需要相應(yīng)關(guān)注的。

用戶是否有負面反饋，舉報申訴量是否有相應(yīng)變化，觸發(fā)量級是否也預(yù)上線時一致。

九、策略監(jiān)控及優(yōu)化

在整個風(fēng)控系統(tǒng)中包括一個子系統(tǒng)「監(jiān)控預(yù)警」，這個系統(tǒng)監(jiān)控的其中一塊是對策略的監(jiān)控，包括策略穩(wěn)定性、召準(zhǔn)率等。詳細監(jiān)控可到那個模塊時再來寫對策略的監(jiān)控，這里說說日常人工的觀察。

在策略上線后，人工在瀏覽產(chǎn)品時也需要主要相應(yīng)內(nèi)容是否又被解決，是否有漏掉，是否有變形。

例如我們曾經(jīng)有條策略是禁止男子裸露上體，某一天發(fā)現(xiàn)海爾兄弟也被審核人員干掉，但這并非我們本意，所以完善規(guī)則，這條規(guī)則僅針對真人適用。

例如我們曾經(jīng)有條策略是同一個人發(fā)布相同圖片超過一定次數(shù)，則后續(xù)發(fā)包含這張圖片的帖子會有一定處罰，上線后發(fā)現(xiàn)誤傷比預(yù)上線狀態(tài)大，高于預(yù)期，所以調(diào)整閾值。

例如我們曾經(jīng)有條策略是不允許多賬號多設(shè)備這種行為，策略上線后發(fā)現(xiàn)某類特殊人群是有多賬號多設(shè)備需求的，且平臺也允許，所以選擇性放過這類人群。

十、策略調(diào)整及下線

在不同時間段，或者遇到了某些問題之后，可能會將策略下線及合并。

1. 特殊時期

在某些特殊時期，我們可能會將策略更嚴(yán)，例如國慶、七一、春節(jié)，以及某些歷史事件日期。

此時策略就會涉及到上下線，例如某些特殊期間，針對不同等級的賬號、不同渠道來源的內(nèi)容、不同屬性的內(nèi)容，審核策略會不同。如對于境外 ip 以及中國的某些省份發(fā)的內(nèi)容需要全部經(jīng)過人審，甚至全部可能全部干掉這些內(nèi)容。

2. 策略整合及下線

隨著業(yè)務(wù)發(fā)展，策略人員的變動，新開發(fā)模型，業(yè)務(wù)變化等原因。就一定會出現(xiàn)策略逐漸龐大復(fù)雜，策略間出現(xiàn)交集、并集，或需要多策略聯(lián)動處理，以及一些模型可覆蓋策略，需將策略下線等情況。

此時就需要定期的復(fù)盤歷史策略，將需要廢棄的廢棄，多條策略需要合并的做合并。

在新上線一條策略時也需要注意看看是否歷史已有類似策略，是否可以合并到之前的某條策略上。

感觸：雖然上面這樣說，但具體實操時大家往往不敢去干這件事，就像新來的程序員去改老系統(tǒng)的 bug 一樣，看似沒用，但可能導(dǎo)致整個系統(tǒng)崩潰。但為了系統(tǒng)長遠發(fā)展，雖然下線、合并策略很麻煩，但這件事依然值得做。

十一、制定策略的經(jīng)驗

在這一年半時間，我制定過幾百條策略，人審規(guī)則也更新了幾十版，踩過一些坑，也總結(jié)出一些經(jīng)驗。

如下經(jīng)驗主要包括兩部分，我自己總結(jié)，及參考網(wǎng)絡(luò)上別人的總結(jié)但我也有相同感觸。

平衡風(fēng)險和收益的能力，是風(fēng)控產(chǎn)品經(jīng)理非常重要的一個能力。

制定策略，甚至整個防控，多從作弊動機角度考慮，而不只是從識別出違規(guī)內(nèi)容角度考慮。

做治理時不要貪大，一開始就想所有問題都解決，導(dǎo)致工作沒辦法進行。得確定好重點，一個周期內(nèi)核心解決某幾個問題，制定好指標(biāo)，制定好衡量標(biāo)準(zhǔn)，飯得一口一口吃，問題得一個一個解決。

建立標(biāo)準(zhǔn)化工作流程，即：策略上線標(biāo)注流程。一條策略上線是一個很長線程，若沒有一個標(biāo)準(zhǔn)化流程，容易漏掉其中一些步驟。

遇到問題必然先臨時用規(guī)則引擎或者離線分析的方法甚至產(chǎn)品的方法打擊一波，而后考慮長期的防御機制。

制定策略通常是先大力出奇跡，然后再逐步優(yōu)化誤傷，然后逐步轉(zhuǎn)化為模型。但也看策略邏輯，例如針對大 V，大力出奇跡就直接干掉了 5% 的大 V，可不行。

風(fēng)控產(chǎn)品自己一定要去做檢測，策略配置人員也是人，也可能出現(xiàn)配置錯誤，不能讓這種錯誤出現(xiàn)在線上用戶反饋了再去排查問題，需要做好驗證。

對模型穩(wěn)定性、召準(zhǔn)率要做好監(jiān)控，不然哪天模型沒運行了都不知道，我司發(fā)生過這事，過了一天多用戶反饋才發(fā)現(xiàn)。

堅持低成本、低誤傷、高收益，數(shù)據(jù)說話的原則。

Spam問題具有時效性，反spam更要快速有效。

不要指望一個策略或一組策略解決所有問題。

勿以善小而不為，當(dāng)成本也很小的時候，一些收益看起來小的策略，在多個策略綜合起效的時候，也能帶來很大的收益。

十二、內(nèi)容治理的難點

問題瑣碎、變種多（例如我們在朋友圈、微信群發(fā)的各種變形與微信對抗）、對抗性強、問題定義難、競品邏輯隱藏，公開可參考資料少、結(jié)果難評估、不易發(fā)現(xiàn)不知道的問題、違規(guī)無孔不入等等等。