編輯導(dǎo)語(yǔ)：筆者上一篇文章《機(jī)器審核》中，重點(diǎn)介紹了機(jī)器審核的能力，互聯(lián)網(wǎng)廣告內(nèi)容審核專(zhuān)題（二）——機(jī)器審核；本文來(lái)談?wù)剻C(jī)器和對(duì)人工審核如何組合運(yùn)作，滿(mǎn)足各類(lèi)業(yè)務(wù)場(chǎng)景的需求？

首先，什么場(chǎng)景需要人工審核？對(duì)于機(jī)器無(wú)法準(zhǔn)確識(shí)別的內(nèi)容，都需人工審核進(jìn)行確認(rèn)；通常機(jī)器審核和人工審核的量級(jí)約為9:1，對(duì)于日均量級(jí)上億的內(nèi)容產(chǎn)品上，人審日均量級(jí)也達(dá)到百萬(wàn)級(jí)，同時(shí)滿(mǎn)足時(shí)效性要求和審核質(zhì)量無(wú)疑是很困難的。

因此在實(shí)際業(yè)務(wù)中，根據(jù)不同產(chǎn)品的形態(tài)，建立不同的人機(jī)聯(lián)動(dòng)審核機(jī)制，最大化滿(mǎn)足審核訴求。

下面分別談?wù)剝煞N基本的審核機(jī)制：

一、人機(jī)聯(lián)動(dòng)機(jī)制

1. 先審后發(fā)

先審后發(fā)是早期審核采用的模式，要求全部?jī)?nèi)容均通過(guò)完整的審核流程后允許上線(xiàn)分發(fā)，用以保證風(fēng)險(xiǎn)最低、質(zhì)量最優(yōu)。

通常對(duì)于商業(yè)廣告，高風(fēng)險(xiǎn)行業(yè)或客戶(hù)必須采用先審后發(fā)機(jī)制，來(lái)避免風(fēng)險(xiǎn)的發(fā)生；對(duì)于重質(zhì)量的內(nèi)容社區(qū)，也需要經(jīng)過(guò)完整的審核流程才能進(jìn)行發(fā)布。

以上給出先審后發(fā)機(jī)制中，機(jī)器和人工審核聯(lián)動(dòng)的基本流程。待審內(nèi)容都先通過(guò)機(jī)器審核；當(dāng)機(jī)審輸出結(jié)果達(dá)到閾值，準(zhǔn)確度可信時(shí)，按機(jī)器審核結(jié)果通過(guò)上線(xiàn)或直接拒絕；當(dāng)機(jī)審輸出結(jié)果未達(dá)到閾值，給出疑似風(fēng)險(xiǎn)的判斷，推送給人工審核進(jìn)行最終確認(rèn)，按人審結(jié)果通過(guò)上線(xiàn)或直接拒絕。

對(duì)于先審后發(fā)機(jī)制，不斷提升機(jī)器審核的準(zhǔn)確率，將會(huì)大大減少人工審核的工作。

2. 先發(fā)后審機(jī)制

對(duì)于海量的內(nèi)容，全部采取先審后發(fā)機(jī)制無(wú)法滿(mǎn)足內(nèi)容分發(fā)的時(shí)效要求。近些年興起的先發(fā)后審機(jī)制，可以幫助解決這部分問(wèn)題。

對(duì)于商業(yè)廣告，可以選取低風(fēng)險(xiǎn)行業(yè)或客戶(hù)，允許先上線(xiàn)分發(fā)，幫助其短時(shí)間內(nèi)獲取更多流量；對(duì)于時(shí)效性要求高的內(nèi)容產(chǎn)品，如評(píng)論、視頻彈幕等，快速上線(xiàn)展現(xiàn)，滿(mǎn)足其實(shí)時(shí)發(fā)布需求。

以上給出先發(fā)后審機(jī)制中，機(jī)器和人工審核聯(lián)動(dòng)的基本流程。待審內(nèi)容通過(guò)機(jī)器審核，秒級(jí)輸出機(jī)審審核結(jié)果；如機(jī)審結(jié)果確認(rèn)有風(fēng)險(xiǎn)，則按機(jī)審結(jié)果直接拒絕，否則立刻上線(xiàn)分發(fā)；上線(xiàn)后根據(jù)展現(xiàn)量抽取線(xiàn)上展現(xiàn)內(nèi)容，推送人工復(fù)審，檢查風(fēng)險(xiǎn)問(wèn)題。

如人工復(fù)審發(fā)現(xiàn)的風(fēng)險(xiǎn)問(wèn)題較大，可以將該行業(yè)或客戶(hù)的審核機(jī)制升級(jí)為先發(fā)后審，來(lái)保證風(fēng)險(xiǎn)可控。

在審核業(yè)務(wù)中，先審后發(fā)和先發(fā)后審兩種機(jī)制也通常組合運(yùn)作，靈活調(diào)配，以最小的成本實(shí)現(xiàn)風(fēng)險(xiǎn)控制，滿(mǎn)足審核時(shí)效要求。

二、審核任務(wù)分配

在人機(jī)聯(lián)動(dòng)審核機(jī)制中，如何將審核任務(wù)快速分配給對(duì)應(yīng)的人員進(jìn)行審核呢？來(lái)一起看看審核任務(wù)分配機(jī)制。

1. 審核任務(wù)主動(dòng)分配

上圖是一套動(dòng)態(tài)靈活的審核任務(wù)分配機(jī)制，減少任務(wù)等待時(shí)間，更快速地分發(fā)給審核人員。

第一步：待審任務(wù)灌入審核任務(wù)池，等待被分配。

第二步：根據(jù)審核組長(zhǎng)或管理人員配置的權(quán)重，自動(dòng)分發(fā)相應(yīng)比重的任務(wù)，進(jìn)入審核員任務(wù)列表，審核員可以開(kāi)始審核；通常分配權(quán)限需支持靈活配置，如支持審核員請(qǐng)假等場(chǎng)景。

第三步：對(duì)審核任務(wù)池和審核員任務(wù)列表實(shí)時(shí)監(jiān)控；如出現(xiàn)任務(wù)池任務(wù)突增，需加快分配至審核員任務(wù)列表進(jìn)行審核；如審核員任務(wù)列表剩余任務(wù)不足，任務(wù)池主動(dòng)進(jìn)行分配；通過(guò)這樣動(dòng)態(tài)分配的方式，保證審核員有充足的任務(wù)，避免任務(wù)積壓。

實(shí)際審核任務(wù)分配可以基于此基本方法進(jìn)行變換，滿(mǎn)足不同場(chǎng)景的審核需求。

本篇文章的內(nèi)容就到這里，關(guān)于更多的審核模式、審核機(jī)制、審核業(yè)務(wù)管理方式等會(huì)在后續(xù)文章中繼續(xù)和大家分享！歡迎大家一起探討！

本文由 @Rush 原創(chuàng)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)許可，禁止轉(zhuǎn)載

題圖來(lái)自?Unsplash，基于 CC0 協(xié)議