互聯(lián)網(wǎng)內(nèi)容人工審核就像在一片掃過(guò)雷的雷區(qū)里散步，大部分時(shí)候都是安全的，但是運(yùn)氣不好的時(shí)候就會(huì)踩到地雷，而且有的地雷還是核地雷，一觸發(fā)整個(gè)平臺(tái)可能粉身碎骨。

“11月最忙碌的一個(gè)月，共參與了21930次工作討論，最晚一天是11月12日·凌晨4：42。這個(gè)月，你在忙什么呢？”

這是B站武漢分部?jī)?nèi)容安全中心圖文審核部“暮色木心”的企業(yè)微信記錄。而2021年，“暮色木心”共處理了199240次工作會(huì)話(huà)，花費(fèi)了73024分鐘。哪怕按照全年無(wú)休，一天算下來(lái)也要處理545次會(huì)話(huà)。

2月7日，微博職場(chǎng)博主“王落北”曝出B站武漢AI審核組代組長(zhǎng)“暮色木心”因過(guò)年期間被要求加班，在晚上9點(diǎn)到早上9點(diǎn)的工作強(qiáng)度下，初五凌晨不幸因腦出血去世，原因?yàn)榧影唷?/p>

一經(jīng)曝出，事件快速發(fā)酵。今日之前，B站一直遲遲未有官方正式回復(fù)，流傳出的只有一封《內(nèi)容安全中心全體通告》，通告中B站表示逝者在事發(fā)前一周并未存在加班等情況。

B站里的視頻也風(fēng)平浪靜。昨日有內(nèi)部人士向「新熵」透露，“最近幾乎各賬號(hào)往B站投的關(guān)于此事件的內(nèi)容被攔截了。”在B站今日作出官方回應(yīng)后，平臺(tái)上才陸陸續(xù)續(xù)放出了幾條相關(guān)視頻。

一次內(nèi)部郵件截圖回應(yīng)加一次外部回應(yīng)，事發(fā)五天后才奔赴武漢與逝者家屬見(jiàn)面，一切行為都讓外界不買(mǎi)單，以“正能量”著稱(chēng)的B站本次讓不少用戶(hù)“脫了粉”。

在十二周年的周年演講上，B站董事長(zhǎng)兼CEO陳睿曾一再提及社區(qū)的健康度，“我們之所以這么重視內(nèi)容，這么重視UP主，是因?yàn)槲覀冎溃玫膬?nèi)容是讓用戶(hù)長(zhǎng)期留在社區(qū)的根本原因，這是一個(gè)前提。”

或許B站可以稱(chēng)得上是健康的內(nèi)容社區(qū)，但本次事件卻暴露B站或許并不是一家“有愛(ài)”的企業(yè)。關(guān)心社區(qū)的健康，關(guān)心平臺(tái)的用戶(hù)，卻忽視了員工的內(nèi)容社區(qū)又能否稱(chēng)得上“健康”？

在官方正式回應(yīng)中B站表示將開(kāi)展以下工作：一、將用最大力度擴(kuò)招審核人員，今年增加招聘1000人；二、加強(qiáng)員工體檢及增設(shè)全天候的健康咨詢(xún)室。

這就夠了嗎？憑愛(ài)已不能持續(xù)發(fā)電，B站又將如何尋找最優(yōu)解？

PART.

01

笨重的人工審核

不少業(yè)內(nèi)人士曾指出B站的機(jī)器輔助審核較弱，因此較依賴(lài)人工審核。

B站在其招股書(shū)中層表示內(nèi)容篩選團(tuán)隊(duì)的員工專(zhuān)門(mén)負(fù)責(zé)日以繼夜地每周7天每天24小時(shí)審核及監(jiān)控上傳到平臺(tái)上的內(nèi)容，“所有其他內(nèi)容（主要為用戶(hù)發(fā)布的彈幕）亦會(huì)由我們的篩選系統(tǒng)進(jìn)行自動(dòng)篩選。”可見(jiàn)B站的機(jī)器審核只起輔助角色，人工才是主要審核力。

即便擁有算法審核，出于復(fù)雜的內(nèi)容加之AI的合格率無(wú)法達(dá)到百分之百，人工審核崗也一刻不能放松。

“作為資本螺絲釘就是這么可悲”，李磊是B站南方某城市的一名視頻審核人員。

在短視頻的紅利時(shí)代，不少人爭(zhēng)先恐后入局，內(nèi)容爆炸也隨之而來(lái)。2021年第三季度B站博主數(shù)量同比增加了61%，每月上傳到后臺(tái)的視頻數(shù)量就超千萬(wàn)，同比增長(zhǎng)了八成。

這也意味著后臺(tái)審核工作量的成倍膨脹，但與此同時(shí)，審核的人手卻沒(méi)有成正比增加。一B站審核崗人員表示該崗位流動(dòng)頻繁，“天天有人離職，嗶哩嗶哩天天招人。”李磊告訴「新熵」：“審核崗一直在招，搞人海戰(zhàn)術(shù)，因?yàn)樾枰罅咳耸秩ヌ幚硇畔⒗Ｗ叩娜艘捕啵吘勾隼⒐ぷ鲝?qiáng)度大。能留下來(lái)的要么是家門(mén)口的，要么是覺(jué)得還能往上爬有餅吃，要么是已經(jīng)在找下家。”

需要人卻留不住人的背后，是B站與工作量不符的薪資及不合理的職能體系。

B站審核工作時(shí)間制度分為“行政班”和“12小時(shí)班”兩種。行政班連續(xù)五天上9個(gè)小時(shí)，12小時(shí)班做一休一。若選擇后者，李磊的到手工資折合成時(shí)薪不到24元，若為前者，算上多出幾天的通勤時(shí)間成本，時(shí)薪只約20元，甚至不足南京最新公布的非全日制用工小時(shí)最低工資22元。

盡管B站官方回應(yīng)稱(chēng)公司未春節(jié)期間值班的同事給予法定三倍的薪酬，但據(jù)李磊反映，“關(guān)于加班費(fèi)，B站過(guò)年期間只有初一、初二、初三三天有三倍加班費(fèi)，除夕和其他時(shí)間是沒(méi)有的，國(guó)慶期間也只有123三天法定假日有三倍加班費(fèi)。據(jù)說(shuō)是因?yàn)椤C合工時(shí)制’，所以普通的休假日從來(lái)沒(méi)有過(guò)雙倍工資。”

而哪怕只拿到這個(gè)在當(dāng)?shù)胤侨罩谱畹陀霉r(shí)薪上下徘徊的薪資，這些審核人員需要面對(duì)的已是“不可承受之重”。這些壓力除了海量的任務(wù)數(shù)量，觀看不合規(guī)及無(wú)法對(duì)外開(kāi)放的問(wèn)題內(nèi)容對(duì)他們也是常態(tài)。

績(jī)效方面，李磊透露，B站近幾個(gè)月把“VPN支援”的制度設(shè)的更嚴(yán)格。“以前支援不上線就是績(jī)效扣一兩分，而平均績(jī)效都是按七八十分左右計(jì)的。新的規(guī)則直接改成了不上線加班就績(jī)效降檔，不僅扣獎(jiǎng)金，而且影響年度績(jī)效，影響前途。作為代班組長(zhǎng)，組員不想上線支援，組長(zhǎng)為了不扣自己的績(jī)效，只能上線硬抗。人效必須到最低審核量才能下線還意味著加班不能磨洋工，必須按在公司的效率工作，差一點(diǎn)都有制度懲罰。”

每天在電腦面前不停地拖動(dòng)鼠標(biāo)，為了保證工作質(zhì)量，一個(gè)視頻需來(lái)回看好幾遍，一個(gè)審?fù)辏�有數(shù)不完的視頻躺在后臺(tái)。除了精神壓力，B站的審核員們幾乎都在工作過(guò)程中發(fā)現(xiàn)了自己肉眼的外在變化——視力下降、體重飆升、心臟疼痛、體質(zhì)精神變差...，這些在B站審核人員身上已成了共性。

“感覺(jué)不僅眼睛的感光能力變?nèi)趿耍掖竽X也好像有塊什么地方變成了真空，稍微運(yùn)動(dòng)運(yùn)動(dòng)，血液流動(dòng)快了就有種一抽一抽的疼。”而這距離李磊加入B站還不足一年。

B站審核崗招聘相關(guān)要求

B站似乎對(duì)此習(xí)以為常，甚至在其招聘廣告上直白要求“需有較強(qiáng)的抗壓能力，能適應(yīng)晚班”。在最新回應(yīng)中，B站表示今年將進(jìn)行擴(kuò)招并加強(qiáng)體檢。但若不完善現(xiàn)有的工作體系和相應(yīng)的薪酬制度，B站將依舊笨重。

PART.

02

當(dāng)小破站成為“大哥”

在視頻領(lǐng)域，B站早已成為一枝獨(dú)秀的存在。

2021年6月3日的“第九屆中國(guó)網(wǎng)絡(luò)視聽(tīng)大會(huì)”上，優(yōu)酷總裁樊路遠(yuǎn)大吐苦水：“現(xiàn)在，我們叫B站‘大哥’，因?yàn)锽站大哥的市值是我們愛(ài)奇藝大哥+騰訊（視頻）大哥+我（優(yōu)酷）打個(gè)七折，加起來(lái)比我們還要高。”

緊接著，樊路遠(yuǎn)劍指B站，表示“我們希望B站能一直把原創(chuàng)短視頻當(dāng)做自己的主要發(fā)展目標(biāo)。”無(wú)獨(dú)有偶，隨后愛(ài)奇藝創(chuàng)始人龔宇重點(diǎn)強(qiáng)調(diào)了二創(chuàng)等侵權(quán)問(wèn)題，再次將矛頭對(duì)準(zhǔn)B站。

B站的成功，根本原因在于和優(yōu)愛(ài)騰的商業(yè)模式有著本質(zhì)上的區(qū)別。當(dāng)優(yōu)愛(ài)騰在影視劇、綜藝節(jié)目、選秀等方面瘋狂砸錢(qián)時(shí)，B站靠著PUGC（專(zhuān)業(yè)用戶(hù)自制內(nèi)容）的獨(dú)特模式生存得如魚(yú)得水。

當(dāng)優(yōu)愛(ài)騰們推出優(yōu)質(zhì)劇，B站UP主們會(huì)出二創(chuàng)剪輯為喜歡的演員或CP打call。這種情況下，B站的二創(chuàng)對(duì)影視作品本身起到正向的宣傳作用。當(dāng)優(yōu)愛(ài)騰們推出雷劇，B站UP主們會(huì)出吐槽剪輯引爆觀眾痛點(diǎn)。如2021年下半年針對(duì)“古裝丑男”現(xiàn)象的輿論討伐中，B站的大量二創(chuàng)剪輯視頻起到了推波助瀾的作用。

古裝丑男相關(guān)視頻播放量普遍很高

總的來(lái)說(shuō)，雖然優(yōu)愛(ài)騰們不斷燒錢(qián)，連年虧損，某些時(shí)候也難以避免地成為了B站的視頻養(yǎng)料。在這種態(tài)勢(shì)之下，優(yōu)愛(ài)騰們自然對(duì)B站頗有怨言。但作為國(guó)內(nèi)獨(dú)一無(wú)二的PUGC的長(zhǎng)視頻網(wǎng)站，B站的創(chuàng)作主體繁雜，內(nèi)容繁雜，因此潛在問(wèn)題最多，面臨的外界壓力也最大。

僅在春節(jié)前，B站就被兩個(gè)巨大的輿論爭(zhēng)議困擾。1月15日，有網(wǎng)友爆料，B站上有不少破解醫(yī)院、學(xué)校等公共場(chǎng)所的監(jiān)控視頻，令大眾不寒而栗。1月18日，醫(yī)生在B站直播病人婦科手術(shù)一事再度引發(fā)巨大輿論反響。彼時(shí)，關(guān)于B站的審核機(jī)制已經(jīng)成為輿論關(guān)注的重點(diǎn)，不少網(wǎng)友以洪范所等幾位政法專(zhuān)家的普法直播迅速斷播和婦科手術(shù)多次警告后才斷播作為對(duì)比，質(zhì)疑B站的審核機(jī)制和平臺(tái)價(jià)值觀。

左為上傳破解監(jiān)控內(nèi)容的B站賬號(hào)；右為違規(guī)直播婦科手術(shù)的B站直播間

基于這兩次事件，有不少用戶(hù)和UP主表示，B站對(duì)“人工審核”一直頗為引以為傲。在視頻方面，如果有黑名單人物出現(xiàn)在UP主上傳的視頻中，即便是做了遮掩處理，審核員也會(huì)將視頻打回。至于直播，政法專(zhuān)家的直播幾乎是秒掐斷，不存在多次警告的現(xiàn)象。

雖然B站也有AI審核作為人工審核的輔助，但公共場(chǎng)所監(jiān)控視頻上傳和婦科手術(shù)直播事件的發(fā)生，說(shuō)明B站引以為傲的審核機(jī)制存在巨大漏洞，無(wú)論是人工投入和AI智能度，都亟待提高。然而不幸的是，僅僅二十天之后，就發(fā)生了B站審核員過(guò)勞猝死事件，這讓人們不禁將幾件事情聯(lián)系起來(lái)，并怒罵資本的貪婪和冷血。

自2015年踏上資本的快車(chē)道之后，B站開(kāi)始愈發(fā)小心和謹(jǐn)慎，逐步和盜版資源決裂。2017年7月，B站開(kāi)始了最大規(guī)模的盜版整治行動(dòng)，大量盜版影視資源下架，令用戶(hù)猝不及防。與此同時(shí)，B站的審核速度也在不斷下降。

有UP主告訴「新熵」，2018年，自己上傳的視頻需要審核12-24個(gè)小時(shí)才過(guò)審。這種速度，對(duì)于內(nèi)容具備實(shí)效性的UP主頗為不友好。此后，B站的審核速度一度飆升至幾小時(shí)之內(nèi)，但進(jìn)入2020年，B站的審核速度再次跌至谷底。

2020年，受疫情影響，UP主數(shù)量和內(nèi)容數(shù)量雙雙激增，導(dǎo)致老UP主發(fā)現(xiàn)審核速度明顯下降，不少UP主的視頻需要近一天才過(guò)審。這種情況的出現(xiàn)，說(shuō)明B站對(duì)內(nèi)容數(shù)量的爆發(fā)式增長(zhǎng)并未作出配套的應(yīng)對(duì)措施。進(jìn)入2021年下半年，UP主們感受到B站的審核速度明顯提升，可以達(dá)到1小時(shí)內(nèi)過(guò)審的水準(zhǔn)。

但有UP主發(fā)現(xiàn)，B站的審核機(jī)制和審核速度似乎一直是受外界壓力推動(dòng)的。UP主李櫻表示，“2020年初，我剪輯的《火影忍者》相關(guān)剪輯視頻被如數(shù)退回，標(biāo)注原因?yàn)椤鶕?jù)版權(quán)方（優(yōu)酷）要求，本站撤下該片’。而后，我將視頻長(zhǎng)度縮減至不涉嫌侵權(quán)的3分鐘之內(nèi)，才得以重新發(fā)布。”

李櫻的經(jīng)歷說(shuō)明，如果版權(quán)方不介入，B站對(duì)二創(chuàng)視頻就處于放任狀態(tài)；一旦版權(quán)方介入，B站就會(huì)大規(guī)模下架相關(guān)視頻，審核員的工作量也會(huì)激增。B站上的公共場(chǎng)所監(jiān)控視頻引發(fā)關(guān)注后，平臺(tái)在兩天時(shí)間內(nèi)清除了平臺(tái)上的所有相關(guān)視頻。總是要靠外界壓力推進(jìn)審核，B站的審核速度自然難以處于平穩(wěn)狀態(tài)，給到審核人員的壓力也會(huì)波動(dòng)性猛增。

PART.

03

內(nèi)容審核的不能承受之重

在員工猝死事件發(fā)生后，B站承諾今年擴(kuò)招1000人。李磊表示，“B站視頻審核人員（包括培訓(xùn)人員）在1000人以上，算上圖文審核人員起碼有2000多人。”擴(kuò)招1000人，意味著B(niǎo)站的審核效率理論上能夠大幅提高。但值得注意的是，B站并未對(duì)外界關(guān)注的AI審核做出改進(jìn)承諾。

目前，抖音、快手等PUGC內(nèi)容平臺(tái)和B站一樣，均采用先機(jī)器審核，后人工審核的雙重審核機(jī)制，機(jī)器難以識(shí)別的視頻，會(huì)交由人工進(jìn)行復(fù)審。只不過(guò)各個(gè)平臺(tái)的審核速度有很大差異，抖音和快手的審核速度很快，普遍是秒傳視頻，或者幾分鐘之內(nèi)即審核完畢。相比之下，B站的審核速度相形見(jiàn)絀。

B站的審核速度慢，不僅僅受人手不足影響，內(nèi)容繁雜、視頻長(zhǎng)度普遍較長(zhǎng)也是重要的影響因素。李磊表示，舞蹈區(qū)、游戲區(qū)、生活區(qū)的稿件因?yàn)槿菀妆籄I分類(lèi)，所以單獨(dú)設(shè)置了AI復(fù)審，即人工審核較少。其他分區(qū)的內(nèi)容，則多需要人工審核參與。UP主也普遍表示，視頻內(nèi)容越長(zhǎng)、內(nèi)容越敏感，審核時(shí)間也會(huì)相應(yīng)變長(zhǎng)。

另一方面，B站相較于其他平臺(tái)，未成年用戶(hù)更多，所以審核標(biāo)準(zhǔn)也更加嚴(yán)格。根據(jù)官方數(shù)據(jù)，2020年以來(lái)，全國(guó)“掃黃打非”辦公室接到關(guān)于B站問(wèn)題的線索約500條。上海市相關(guān)部門(mén)先后對(duì)B站行政立案處罰6次，約談10余次，主要整治涉及刊載兒童“邪典”、內(nèi)容低俗等問(wèn)題；

有影視剪輯UP主告訴「新熵」，影視劇中接吻等鏡頭，需要打碼后，視頻才能發(fā)布成功。也有B站前員工表示，B站的人工審核不一定是一遍，也有可能審核很多遍，以排查風(fēng)險(xiǎn)。所有短期播放量數(shù)據(jù)高的視頻也會(huì)有運(yùn)營(yíng)人員進(jìn)行回查。

多重因素疊加，使得B站的審核速度難以和抖音快手相匹敵，也使得AI審核難以有更大的作為。人工審核，成了B站PUGC內(nèi)容生產(chǎn)模式下不得不重度依賴(lài)的路徑。

B站過(guò)度依賴(lài)人工審核的另一個(gè)重要原因是，社區(qū)氛圍也需要通過(guò)審核機(jī)制來(lái)進(jìn)行隱形調(diào)控。

抖音、快手在下沉過(guò)程中產(chǎn)生了糟糕的評(píng)論氛圍，優(yōu)愛(ài)騰們效仿B站搞彈幕和社區(qū)，也被明星粉絲搞得烏煙瘴氣。反觀B站，雖然近幾年用戶(hù)圈層不斷擴(kuò)大，用戶(hù)逐漸多元化，但社區(qū)氛圍總體沒(méi)有偏離幽默詼諧的傳統(tǒng)調(diào)性。

2016年，B站老用戶(hù)感覺(jué)到社區(qū)氛圍開(kāi)始發(fā)生變化，吐槽、抗議之聲不絕。彼時(shí)，B站的競(jìng)爭(zhēng)對(duì)手A站尚未處于下風(fēng)，B站必須守住社區(qū)氛圍，留住老用戶(hù)，于是，B站的彈幕、評(píng)論、私信、動(dòng)態(tài)等內(nèi)容也進(jìn)入強(qiáng)審核時(shí)代。有用戶(hù)對(duì)「新熵」表示，在B站發(fā)動(dòng)態(tài)時(shí)，卡通人物著裝稍微暴露的插畫(huà)都會(huì)被駁回。

對(duì)用戶(hù)所發(fā)內(nèi)容的全面審核，也造就了更隱蔽的臟話(huà)文化，如B站用戶(hù)會(huì)將臟話(huà)“垃圾”替代為“屑”，這種類(lèi)似于黑話(huà)般的B站內(nèi)容，無(wú)法被系統(tǒng)識(shí)別，雖然可以人工識(shí)別，但也沒(méi)有相關(guān)依據(jù)將其判定為違規(guī)。

正如李磊所說(shuō)，“互聯(lián)網(wǎng)內(nèi)容人工審核就像在一片掃過(guò)雷的雷區(qū)里散步，大部分時(shí)候都是安全的，但是運(yùn)氣不好的時(shí)候就會(huì)踩到地雷，而且有的地雷還是核地雷，一觸發(fā)整個(gè)平臺(tái)都粉身碎骨。而目前還不存在能審出所有問(wèn)題內(nèi)容的AI，未來(lái)也大概率不會(huì)。”所以針對(duì)當(dāng)下的問(wèn)題，B站只能選擇吸納更多的員工來(lái)掃雷。

（文中李磊、李櫻均為化名）