“后臺(tái)每天都會(huì)添加大量敏感詞……我們有時(shí)候私底下坐一塊兒，你去想，你也去想，就找（某個(gè)敏感詞的）諧音……你想想，中國(guó)漢字（這么多），比如跟‘微信’這兩個(gè)字諧音的就得有多少？”“1000多個(gè)關(guān)于防爆的敏感詞，我自己都不知道是什么東西，全進(jìn)詞庫(kù)了”“進(jìn)了這個(gè)行業(yè)，才分得清什么是性感，什么是低俗，什么是暴露”。
講這些話時(shí)，林達(dá)正坐在位于北京酒仙橋路360公司所投資的平臺(tái)——花椒直播的“攝影棚”里，所謂攝影棚，其實(shí)是一間小會(huì)議室，林達(dá)是花椒直播的600多名內(nèi)容審核員之一。出寫字樓往東南方向再走1.3公里，是國(guó)投信息創(chuàng)意產(chǎn)業(yè)園，這是另一家直播平臺(tái)“人人直播”所在地——自納斯達(dá)克上市后在資本運(yùn)作上困頓已久的人人網(wǎng)也終于忍不住在2016年開始試水直播，雖然規(guī)模相對(duì)不大，但比起之前的純校園社交平臺(tái)，這已經(jīng)算是更直觀的商業(yè)化嘗試。
繼文字、圖片、視頻之后，隨著技術(shù)升級(jí)與資本追捧，帶有時(shí)間流這個(gè)第四種呈現(xiàn)維度的直播在過去一年里暴得大名，想在“風(fēng)口”分得一杯羹的創(chuàng)業(yè)者眾，想趁機(jī)抓住一根救命稻草的焦慮者眾，于是不乏魚龍混雜，急功近利中泥沙俱下。隨之而來的，是一系列來自行政的規(guī)范肅清。2017年5月，文化部高調(diào)關(guān)停了涉嫌低俗傳播的“千樹”等10家表演平臺(tái)，并對(duì)48家網(wǎng)絡(luò)表演經(jīng)營(yíng)單位進(jìn)行了處罰，關(guān)閉直播間30235間。
迅速野蠻生長(zhǎng)后，除稗篩糠成了主流直播平臺(tái)不敢掉以輕心要自我應(yīng)對(duì)的事情，加上用戶數(shù)量與日俱增，于是各家產(chǎn)品不得不快速跟進(jìn)增設(shè)更多的內(nèi)容審核員進(jìn)入運(yùn)營(yíng)團(tuán)隊(duì)。一直播高級(jí)副總裁陳太鋒告訴網(wǎng)易科技，比如公司由最初只審核旗下秒拍內(nèi)容的幾十人，到后來有了小咖秀、一直播等產(chǎn)品，現(xiàn)在做內(nèi)容審核的“整個(gè)加起來將近七八百號(hào)人”。
雖然這似乎是一個(gè)看起來并不需要什么鮮明特長(zhǎng)的群體，甚至做的事情“類似富士康這種流水線的工作”，但由于工作性質(zhì)微妙，仍略帶神秘感，也有外界聲音把他們稱作“鑒黃師”。
“這是諧音字，你好好念念”
“其實(shí)還不一樣，到鑒黃師這個(gè)級(jí)別，他們就不做初級(jí)審核員這些工作了，他們會(huì)創(chuàng)造和制定規(guī)則”，林達(dá)認(rèn)真地告訴網(wǎng)易科技，所以目前國(guó)內(nèi)絕大部分從事直播內(nèi)容過濾的相關(guān)工作人員，稱為“內(nèi)容審核員”是更嚴(yán)謹(jǐn)?shù)恼f法。
好像在敘述一款升級(jí)打怪的手游。
林達(dá)今年24歲，小時(shí)候隨父母來到北京生活，便再?zèng)]有回陜西老家長(zhǎng)住過。2015年大學(xué)畢業(yè)，去年入職花椒直播做了內(nèi)容審核員，和朋友們一塊兒吃飯時(shí)大家聊起來，別人問他：“你現(xiàn)在是不是有點(diǎn)網(wǎng)絡(luò)警察的感覺??？”“對(duì)?！彼X得這個(gè)比喻很受用。
馬可也不大喜歡別人用“鑒黃師”三個(gè)字來概括自己在人人直播的內(nèi)容審核工作，2016年春節(jié)過后，人人網(wǎng)嘗試上線了初版直播平臺(tái)，從原運(yùn)營(yíng)團(tuán)隊(duì)抽拔了一部分人轉(zhuǎn)做直播內(nèi)容審核，不過由于體量有限，直到后來有新人繼續(xù)補(bǔ)充加入，整個(gè)審核團(tuán)隊(duì)也不過保持在二三十人左右的狀態(tài)。馬可特意強(qiáng)調(diào)他們做的不僅僅是基礎(chǔ)審核，由于主要面向校園人群，相對(duì)單純，所以平時(shí)還有很大一部分工作內(nèi)容是和主播溝通交流、甚至提些優(yōu)化建議的更有“運(yùn)營(yíng)”技術(shù)含量的事情。
而無論哪家平臺(tái)，對(duì)于內(nèi)容審核員來說最常規(guī)的工作方式，就是面對(duì)屏幕“大家來找茬兒”。據(jù)網(wǎng)易科技了解，比如人人直播后臺(tái)審核，一張電腦屏平時(shí)可同時(shí)監(jiān)管9個(gè)直播間；花椒直播目前采用的是雙屏監(jiān)控，同時(shí)可在線觀察20路視頻，在高峰期甚至?xí)屆總€(gè)審核員擴(kuò)展到同時(shí)監(jiān)管50路。
嗯，《封神演義》中的“眼觀四面，耳聽八方”也不過如此……
除此之外，各主流平臺(tái)目前也都在不同程度采用人工智能做前期過濾，對(duì)于疑似存在問題的圖像或語(yǔ)音內(nèi)容進(jìn)行標(biāo)紅提示。陳太鋒透露，一直播就在同時(shí)采用人臉識(shí)別技術(shù)、爆恐音頻過濾以及視頻指紋過濾等方式來對(duì)人工審核進(jìn)行輔助。
對(duì)于所有平臺(tái)來說，審核最主要的關(guān)注點(diǎn)無非是包括對(duì)主播的穿著、語(yǔ)言、房間布置等等是否違禁的判斷，判斷標(biāo)準(zhǔn)主要參考各家平臺(tái)自制的內(nèi)部規(guī)范手冊(cè)，這類手冊(cè)往往可以細(xì)化到這樣的程度：如果以5號(hào)宋體字排版、用A4紙打印，裝訂起來能有300頁(yè)之多，而且還在動(dòng)態(tài)增補(bǔ)。審核員需要在入職前經(jīng)過一周到一個(gè)月時(shí)間不等的培訓(xùn)、考試，全部通過后，才正式上崗。而考核指標(biāo)主要來自兩方面：一是錯(cuò)誤率，一是工作量。
當(dāng)審核員看到主播在直播過程中有涉嫌違規(guī)時(shí)，對(duì)有觸線傾向或輕度觸線者會(huì)在后臺(tái)給出警告提示，對(duì)于無視提醒或重度違規(guī)者則直接令其下線，給予幾個(gè)小時(shí)到一個(gè)月，甚至永久封禁的處罰。
但是不同直播平臺(tái)在具體操作方面會(huì)略有不同。有一直播這一類圖文同審，也有花椒這種做影像與文字分離審核。林達(dá)告訴網(wǎng)易科技，由于審核規(guī)則設(shè)置極為細(xì)致，為個(gè)體做判斷的過程增加了難度，所以花椒目前是專人專項(xiàng)做審核，文字、圖片與視頻分離，比如對(duì)于文字內(nèi)容，要查看包括飄屏、評(píng)論、狀態(tài)頁(yè)介紹等內(nèi)容，必要時(shí)甚至?xí)榭此叫拧?/p>
敏感詞庫(kù)也是直播平臺(tái)標(biāo)配之一，并且各平臺(tái)在日積月累實(shí)時(shí)添加大量敏感詞，“我們有時(shí)候私底下坐一塊兒，你去想，你也去想，就找（某個(gè)敏感詞的）諧音……你想想，中國(guó)漢字（這么多），比如跟‘微信’這兩個(gè)字諧音的就得有多少？……（不安分的用戶）他們一直在想一些（關(guān)聯(lián)）字，雖然乍一看跟那些亂七八糟的八竿子打不著，但是別的用戶可能一看就知道是什么意思那種。”林達(dá)說，有一次總監(jiān)去參加“防爆培訓(xùn)”，回來立馬把1000多個(gè)敏感詞加入了后臺(tái)詞庫(kù)，“那些詞，（當(dāng)時(shí)）我自己都不知道是什么東西?！?/p>
這類工作做久了，也容易產(chǎn)生職業(yè)敏感，有一次林達(dá)看到父親正在用一款音樂類的社交App，“我就問他，你覺得這個(gè)人沒有問題嗎？他說沒有啊，唱歌的小姑娘長(zhǎng)得還挺好看的。我就說：這是諧音字，你好好念念?！?/p>
當(dāng)時(shí)屏幕上顯示的幾個(gè)字是“伍佰肄業(yè)”。當(dāng)然，想講述的顯然并不是歌手伍佰沒能順利畢業(yè)的故事。
“我們被對(duì)手黑了，還上了微博熱搜”
某直播平臺(tái)員工沈浪向網(wǎng)易科技抱怨道，有一天晚上其平臺(tái)突然出現(xiàn)三個(gè)戴著口罩但明顯涉嫌傳播色情內(nèi)容的人員，迅速直播，迅速下線。第二天關(guān)于該事件的消息鋪天蓋地傳開，并且上了微博熱搜?！暗俏覀兗夹g(shù)一篩查，發(fā)現(xiàn)這三個(gè)人是同一個(gè)開播地點(diǎn)，連IP都一樣，后來發(fā)現(xiàn)是競(jìng)品直播平臺(tái)雇人來抹黑的，他們還沒開始播，就提前把錄制軟件打開，播完自己再去看錄像，然后截圖發(fā)通稿，發(fā)給了很多媒體。”
但是這件事情最終仍然不了了之，沒有走法律程序解決?！耙?yàn)槟阒来蚬偎镜脑?，其?shí)要很長(zhǎng)時(shí)間……而且這家公司我們還是比較了解的，估計(jì)老板之間（關(guān)系還不錯(cuò)），也互相說了下，就算了?！?/p>
除此之外，還有一些內(nèi)容是直播平臺(tái)一般不允許觸碰的，比如討債，因?yàn)樵谶@過程中極容易產(chǎn)生肢體或語(yǔ)言暴力。但依然有不少直播平臺(tái)在樂視風(fēng)波的風(fēng)口中浪尖直播了某次供應(yīng)商前去樂視大廈討債的情況。
“因?yàn)橛憘卜治拿饔憘┝τ憘?。碰到過文明的，全程一個(gè)臟字沒有，就是過去要錢去了，這就可以直播，比如樂視那次，而且很多媒體都在?！币晃粌?nèi)容審核員介紹，當(dāng)天領(lǐng)導(dǎo)跟他說的是：把直播間盯住了，萬一出現(xiàn)暴亂，立馬及時(shí)給我停掉。
“但誰(shuí)都喜歡看熱鬧啊，比如要是我在競(jìng)品平臺(tái)看到了爆料，我巴不得多看一會(huì)兒。但如果發(fā)現(xiàn)自己平臺(tái)有這些內(nèi)容，我是堅(jiān)決不允許的。”該審核員實(shí)誠(chéng)地說。
三個(gè)月前，美國(guó)社交網(wǎng)站Facebook創(chuàng)始人扎克伯格宣布公司將新增3000名內(nèi)容審核員加入其團(tuán)隊(duì)，來審查用戶在直播過程中是否涉及仇恨言論、虐待兒童、謀殺、自殘等暴力內(nèi)容。
沈浪說自己也在國(guó)內(nèi)媒體看到過一兩次報(bào)道，“就是關(guān)于直播自殺，但你知道，這種往往是最后沒自殺，很多都是年輕人鬧分手。你知道小孩子有一種情緒，就是哭的時(shí)候會(huì)捂臉，但他還會(huì)偷偷看你，就是這種心理?！?/p>
隨著外界對(duì)直播產(chǎn)品玩法的熟悉程度深入，也出現(xiàn)不少隱蔽性較高的敏感信息傳播方式，乍一看并沒有明顯違規(guī)，但仍存在問題。一直播平臺(tái)內(nèi)容審核員胡哲告訴網(wǎng)易科技，其操作方式一般是先看畫面再聽聲音，并且會(huì)關(guān)注房間里評(píng)論的彈幕數(shù)量?！叭绻@個(gè)房間的彈幕和評(píng)論數(shù)量突然增加，那應(yīng)該就會(huì)有些問題，要及時(shí)去判斷?！?/p>
聲音的識(shí)別是目前做內(nèi)容審核的主要難點(diǎn)之一。林達(dá)甚至覺得聲音上的判斷是最難的，比如高峰期，一個(gè)人可以同時(shí)盯兩個(gè)屏幕上的50路視頻，畫面上出現(xiàn)的問題很直觀；文字但凡觸碰敏感詞，敏感詞條數(shù)會(huì)不斷上漲，也很容易監(jiān)控。但只有把鼠標(biāo)放到一路畫面上，才能分辨那一路視頻的聲音如何，而人工智能的語(yǔ)音識(shí)別準(zhǔn)確率現(xiàn)在還遠(yuǎn)不到位。“像Siri的語(yǔ)音識(shí)別也就是那個(gè)樣子。”
“類似富士康流水線的工作”
據(jù)網(wǎng)易科技了解，為了盡可能降低公司在內(nèi)容審核方面的投入支出，較有規(guī)模的直播平臺(tái)紛紛將自身該部分團(tuán)隊(duì)主體設(shè)置在遠(yuǎn)離京滬深的二三線城市，即便總部還在北京。比如花椒設(shè)在天津，斗魚設(shè)在武漢，映客設(shè)在長(zhǎng)沙，一直播設(shè)在西安等等——大多是母公司創(chuàng)業(yè)起家所在地，只留一小部分審核人員在京，并且相當(dāng)一部分人員來自外包公司。
從業(yè)者則大多是22歲到26歲之間的年輕人，由于要7*24小時(shí)在線審核，所以工作時(shí)間往往為“三班倒”。薪酬方面以北京為例，初級(jí)審核員月薪一般在五千元左右?！巴獾貢?huì)稍微更低，但基本上會(huì)比當(dāng)?shù)匦劫Y水平線稍微高一點(diǎn)?！标愄h告訴網(wǎng)易科技。
如果是一個(gè)有一年以上工作經(jīng)驗(yàn)的審核員，一般一天能審大概五到六千條視頻。
同時(shí)他也透露，高流失率是目前內(nèi)容審核整個(gè)行業(yè)都面臨的問題，“因?yàn)檫@些人每天的工作相對(duì)比較枯燥，類似富士康流水線的工作，又要記大量（審核規(guī)范）知識(shí)點(diǎn)內(nèi)容，尤其在審核的時(shí)候還要去面對(duì)各種各樣的視頻內(nèi)容，所以對(duì)人的精神或其他方面壓力都挺大的。很多人可能做一兩年就考慮換崗，或者不繼續(xù)做了?！?/p>
轉(zhuǎn)崗的人大多會(huì)選擇客服、運(yùn)營(yíng)或編輯的工作。
但也有人不這么想。胡哲自打早期在酷6?PPTV等公司算起，在直播審核的行業(yè)里已經(jīng)浸染了8年時(shí)間，是為數(shù)不多的“80后”，“估計(jì)我就一輩子做這個(gè)（行）了”，他對(duì)網(wǎng)易科技說。胡哲認(rèn)為這是一份蠻穩(wěn)定的行業(yè)，作為一個(gè)5歲孩子的爸爸，他會(huì)偶爾在連續(xù)兩天休息日的時(shí)候再請(qǐng)一天調(diào)休假，回河北老家看看。他今年30歲，打算45歲以后再考慮離開北京，“最起碼我得能在北京退休，畢竟北京的退休金比我們老家高一倍?！?/p>
胡哲也曾經(jīng)嘗試著回老家待了兩年，“沒什么適合我的工作，如果讓你干工廠那種活兒，你也干不了。”所以他又重新回到了北京。
中研網(wǎng) 發(fā)現(xiàn)資訊的價(jià)值
研究院 掌握產(chǎn)業(yè)最新情報(bào) 中研網(wǎng)是中國(guó)領(lǐng)先的綜合經(jīng)濟(jì)門戶，聚焦產(chǎn)業(yè)、科技、創(chuàng)新等研究領(lǐng)域，致力于為中高端人士提供最具權(quán)威性的產(chǎn)業(yè)資訊。每天對(duì)全球產(chǎn)業(yè)經(jīng)濟(jì)新聞進(jìn)行及時(shí)追蹤報(bào)道，并對(duì)熱點(diǎn)行業(yè)專題探討及深入評(píng)析。以獨(dú)到的專業(yè)視角，全力打造中國(guó)權(quán)威的經(jīng)濟(jì)研究、決策支持平臺(tái)！
廣告、內(nèi)容合作請(qǐng)點(diǎn)這里尋求合作
馬化騰大談創(chuàng)業(yè)心得 成功不是沒有理由的 
