0人贊同了該回答
? 【編者按】
在線社交空間和信息空間里的內(nèi)容審核并不新鮮，自從網(wǎng)絡(luò)社交空間誕生以來，在過去40年里，一直有人在制訂和推行各種參與規(guī)則。但是由一群職業(yè)化員工為大型商業(yè)機(jī)構(gòu)從事大規(guī)模、有組織的有償審核工作，是一種新現(xiàn)象。
美國加州大學(xué)洛杉磯分校教育與信息研究院助理教授莎拉·羅伯茨于2010-2018年間訪談了許多離職及在職的商業(yè)性內(nèi)容審核員，全面考察了美國互聯(lián)網(wǎng)商業(yè)性內(nèi)容審核工作的不同類型，揭示了審核員們的生存境遇。本文摘自《幕后之人：社交媒體時(shí)代的內(nèi)容審核》，廣東人民出版社/萬有引力，2023年5月版。澎湃新聞經(jīng)授權(quán)刊發(fā)。
誰來決定？MegaTech的內(nèi)部政策制定和應(yīng)用
MegaTech（化名）的審核員在審核內(nèi)容時(shí)需要遵守一套內(nèi)部政策，這些政策是由他們的上級一安全與政策部門（簡稱SecPol）的全職員工制定的。這些極其詳細(xì)的內(nèi)部政策是商業(yè)性內(nèi)容審核員判斷內(nèi)容的標(biāo)準(zhǔn)，它們沒有向社會公開，而是作為商業(yè)機(jī)密在內(nèi)部使用，服務(wù)于公司的品牌管理。保密的部分原因是防止不懷好意的用戶鉆空子，通過打擦邊球或者故意規(guī)避規(guī)則的方式在平臺上發(fā)布不良內(nèi)容。此外，披露商業(yè)性內(nèi)容審核政策也會讓局外人獲悉公司審核員的工作性質(zhì)。如果內(nèi)部政策被曝光，觸發(fā)審核機(jī)制的內(nèi)容種類也會被曝光，擁有光鮮形象的平臺就會暴露出它極其丑陋的一面，畢竟在人們眼中，平臺的功能是提供娛樂、樂趣和自我表達(dá)的渠道，用戶可以直接通過平臺將內(nèi)容傳播到全世界。曝光內(nèi)部政策還可能會引發(fā)關(guān)于政策所依據(jù)的價(jià)值觀的難題，審核員們肯定懂得這一點(diǎn)。喬希告訴我：“我們在運(yùn)用政策時(shí)試圖維持全球化的視角，至少他們是這樣說的。我感覺他們依據(jù)的是美國的價(jià)值觀，因?yàn)楸热缦衤泱w這樣的事情，我的意思是上半身裸體，除了在中東和日本這些地方之外，在很多歐洲國家和其他地方都是被允許的。但是在這里，我們就要將裸體內(nèi)容刪除?！?
正如喬希這樣的商業(yè)性內(nèi)容審核員所指出的那樣，盡管MegaTech的名字本身就象征著互聯(lián)網(wǎng)，而且它擁有全球性的影響力和用戶群，但它關(guān)于用戶生成內(nèi)容的政策是在特定的、少有的社會文化環(huán)境中制定出來的，即教育程度高、經(jīng)濟(jì)發(fā)達(dá)、政治上信奉自由主義、種族單一的美國硅谷。公司的內(nèi)部政策往往首先反映了公司對品牌保護(hù)的需求，同時(shí)它也是一種用鮮明的美國自由主義來解釋言論自由、信息自由等概念的機(jī)制。社會規(guī)范也是通過美國和西方文化的視角折射出來的，傾向于反映白種人的觀念。
因此，對于平臺所青睞的這些復(fù)雜的價(jià)值觀和文化體系而言，商業(yè)性內(nèi)容審核員可以被理解為它們的載體和代理人，即使在公司的規(guī)則和審核員自身的價(jià)值觀相沖突的時(shí)候也是如此。馬克斯解釋說：
我們擁有逐條羅列、非常具體的內(nèi)部政策。它們是保密的，否則人們就能很容易規(guī)避它們。我們會經(jīng)常討論一些非常具體的內(nèi)部政策，每周要和安全與政策部門開一次會。比如說，系統(tǒng)不會將涂黑臉（blackface）默認(rèn)為仇恨言論，這總是讓我很惱火，讓我崩潰了差不多十次。我們開會討論政策時(shí)，平心而論，他們總是傾聽我的意見，從來不會禁止我發(fā)言。他們不同意我的看法，也沒有改變過政策，但總是讓我暢所欲言，真令人驚訝。就是這樣，我們用來審核視頻的內(nèi)部政策有好幾十頁。
他繼續(xù)解釋說，那些模糊的語言“從根本上說給了我們回旋的余地”。在MegaTech，關(guān)于內(nèi)容刪除的內(nèi)部政策會根據(jù)多方面的動態(tài)因素進(jìn)行調(diào)整，包括面向所有用戶的社區(qū)準(zhǔn)則、內(nèi)容創(chuàng)作者對于未經(jīng)同意發(fā)布內(nèi)容的刪除請求，以及公司內(nèi)部對社區(qū)準(zhǔn)則的解釋。審核員需要遵守這些解釋，它們會經(jīng)常變化。喬希解釋說：“政策與社會氛圍息息相關(guān)，如果某樣事情在社會上變得可以接受,那么我們就會調(diào)整政策。政策還會根據(jù)全球的社會氛圍進(jìn)行調(diào)整?；旧?，我們的政策都是為了保護(hù)某類特定的群體?！?
事實(shí)上，雖然有政策和規(guī)則存在，但一些群體還是能夠獲得MegaTech的特殊對待，因?yàn)樗麄冇欣贛egaTech的商業(yè)利益。他們通常是較大的“合作伙伴”，作為內(nèi)容創(chuàng)作者，他們能夠?yàn)楣疚罅坑脩?，從而為自己和平臺創(chuàng)造廣告收益。馬克斯介紹了這種關(guān)系：
如果你是個(gè)非常優(yōu)秀的用戶，你可以申請合作伙伴計(jì)劃，這樣可以從廣告中賺取收益分成。合作伙伴可以直接聯(lián)系安全與政策部門和法律支持部門。有時(shí)候我們會遇到一個(gè)合作伙伴的違規(guī)視頻，通常來說我們應(yīng)該刪除視頻并向他們的賬號發(fā)出警告，（按照規(guī)則）警告三次無效，賬號就會被封禁。但也許他們是重要的合作伙伴，公司不想封禁他們，所以我們會將視頻發(fā)送給安全與政策部門，讓他們?nèi)ジ献骰锇闇贤?。我得說得清楚一些：他們不會讓這些視頻留在平臺上，他們會讓合作伙伴撤下視頻，并且會比政策頁面更詳細(xì)地說明這個(gè)視頻違反了哪些規(guī)則。據(jù)我所知，我們從來都不會為了合作伙伴而破壞規(guī)則。頂多是處理方式更靈活一些，但不會做出實(shí)質(zhì)性的讓步，不會讓令人反感的內(nèi)容留在平臺上。
平臺上處于灰色地帶的內(nèi)容和行為是MegaTech公司商業(yè)性內(nèi)容審核工作持續(xù)面臨的挑戰(zhàn)。馬克斯介紹說，有一類內(nèi)容使他特別苦惱，但它們又剛好沒有違背公司內(nèi)部政策的字面含義。他們花了很大工夫來處理和評估這類內(nèi)容。
有個(gè)很復(fù)雜的問題，我?guī)缀醺铱隙ìF(xiàn)在它依然是個(gè)問題，那就是挑戰(zhàn)視頻（dare video）。發(fā)布者大多是10—15歲的女孩，少數(shù)是男孩。她們在父母不知情的情況下注冊了MegaTech賬號，并說：“我們很無聊，給我們一些挑戰(zhàn)吧。”有些變態(tài)者就會找到她們說“給大家看看你的腳”，或者做一些色情行為，但孩子們不知道這些是跟色情有關(guān)的。這真是太瘆人了。有個(gè)人專門找出這類視頻來舉報(bào)，然后我們再把它們刪除。這真是棒極了。我的意思是，我盡量不去這么想：就是他可能喜歡看這些視頻，如果別人問他為什么整天看這些視頻，他就可以用舉報(bào)作為理由來掩飾。但事實(shí)是，由于這個(gè)人的舉報(bào)，我們刪除了成千上萬條這樣的視頻。
喬希是MegaTech的合同工而非全職員工，這種身份上的差別在內(nèi)部政策制定中會有一定的影響。級別更高的安全與政策團(tuán)隊(duì)和其他與審核相關(guān)的全職員工經(jīng)常會表示，他們在制定未來政策或者對現(xiàn)有政策進(jìn)行修改和微調(diào)時(shí)，會重視審核員們的意見。但喬希覺得這只是在嘴上說說而已。雖然他對于不良內(nèi)容和MegaTech的內(nèi)部政策有專業(yè)的見解，但卻無力推動真正的改變，這讓他感到沮喪。造成這種境況的直接原因是公司的商業(yè)性內(nèi)容審核員是有固定期限的合同工。喬希說：“我所在的合同工團(tuán)隊(duì)只會存續(xù)一年，而其他團(tuán)隊(duì)是長期的。他們經(jīng)常對我們說：‘你們對政策的話語權(quán)與我們不相上下?！@當(dāng)然不是真的。我的意思是，我們的確能參與政策討論，但沒有任何能力去改變它們?！?
喬希這種審核員所做的工作幾乎完全是對內(nèi)部政策的執(zhí)行，并沒有決定MegaTech平臺政策的能力，為此他們感到沮喪。MegaTech公司也錯(cuò)失了一個(gè)機(jī)會，如果它能夠?qū)で蟛⒅匾晝?nèi)部審核員的反饋，就能夠查明許多情況，比如地區(qū)性政治沖突、違規(guī)行為的新發(fā)展趨勢，以及惡意用戶對平臺的狡猾操縱。但總體來說，它沒有這樣做。
MegaTech與國際外交：商業(yè)性內(nèi)容審核的隱形外交政策職能
某些看似明顯違反政策的視頻往往會成為復(fù)雜決策過程的催化劑，在審核團(tuán)隊(duì)成員之間、在審核員和安全與政策部門之間引發(fā)激烈的爭論。很多時(shí)候，決策不是嚴(yán)格按照視頻內(nèi)容做出的，還會考慮到視頻的政治效果和宣傳價(jià)值。那些從全球戰(zhàn)亂地區(qū)上傳的視頻是最讓團(tuán)隊(duì)感到棘手的，三位受訪者都談過這一點(diǎn)，這些視頻在下班后還會一直縈繞在他們的腦海。
保留或者刪除這些視頻的決策會對現(xiàn)實(shí)世界造成很大的影響，因?yàn)镸egaTech是全球主要的內(nèi)容傳播平臺，創(chuàng)作者們希望在這里吸引人們對各類事情的關(guān)注，包括政治危機(jī)、沖突和戰(zhàn)爭罪行。因此，審核員和安全與政策團(tuán)隊(duì)成員在審核這類視頻時(shí)會認(rèn)真謹(jǐn)慎地做出決策。MegaTech對于哪些戰(zhàn)場視頻可以發(fā)布和傳播是有政策性規(guī)定的，它甚至?xí)?guī)定哪些沖突算得上是合法“戰(zhàn)爭”，這些規(guī)定的影響力往往會超出兩個(gè)團(tuán)隊(duì)最初的估計(jì)。處于沖突局勢中的人們越來越依賴MegaTech的平臺來記錄和傳播當(dāng)?shù)氐奈C(jī)信息，這是他們能夠利用的為數(shù)不多的平臺之一。MegaTech在這方面的影響力是有目共睹的。
這些內(nèi)容看上去違反了MegaTech對于過度血腥、暴力和傷害兒童的內(nèi)容的禁令，但是，安全與政策部門的全體全職員工（甚至可能是更高層級的員工）通常會在政策中規(guī)定一些例外的處理方式，有時(shí)候連審核員也無法了解公司的全部決策流程。對于與地緣政治沖突相關(guān)的用戶生成內(nèi)容，MegaTech的內(nèi)部政策會根據(jù)全球事件和政治立場的變幻無常做出反應(yīng)。顯而易見，這些政策的制定在政治上是以美國為中心的，因此，選擇保留或刪除某些內(nèi)容的過程，很容易會變成默許或公開支持美國外交政策的過程。喬?！どＭ兴菇忉屨f：
不管你的承受能力有多強(qiáng)，有些內(nèi)容還是會讓你感到猝不及防。特別是現(xiàn)在仍在發(fā)生的敘利亞戰(zhàn)爭，我的意思是，你永遠(yuǎn)不知道接下來會看到什么。有一天，一枚炸彈在學(xué)校里炸死了20來個(gè)孩子，那個(gè)視頻慘不忍睹，孩子們的尸體碎片到處都是。視頻沒有經(jīng)過任何剪輯。我們試圖幫助當(dāng)?shù)厝擞涗浰麄兊膽K況，所以保留了這些視頻。這些視頻瘋狂傳播開來，因?yàn)樗鼈兎浅１┝Γ浅Ｓ鞋F(xiàn)實(shí)意義和話題性。我們會經(jīng)常看到這種片段，讓你覺得有些不舒服。
喬希很不解，為什么某些來自沖突地區(qū)的內(nèi)容出于情報(bào)和宣傳的原因被保留下來，而另一些卻被刪除了。難以影響政策制定的短期審核合同工，與負(fù)責(zé)制定政策但不參與日常審核工作的安全與政策部門的全職員工之間的權(quán)力差異再一次凸顯出來。喬希說：
有一位安全與政策部門的員工對中東的任何危機(jī)都非常感興趣，這沒什么。但問題是，我們以非常彈性的方式對待中東的視頻，卻不需要以同樣的態(tài)度對待其他國家的視頻。這讓我和另一位審核員感到不滿。比方說，墨西哥正在發(fā)生毒品戰(zhàn)爭，兩邊陣營都有不少人上傳戰(zhàn)爭視頻，比如謀殺、綁架和訊問之類的。如果這些是敘利亞的視頻，我們會保留它們，內(nèi)容一模一樣。我是說，原因不同，但內(nèi)容是一樣的，有沖突的雙方，從各個(gè)方面來看都是一樣的內(nèi)容。但他們給我的理由是：這些內(nèi)容不具有新聞價(jià)值?？蛇@是毒品戰(zhàn)爭?。⊥瑯?，最近在一個(gè)非常小的偏僻地區(qū)發(fā)生了政變之類的事件，他們也說這個(gè)事件不夠有新聞價(jià)值。給人的感覺是他們在執(zhí)行雙重標(biāo)準(zhǔn)。我認(rèn)為唯一的原因是安全與政策部門的那位員工對中東事件特別感興趣。
凱特琳也很難接受來自敘利亞的內(nèi)容，但她覺得審核它們不會給自己帶來長期的影響。她說：“我審核的大部分內(nèi)容都是重復(fù)性的，我會想著，‘好吧，我知道這是什么，我已經(jīng)看過了’。但總有一些千奇百怪的內(nèi)容是你從來沒有看過的。關(guān)于敘利亞的血腥圖片有很多，非常可怕。但它們一閃而過，幾秒鐘就會消失。”事實(shí)上，審核員在MegaTech發(fā)揮了強(qiáng)大的編輯作用，盡管他們不太引人注目，缺乏影響內(nèi)部內(nèi)容政策的權(quán)力，終端用戶也無法實(shí)質(zhì)性地參與MegaTech有關(guān)用戶生成內(nèi)容的政策制定和處理過程，甚至不知道這種處理程序的存在。這意味著這種編輯角色和其他媒體環(huán)境中的編輯角色沒有多少相似之處。此外，在很多時(shí)候，我們并不知道MegaTech的商業(yè)性內(nèi)容審核員是否處在能夠做出有效編輯決策的位置上，或者合適的環(huán)境中。
凱特琳便是如此。盡管她需要決定是否保留戰(zhàn)場內(nèi)容讓數(shù)百萬人看到，但她似乎并不太了解這些沖突的性質(zhì)、沖突各方的情況和視頻發(fā)布的后果。我問她，這份工作是否讓她對以前不熟悉的國際沖突和事件有更多的了解，她回答說：“不完全是這樣，我還得在工作之余多讀一些相關(guān)內(nèi)容。因?yàn)槲覀兛吹降亩际窃疾牧?，我不清楚到底發(fā)生了什么，只能夠試著去理解。這些事情看上去很復(fù)雜，我絞盡腦汁，仍然覺得一頭霧水?！?
凱特琳不認(rèn)為自己有足夠的知識和能力去理解這些戰(zhàn)場片段的背景和意義，但她仍然需要對它們進(jìn)行審核和判斷，所依靠的僅有公司的內(nèi)部政策，以及安全與政策部門做出的額外規(guī)定。像喬希一樣，她覺得處理這些內(nèi)容的內(nèi)部政策是有一些矛盾的。但在我們的訪談中，她承認(rèn)自己沒有足夠的信息去理解和評價(jià)這些政策背后的邏輯，她只是單純地遵守MegaTech的政策。
我們需要保留大部分（戰(zhàn)場片段），幾乎是全部吧，因?yàn)楫?dāng)?shù)厝诵枰ㄟ^我們的平臺來展現(xiàn)這些事情。雖然它們同樣會發(fā)生在其他國家，比如墨西哥的毒品戰(zhàn)爭之類的，但我們會刪除墨西哥那些內(nèi)容，我不知道這其中的原因。似乎我們在幫助敘利亞人發(fā)聲。我們會對許多極其血腥的內(nèi)容施加年齡限制。但有些內(nèi)容只有尸體，沒有流血之類的——這樣的內(nèi)容所有人都能看。搜索這些的大多是當(dāng)?shù)厝?，這些內(nèi)容是阿拉伯語的，所以我不清楚在美國有多少阿拉伯人或者孩子會搜索這些內(nèi)容，大部分人都不會看到它們。這讓我對保留它們感到更加安心。
與此同時(shí)，對其他政治性內(nèi)容的審核往往會重點(diǎn)考慮品牌管理和品牌保護(hù)的需求，通常由安全與政策部門和其他高層管理團(tuán)隊(duì)下達(dá)指令。在這些情況下，品牌管理不僅能使MegaTech免受批評，還能使它的合作伙伴和大批用戶免受負(fù)面宣傳的影響。在我們的訪談中，喬希將商業(yè)性內(nèi)容審核的這個(gè)職能稱為“公關(guān)”。
政策變化的速度相當(dāng)慢，（安全與政策團(tuán)隊(duì)成員）實(shí)際上沒有多少工作要做，他們每天都在搞一大堆的字詞辯論，真正做出的改變卻很少。他們看上去像是在做些事情，但并沒有多少改變是由他們推動的。除非有某個(gè)明確的政策問題或者法律問題出現(xiàn)，比如我們在外國恐怖組織政策推出之前，一直是允許基地組織發(fā)布視頻的。于是《紐約時(shí)報(bào)》就刊出一篇報(bào)道說：“啊，MegaTech正在幫助基地組織?！被蛘哒f：“MegaTech正在允許基地組織上傳視頻?！边@立刻就成了一個(gè)公關(guān)問題，然后我們的政策團(tuán)隊(duì)說：“好吧，我們得制定相關(guān)的政策?！钡篌w上說，除非有相關(guān)的公關(guān)或者法律問題出現(xiàn)，否則我們的政策是不會改變的。政策團(tuán)隊(duì)的任務(wù)是保護(hù)MegaTech，所以我們會允許任何內(nèi)容發(fā)布，除非它們會引發(fā)公關(guān)或法律問題。
在MegaTech，公關(guān)和品牌管理的問題與民主表達(dá)和政治宣傳的爭議糾纏在一起，彼此相互影響。但大部分試圖利用MegaTech平臺影響力進(jìn)行宣傳的用戶，都沒能真正理解內(nèi)容發(fā)布決策流程的影響，這些影響主要是通過MegaTech的品牌保護(hù)需求來評估的。由于MegaTech廣泛流行、易于使用，全球用戶仍然會把血腥內(nèi)容上傳到這里，希望尋求支持或者在戰(zhàn)爭沖突中宣傳某個(gè)黨派和團(tuán)體，他們找不到其他普及、易用、同等規(guī)模的平臺來發(fā)布這些內(nèi)容。此外，政府和其他各方對于控制互聯(lián)網(wǎng)訪問有著濃厚的興趣，這是它們控制沖突、民意和社會的重要環(huán)節(jié)。因此，MegaTech無疑還會繼續(xù)在這些地區(qū)發(fā)揮巨大的作用，因?yàn)樗軌蛟试S或禁止某些內(nèi)容發(fā)布。
這是一種復(fù)雜且糾結(jié)的關(guān)系。MegaTech的內(nèi)部政策似乎有利于那些在危機(jī)中尋求發(fā)聲渠道的人，他們希望獲得全世界的支持，引發(fā)人們對他們所遭受苦難的憤慨。但必須指出的是，MegaTech所擁護(hù)的對象并不是他們。盡管公司里有人試圖支持這些尋求幫助和宣傳的內(nèi)容，就像安全與政策部門的那位員工一樣，但喬希和凱特琳覺得他們在處理類似的內(nèi)容時(shí)沒有一視同仁地應(yīng)用政策。當(dāng)這樣一個(gè)商業(yè)性、追逐利潤的平臺采用民主的方式對待信息傳播時(shí)，它所擁護(hù)的對象和目的會比較混亂，這必然會妨礙它與股東和政府保持積極的關(guān)系。然而，在這樣一個(gè)數(shù)字圍場（digital enclosure）的時(shí)代，這樣一個(gè)表達(dá)空間被廣泛商業(yè)化的時(shí)代，我不清楚人們是否還能找到其他渠道來表達(dá)異議。
“低垂的果實(shí)”：MegaTech和全球商業(yè)性內(nèi)容審核外包
當(dāng)馬克斯·布林剛進(jìn)入MegaTech的時(shí)候，將商業(yè)性內(nèi)容審核外包給世界其他地方和其他類型的工作場所似乎是很難想象的。馬克斯解釋了他對這種做法的反對：
你知道嗎？外包一般是非?；靵y的。對于我們審核的這種內(nèi)容來說，我覺得不能外包出去，因?yàn)榘凑者@些公司制定的薪酬標(biāo)準(zhǔn)，只有在印度和菲律賓等地才能找到人來干……而那邊的文化截然不同，你無法推行以美國和西歐文化為基礎(chǔ)的審核政策。在我入職之前，他們嘗試過將工作外包到印度，那真是一場災(zāi)難，他們只能停止外包，還是全部安排內(nèi)部員工來完成……（印度的合同工）會刪除那些和家人一起在沙灘上穿比基尼的照片，因?yàn)檫@不符合當(dāng)?shù)氐娘L(fēng)俗習(xí)慣。如果只說為西方網(wǎng)站進(jìn)行的內(nèi)容審核，這種外包工作的薪酬算是非常低的，我無法想象那些員工拿著比我還低的薪水來做這種工作。他們給我的薪酬不算太可憐，但我還是覺得很低。這是我們僅有的報(bào)酬，還沒有福利。這種外包工作是非常辛苦的，也很殘忍。
盡管馬克斯認(rèn)為將工作外包到印度或者其他地方會給MegaTech帶來很多麻煩，但一年后公司還是采取了這個(gè)策略。它依然保留了內(nèi)部的審核團(tuán)隊(duì)，但同時(shí)也在世界其他地方部署了呼叫中心/業(yè)務(wù)流程外包團(tuán)隊(duì)來進(jìn)行協(xié)助，并將審核工作分成低級的和高級的部分。對于外包，喬?！どＭ兴怪赋隽艘粋€(gè)更令人沮喪的問題：它會損害內(nèi)部合同工的工作數(shù)據(jù)和績效指標(biāo)。他解釋說：
我入職大約四個(gè)月之后，我們將所謂“低垂的果實(shí)”——比較容易審核的視頻全部外包了出去，包括垃圾視頻和色情視頻。這些視頻都是一眼就能分辨的，你根本不需要點(diǎn)開看。而那些仇恨言論和直播剪輯就不同，比如說，這個(gè)視頻有15分鐘，里面在講“猶太人控制了什么什么”之類的，你沒法知道這個(gè)人接下來會講什么，只能把視頻看上一遍，才能知道視頻里講的是不是仇恨言論、是不是陰謀論。如果它們是色情視頻和垃圾視頻，你一眼就能看出來。我們以前審核的大部分內(nèi)容都是垃圾視頻和色情視頻，大約占全部視頻的60%到70%,但后來這些視頻全部交給了印度團(tuán)隊(duì)來處理。所以在那之后，我們審核的視頻數(shù)量少了一半以上，這毀了我們的工作考核指標(biāo)，因?yàn)槲覀兊墓ぷ鞅憩F(xiàn)是根據(jù)審核視頻的數(shù)量來衡量的。忽然間我們就需要找出一個(gè)新指標(biāo)來衡量審核員的能力，因?yàn)槲覀儾辉儆心切暗痛沟墓麑?shí)”，能夠?qū)徍说囊曨l數(shù)量大大減少了。
喬希和馬克斯有同樣的擔(dān)憂，他擔(dān)憂將商業(yè)性內(nèi)容審核工作外包到世界其他地方會導(dǎo)致審核工作的質(zhì)量下降。他和馬克斯的描述都凸顯了跨國合作中固有的緊張關(guān)系，這些外包團(tuán)隊(duì)來自世界上的不同地區(qū)，具有不同的文化、社會和語言背景。喬希說：
（管理層）所做的就是將隊(duì)列分開。以前，所有內(nèi)容都在同一個(gè)隊(duì)列里，現(xiàn)在又分出了色情內(nèi)容和垃圾內(nèi)容兩個(gè)隊(duì)列，主要由印度團(tuán)隊(duì)來處理。我們也可以處理這些隊(duì)列，但這樣一來印度團(tuán)隊(duì)就沒事干了，因?yàn)槲覀兒芸炀湍馨阉鼈兲幚硗?。我不明白他們?yōu)槭裁礇]有像培訓(xùn)我們那樣對印度團(tuán)隊(duì)進(jìn)行全面的培訓(xùn)，我真是不太理解。印度團(tuán)隊(duì)處理隊(duì)列的速度就是會比我們慢一點(diǎn)。我不明白他們?yōu)槭裁床粚τ《葓F(tuán)隊(duì)進(jìn)行培訓(xùn)……搞不清楚，也許是他們還不太有把握讓印度團(tuán)隊(duì)來參與政策制定。我的意思是，這里面有很多原因。印度團(tuán)隊(duì)是全新的團(tuán)隊(duì)，與我們有文化差異。你可以注意到，印度團(tuán)隊(duì)刪除了很多應(yīng)該保留的內(nèi)容，保留了很多應(yīng)該刪除的內(nèi)容。某些文化差異是確實(shí)存在的。
“社群”的本質(zhì)，線上和線下
梅琳達(dá)在各種在線網(wǎng)站和社交媒體平臺上做過很長一段時(shí)間的志愿審核員，這使她能夠?qū)⑸虡I(yè)性內(nèi)容審核工作和志愿審核工作進(jìn)行比較，這是一種有趣的對比。她指出，相較其他在線空間而言，YouNews的審核工作缺乏職權(quán)和控制力，在遇到問題時(shí)，她不知道要在哪里獲得資源和支持，也不知道如何將問題提交給上級處理。她也強(qiáng)調(diào)了在線社群的本質(zhì)，比如DearDiary的“質(zhì)疑白人至上”（Questioning Whiteness）論壇，參與者將自己看作社群的一分子，發(fā)表的內(nèi)容會經(jīng)過嚴(yán)格審核，有非常清晰的規(guī)則，所有發(fā)言者都要遵守。事實(shí)上，梅琳達(dá)覺得在YouNews的環(huán)境下使用“社群”的概念是帶有誤導(dǎo)性的。她認(rèn)為YouNews的論壇不像是一個(gè)社群，而更像是一個(gè)相互攻擊、惡語相向的地方，這正好是她理解的“社群”的反面。
我在我管理的DearDiary社群里擁有很大的職權(quán)，它們都是自發(fā)的社群，有清晰明了、字句分明的社群規(guī)則，你必須同意這些規(guī)則……我們實(shí)際上要處理一些棘手的問題，我和別人一起管理“質(zhì)疑白人至上”論壇，審核員之間會反復(fù)討論。有個(gè)人假裝自己是黑人女性，其實(shí)他是一個(gè)中年白人男子。真是活見鬼！我們只能修改規(guī)則說：“如果你不是黑人，就不能假裝自己是黑人?！蔽也桓蚁嘈盼覀兙尤灰由线@條規(guī)則，你能明白嗎？但事實(shí)就是這樣！所以當(dāng)有事情發(fā)生的時(shí)候，我們就會修改規(guī)則。我們有一些資源，所以如果某個(gè)人被警告了，我們就能給他看看他違規(guī)的地方，讓他知道未來應(yīng)該如何避免這種情況。這是個(gè)封閉的社群，大部分成員都在這里活動了很長時(shí)間，他們花費(fèi)了很多心血來阻止有害內(nèi)容生根發(fā)芽。雖然有時(shí)候會適得其反，但一般而言，如果有人說了出格的話，社群成員就會發(fā)言，并且聯(lián)系我們說：“你能不能解決這件事，或者處理一下這個(gè)人……”我在這里得到的授權(quán)和代理權(quán)要更多，成員們的主動性也更高。我的意思是，他們出現(xiàn)在這里是因?yàn)樗麄兿氤蔀槠渲械囊粏T，這個(gè)社群有一個(gè)很具體的主題，就是呼吁白人從種族主義中吸取教訓(xùn)。
梅琳達(dá)在YouNews從事審核工作的效果使她懷疑，像這樣的綜合性在線論壇到底能不能促進(jìn)人們之間的對話和理解。事實(shí)上，她覺得YouNews反而起了相反的作用，像這樣的論壇和在線空間不僅毫無益處，還會造成破壞性的影響。
你可以看看YouNews上面那些普通貓味文章底下的評論，你看不到那些人對社群的認(rèn)同，你看不到他們對社群的建設(shè)。他們只是在丟人現(xiàn)眼，說“N”開頭的那個(gè)單詞，引用經(jīng)文罵“死基佬”。你知道吧？他們沒有為文明發(fā)言和真正的對話做出任何貢獻(xiàn)。Huffington Post這種地方?jīng)]那么嚴(yán)重，那里會有一些約束措施，點(diǎn)開用戶的小頭像，你可以看到那個(gè)人發(fā)表的其他評論。我覺得Shakespeare's Sister和Jezebel這兩個(gè)社群的自我管理機(jī)制很有趣，它們會根據(jù)用戶的行為好壞給予獎(jiǎng)賞或懲罰。用戶可以通過點(diǎn)贊和點(diǎn)踩讓惡意內(nèi)容沉下去。在YouNews這種地方根本沒有這樣的機(jī)制。你唯一能做的就是點(diǎn)擊舉報(bào)，投訴它是侮辱性內(nèi)容或者表示反對。就是這樣，點(diǎn)擊。
這些經(jīng)歷給她在線上和線下的人際交往蒙上了一層陰影：
我覺得我的沮喪和孤立感很大程度上來源于這份工作。我以前在認(rèn)識新朋友的時(shí)候，會假定他們沒有惡意，但現(xiàn)在我對別人的態(tài)度不像以前那么樂觀了。你能懂嗎？當(dāng)身處公共場合或者遇到朋友的朋友，我會比以前更加敏感，覺得他們可能會在心里咒罵我。如果知道我的各種身份，他們可能會笑著和我握手，同時(shí)希望我下地獄。
最后，梅琳達(dá)對綜合性論壇的作用提出了質(zhì)疑，她覺得它們永遠(yuǎn)不會起好的作用，相反，它們總是會把那些臟話連篇的噴子吸引過來。梅琳達(dá)與喬?！どＭ兴购屠锟恕べ?yán)囊娊庖恢拢J(rèn)為這些論壇本身就導(dǎo)致了她審核的這些負(fù)面內(nèi)容的產(chǎn)生。
我真心覺得有90%的在線論壇用戶并不想進(jìn)行任何對話。他們就沒這個(gè)想法。他們只想把心里的話噴出來。如果被罵得狗血淋頭，他們會興高采烈地繼續(xù)噴下去。我覺得在現(xiàn)實(shí)中他們不會這樣說話，因?yàn)槿绻诂F(xiàn)實(shí)中也是這樣，就會有人會拿著一塊肥皂追著他們打。我知道很多人都有這樣的想法，覺得在這些論壇里可以想說什么就說什么。但我認(rèn)為那些話就是他們真正的想法。丑惡的人就是這么多。
梅琳達(dá)以職業(yè)審核員的身份參與到在線新聞?wù)搲?，因此她面臨著一個(gè)艱難的抉擇。如果允許人們在這些空間里自由發(fā)言，網(wǎng)站上就會充斥著各種辱罵和仇恨言論、與主題無關(guān)的評論和垃圾內(nèi)容；如果對這些空間進(jìn)行嚴(yán)格的監(jiān)督和審核，雖然會侵犯人們的自由表達(dá)權(quán)，但可以使大多數(shù)訪客正常使用網(wǎng)站。顯然，梅琳達(dá)傾向于后者，但令她失望的是，雇傭她從事商業(yè)性內(nèi)容審核工作的論壇無一例外地都傾向于前者。歸根結(jié)底，梅琳達(dá)在YouNews的任務(wù)是保護(hù)和管理品牌，她在訪談最后也強(qiáng)調(diào)了這一點(diǎn)。她主張人們應(yīng)該關(guān)閉社交媒體網(wǎng)站上的這類評論區(qū)和論壇。果不其然，在接下來的幾年里，包括《大眾科學(xué)》（Popular Science）、《高等教育紀(jì)事報(bào)》（The Chronicle of Higher Education）在內(nèi)的許多大型在線媒體網(wǎng)站紛紛采取行動，對內(nèi)容發(fā)布流程進(jìn)行了大幅整改，加入了強(qiáng)制性的審核環(huán)節(jié)。
的確，威斯康星大學(xué)2014年的一項(xiàng)研究表明（《紐約時(shí)報(bào)》關(guān)于《大眾科學(xué)》網(wǎng)站關(guān)閉評論區(qū)的文章中也提到），如果讀者看到了新聞報(bào)道底下的負(fù)面評論，他們會更有可能對這篇報(bào)道本身產(chǎn)生負(fù)面的印象。
梅琳達(dá)簡單地總結(jié)道：“人類太可怕了?。ㄐΓ┲v起這些事情，我仿佛又回到了從前的日子。如果你擁有一個(gè)網(wǎng)站，而且找不出一個(gè)很好的理由來設(shè)立論壇，那就不要設(shè)立。它的風(fēng)險(xiǎn)很大，會出現(xiàn)很多負(fù)面言論，對你的品牌沒有任何好處，還會傷害他人。所以不要設(shè)立它?！?
走到有光亮的地方來
一般來說，給讀者留下一連串問題是不妥當(dāng)?shù)?，但對我這樣的研究者來說，這樣做有一個(gè)重要的作用，就是擺出這些問題，讓它們指引我未來的研究方向，將它們作為我跟蹤商業(yè)性內(nèi)容審核及其全球從業(yè)者、進(jìn)出他們所在的數(shù)字空間和物理空間的線索。但別忘了這個(gè)事實(shí)：我們都身在其中，那些登錄Facebook、上傳內(nèi)容、在新聞下面評論、給帖子點(diǎn)贊和點(diǎn)踩的人，就是我們。作為人類，我們渴望獲得參與感和融入感，這種渴望創(chuàng)造了由商業(yè)性內(nèi)容審核員來填補(bǔ)的商機(jī)，他們滿足了我們的需求。我常常會想起喬?！どＭ兴?，他敏銳地發(fā)現(xiàn)了MegaTech上自殺傾向的問題，而這種傾向毫無疑問會自我延續(xù)下去，看不到解決的辦法。如果公司搭建了那些平臺——那些準(zhǔn)備好被填滿、被重新命名、在全球網(wǎng)絡(luò)上傳播的空容器，我們就會蜂擁而至。我們會把我們的用戶生成內(nèi)容、偏好、行為、人口特征和欲望填充在里面。我們與商業(yè)性內(nèi)容審核的聯(lián)系甚至比與平臺更加直接，畢竟觸發(fā)MegaTech商業(yè)性內(nèi)容審核流程的就是舉報(bào)視頻的用戶。就像第二章說過的，F(xiàn)acebook的用戶舉報(bào)會觸發(fā)帖子和圖片的審核流程。審核的對象也是用戶生成的內(nèi)容。除非我們離開平臺或者與平臺重新商討雙方的關(guān)系，否則作為用戶的我們也許才是社交媒體生產(chǎn)周期中最關(guān)鍵的部分，因?yàn)槲覀兪莾?nèi)容的生產(chǎn)者，也是永不饜足的消費(fèi)者。商業(yè)性內(nèi)容審核員使平臺變得舒適有趣，他們是我們看不見的合作伙伴，和我們有著共生的關(guān)系，類似于陰和陽。他們對內(nèi)容進(jìn)行平衡和展示，努力讓我們在網(wǎng)絡(luò)活動中感到輕松愉悅，讓我們流連忘返。我們可以點(diǎn)贊、舉報(bào)、分享視頻，但是，我們的參與是一種自由意志的假象，我們正處于一系列不斷縮小、不斷分隔的封閉空間中，這些空間受到社群規(guī)則和服務(wù)條款的約束，其中的人工干預(yù)被保密協(xié)議所隱藏，人為痕跡一旦顯露出來，就會被當(dāng)做系統(tǒng)中的異常錯(cuò)誤而被清除。這本書跟人類活動相比雖然微不足道，但我希望它能夠?qū)⑦@些人為痕跡發(fā)掘出來。
商業(yè)性內(nèi)容審核員的工作條件有可能得到改善嗎？在計(jì)算能力和計(jì)算機(jī)視覺產(chǎn)生飛躍式發(fā)展之前，在可預(yù)見的未來，審核工作仍然需要人類介入。即使到了那個(gè)時(shí)候，人力勞動可能仍然是首選，它會沿著全球化的軌跡，轉(zhuǎn)移到擁有大量廉價(jià)勞動力資源的地方。商業(yè)性內(nèi)容審核員對每條用戶生成內(nèi)容都要做出一系列決策，其復(fù)雜程度是任何算法和過濾器都難以完成的。文化上的細(xì)微差別和語言上的特殊性更是加大了這種難度。人類大腦是無與倫比的超級計(jì)算機(jī)，儲存著海量的文化知識和生活經(jīng)驗(yàn)數(shù)據(jù)，而我們的思維相當(dāng)于復(fù)雜的意義識別軟件，因此人類員工在成本和能力上仍然優(yōu)于任何機(jī)器。承載用戶生成內(nèi)容的社交媒體平臺沒有顯示出任何即將消失的跡象，反而隨著移動設(shè)備的普及和全球聯(lián)網(wǎng)人數(shù)的增加而繼續(xù)發(fā)展。人性也不太可能發(fā)生什么改變。所以，喬希、馬克斯、梅琳達(dá)、索菲婭、德雷克、里克等人從事的這項(xiàng)工作不會消失，商業(yè)性內(nèi)容審核的需求也將繼續(xù)存在。這種工作的地位很低，經(jīng)常會被種種方式所掩蓋，它還會使員工接觸到人性陰暗齷齪的一面，幾乎肯定會導(dǎo)致精神上的損害，但還是會有人愿意從事這種工作。我要感謝所有從事這份工作的商業(yè)性內(nèi)容審核員，因?yàn)槲液軕c幸做這些工作的不是自己。我希望他們可以離開陰影處，從屏幕后面走出來，走到有光亮的地方來。
發(fā)布于2023-06-09
關(guān)注問題
