Facebook的清道夫，互聯(lián)網(wǎng)的陰暗之地

來源：創(chuàng)事記 發(fā)布時(shí)間：2019-07-02瀏覽：3626次

Facebook的清道夫，互聯(lián)網(wǎng)的陰暗之地

　　幾年前，扎克伯格在生日演講中講到，F(xiàn)acebook的理想是讓這個(gè)世界變成一個(gè)統(tǒng)一的社區(qū)，他將會(huì)繼續(xù)“打造全球性社區(qū)，加深人與人之間的聯(lián)系，讓任何人都可以分享任何東西”作為 Facebook的創(chuàng)建初心。

　　多年來，扎克伯克堅(jiān)持認(rèn)為，F(xiàn)acebook既然只是個(gè)連接世界的平臺(tái)，就不用對(duì)在這個(gè)平臺(tái)上發(fā)布的內(nèi)容負(fù)責(zé)。結(jié)果就是，這樣的認(rèn)知給Facebook帶來了巨大的麻煩，使Facebook過去兩年間在內(nèi)容監(jiān)管方面飽受批評(píng)。

　　的確，早期的網(wǎng)絡(luò)治理曾經(jīng)主張網(wǎng)絡(luò)中立，崇尚網(wǎng)絡(luò)自由主義，強(qiáng)調(diào)道德自律，也因此形成了互聯(lián)網(wǎng)原教旨主義：讓這個(gè)世界沒有信息的不平等，任何一個(gè)信息可以無障礙、免費(fèi)化的方式到達(dá)全世界的任何地方。我們每一個(gè)人將變成世界大同中的一部分。

　　然而隨著非法、有害信息不斷傳播，網(wǎng)絡(luò)犯罪和盜版日益猖獗，全面加強(qiáng)網(wǎng)絡(luò)監(jiān)管的呼聲日益成為主流。

　　早在2007年，F(xiàn)acebook因?yàn)槟贻p用戶看到了性侵和其他不恰當(dāng)?shù)膬?nèi)容受到了49位州司法部長(zhǎng)的激烈批評(píng)，特別是在發(fā)生了數(shù)據(jù)門（操縱大選）之后，公眾和輿論促使Facebook將自己的審查制度一再升級(jí)，不斷調(diào)整自由表達(dá)和極端言論之間的平衡點(diǎn)。

　　為此，扎克伯克最近兩年來對(duì)外宣稱，F(xiàn)acebook已經(jīng)引入事實(shí)核查，聘請(qǐng)更多的專業(yè)人士加入，同時(shí)加大力度研發(fā)算法。

　　但實(shí)際上，在2018年上映的一部紀(jì)錄片中，揭露了算法和專家背后，真正對(duì)抗著世界的暗面的那些人。

　　1

　　上帝、天使、清道夫　　

　　在Facebook之前，很多企業(yè)就已經(jīng)注意到了內(nèi)容審核的重要性。一直試圖將兒童色情、極端信息、虛假內(nèi)容、惡作劇和各種令人討厭的帖子關(guān)閉掉，同時(shí)留下其它類型的信息繼續(xù)保持流通。

　　但是負(fù)責(zé)內(nèi)容篩選或甄別的并不是企業(yè)宣稱的專家和AI算法，而是一個(gè)個(gè)真人組成的審查員團(tuán)隊(duì)。

　　這部去年上映的紀(jì)錄片，描述的對(duì)象便是所謂的網(wǎng)絡(luò)清道夫。他們供職于世界上最大的社交網(wǎng)站Facebook，或世界上最大的搜索網(wǎng)站Google。他們并不是這些企業(yè)的員工，而是屬于外包人員，任職于菲律賓的一家審核公司。

　　審查員們的工作就是扮演著互聯(lián)網(wǎng)上帝的角色，審核每一張上傳的圖片和每一條視頻，他們對(duì)這些圖片和視頻，掌握著生殺大權(quán)，決定著對(duì)這些內(nèi)容能夠保留還是刪除。

　　在紀(jì)錄片中，沒有經(jīng)過內(nèi)容審核機(jī)制的互聯(lián)網(wǎng)，充滿了這個(gè)世界的沖突。

　　種族的，還是意識(shí)形態(tài)上的，好像所有人都在網(wǎng)上宣泄觀點(diǎn)和情緒。一些恐怖主義見縫插針如病毒蔓延。在海洋般的信息流中，虐殺、自殘、色情、極端組織言論、政治宣傳夾雜在各式貓咪、美食和旅行的照片里面，大量的垃圾信息需要有人來負(fù)責(zé)清理。

　　成為審查員之前，這些人需要經(jīng)過三到五天的上崗培訓(xùn)，培訓(xùn)的內(nèi)容，例如必須在三到五天內(nèi)記住37個(gè)恐怖組織——他們的旗幟、制服、諺語。

　　通過類似這樣的培訓(xùn)，審查員上崗并化身成為道德天使，通過機(jī)械又辛勞的工作，使人們相信對(duì)社會(huì)的美好想象。

　　但這些人并非受過良好的教育，他們大多沒有良好的文化教育背景，有的甚至剛剛學(xué)會(huì)用電腦。每天所要面對(duì)的，是恐怖主義，兒童色情，自殘虐殺等等你不愿觸碰的灰色地帶，“習(xí)慣每天看著上百人死去”。因此他們被稱為互聯(lián)網(wǎng)中最“臟”的職業(yè)。

　　很多人將這份工作視為“福利”，因?yàn)閷彶閱T們的工作就是強(qiáng)制涉獵大量黃色圖片、文字、視頻等，但實(shí)際上，這些人每天要審核25000條內(nèi)容，每一張圖片的判斷時(shí)間只有短短的八秒。

　　有些負(fù)責(zé)暴力視頻的審查員，每天要看大量血肉橫飛，殘肢斷臂的畫面，還有更多聳人聽聞的視頻，包括虐待婦女、兒童和動(dòng)物。有人表示他們每看幾個(gè)視頻就得休息一下才能緩過勁兒來。在日積月累的病態(tài)工作下，審查員們漸漸麻木，喪失了對(duì)人類的信心。

　　“當(dāng)我離開公司時(shí)，我已經(jīng)三年沒有握手了，因?yàn)槲野l(fā)現(xiàn)人們很惡心。我只是無法觸及人，”

　　高額的工資？不存在的。幾年前，國(guó)內(nèi)某家互聯(lián)網(wǎng)公司以20萬高薪招聘“首席淫穢色情鑒定官”，但實(shí)際上，在招聘網(wǎng)站中網(wǎng)絡(luò)信息審核員這一職位的平均工資只有5-7千元左右。相比我國(guó)，紀(jì)錄片中出現(xiàn)的審查員時(shí)薪僅有1美金。

　　還有人會(huì)痛恨這些網(wǎng)絡(luò)審查。認(rèn)為審核破壞了自由。比如一位藝術(shù)家創(chuàng)作的川普油畫，因?yàn)楫嬛腥耸锹泱w，所以被清道夫刪除。藝術(shù)品和成人照片的界限，往往在這時(shí)變得模糊不清。

　　另一位攝影家，通過拍攝了戰(zhàn)爭(zhēng)中死去的少年，希望引起人們對(duì)戰(zhàn)爭(zhēng)的反思。但清道夫們覺得它會(huì)宣揚(yáng)暴力，因此刪除了照片。

　　幾乎每個(gè)審查員都或多或少因?yàn)檫@份工作產(chǎn)生了心理陰影，那為什么不選擇辭職另謀出路？

　　除了養(yǎng)家糊口的經(jīng)濟(jì)壓力外，相當(dāng)一部分審查員也因?yàn)檫@份工作產(chǎn)生的自豪感而選擇繼續(xù)留下。

　　“如果我們沒有工作一小時(shí)，那互聯(lián)網(wǎng)就會(huì)一團(tuán)糟?！?片中一位審查員說到。

　　Facebook在2017年的遭遇印證了這句話：一名泰國(guó)男子在播放了殺害11個(gè)月大的女兒后自殺的視頻。這段視頻引起了全世界的一片嘩然，并在社交網(wǎng)絡(luò)上保留了近24個(gè)小時(shí)，這讓Facebook成為眾矢之的。

　　因此，F(xiàn)acebook的內(nèi)容管理員從2017年的1萬人，增加到2019年的3萬人。

　　如此龐大數(shù)量的審查員卻被要求，絕對(duì)不會(huì)透露他們?yōu)檎l而工作，如果違反了保密協(xié)議，他們就會(huì)失去工作并面臨10000美元罰款，甚至牢獄之災(zāi)。

　　為什么不能說？因?yàn)橐坏┬孤读诉@些秘密，會(huì)對(duì)互聯(lián)網(wǎng)巨頭們的廣告收入造成嚴(yán)重影響。要知道，F(xiàn)acebook和Google一起占據(jù)了全球80%的數(shù)字廣告收入。

　　為此，F(xiàn)acebook將這項(xiàng)工作包裝成一個(gè)叫做honeybadger（蜜獾）的項(xiàng)目，審核員們只能說自己正在做一個(gè)關(guān)于honeybadger項(xiàng)目或者自稱是社區(qū)運(yùn)營(yíng)的數(shù)據(jù)分析師。

　　Facebook當(dāng)然也考慮過試圖采用AI來審核網(wǎng)站內(nèi)容，但目前來看還有一段距離。

　　Facebook曾在今年3月份宣布，將推出一套能夠識(shí)別出試圖自殺或自殘的用戶的AI系統(tǒng)。這套系統(tǒng)通過比對(duì)用戶的帖子和評(píng)論與其先前帖子的相似性來判斷其自殺的風(fēng)險(xiǎn)。

　　如果系統(tǒng)判斷某條帖子具有自殺傾向，就會(huì)在其他用戶瀏覽這條帖子時(shí)，突出顯示“上報(bào)自殘”的選項(xiàng)。

　　值得注意的是，是否上報(bào)最終還是由人來決定的。AI無法判斷，它只能提供幫助。

　　2

　　網(wǎng)絡(luò)監(jiān)管走向何方

　　Facebook之所以此前極力推崇互聯(lián)網(wǎng)原教旨主義，與其商業(yè)模式有著直接的聯(lián)系——通過獲取和追蹤海量免費(fèi)內(nèi)容以及用戶數(shù)據(jù)，推送更精準(zhǔn)的廣告。

　　因此互聯(lián)網(wǎng)巨頭需要通過推薦算法攫取更多的注意力。在華爾街日?qǐng)?bào)的一項(xiàng)調(diào)查中發(fā)現(xiàn)，YouTube的算法推薦，就會(huì)把用戶一步步導(dǎo)向越來越極端的觀點(diǎn)和內(nèi)容，這是抓住用戶注意力的最好辦法。

　　如果你經(jīng)常關(guān)注新聞的話，格力、格蘭仕、伊利、小米等廠商在近一個(gè)月頻頻開撕，做法似乎已經(jīng)變得有些無所不用其極，但也同時(shí)吸引了大量用戶的注意力。

　　眼球經(jīng)濟(jì)和推薦算法，正在將互聯(lián)網(wǎng)引入極端，如果沒有恰當(dāng)?shù)膬?nèi)容審核，往下滑一步也許就意味著深淵。

　　就像連線雜志評(píng)論的那樣，F(xiàn)acebook帶來的是更分裂而不是更加開放和緊密連接。（You can’t make the world more open and connected if you’re breaking it apart.）

　　包括美國(guó)本土和歐盟在內(nèi)，F(xiàn)acebook面臨著越來越強(qiáng)的監(jiān)管壓力，監(jiān)管之路卻充滿了各方博弈。

　　在意識(shí)到網(wǎng)絡(luò)監(jiān)管的必要性之后，扎克伯格3月在華盛頓郵報(bào)上發(fā)表了一篇文章，不僅主動(dòng)提出監(jiān)管機(jī)構(gòu)應(yīng)該更加活躍，并且應(yīng)該在一些區(qū)域中更加深度介入。

　　例如，扎克伯格在提一條建議中就呼吁組建一個(gè)第三方獨(dú)立機(jī)構(gòu)，制定審核內(nèi)容的統(tǒng)一標(biāo)準(zhǔn)，規(guī)定好內(nèi)容的邊界，把控諸如校園霸凌、自殺、恐怖暴力等不得體的內(nèi)容。

　　如果你關(guān)注了過去一年Facebook與監(jiān)管機(jī)構(gòu)之間的爭(zhēng)斗會(huì)發(fā)現(xiàn)，小扎在文章中的所有建議似乎都是在“自縛手腳”，處處針對(duì)發(fā)生在自己身上的經(jīng)歷和丑聞下狠手。

　　但美國(guó)一家智庫(kù)分析，這Facebook提出這建議，不僅撇清了與監(jiān)管之間的關(guān)系，還能夠進(jìn)一步鞏固公司的市場(chǎng)地位。

　　作為內(nèi)容提供的主體，互聯(lián)網(wǎng)企業(yè)需要通過技術(shù)手段主動(dòng)照顧好包括未成年人在內(nèi)的平臺(tái)上的一切活動(dòng)，有了獨(dú)立機(jī)構(gòu)對(duì)于內(nèi)容的統(tǒng)一管理，F(xiàn)acebook就完全有理由在出事后把皮球踢給標(biāo)準(zhǔn)和監(jiān)管機(jī)構(gòu)，一切都按照監(jiān)管的要求辦事，從此降低被起訴的風(fēng)險(xiǎn)。

　　同時(shí)，當(dāng)企業(yè)做到規(guī)模足夠大之后，對(duì)于監(jiān)管機(jī)構(gòu)會(huì)出現(xiàn)反制力，從而左右監(jiān)管機(jī)構(gòu)的決策。美國(guó)智庫(kù)機(jī)構(gòu)預(yù)測(cè)，F(xiàn)acebook會(huì)通過游說來確保新規(guī)則有利于自己而不是競(jìng)爭(zhēng)對(duì)手。

　　無論如何，F(xiàn)acebook在短期內(nèi)依舊會(huì)“我行我素”，一方面繼續(xù)通過人工+AI的方式審核越來越多的內(nèi)容，另一方面與監(jiān)管機(jī)構(gòu)陷入不休的規(guī)則制定中。

　　科技并不是天然站在道德一邊，而是站在利益這一邊的?？萍季揞^更愿意和那些能幫他們實(shí)現(xiàn)利益的一方合作。在新書《庫(kù)克傳》的最后，闡述了蘋果近年來面對(duì)的相同問題：利用更優(yōu)勢(shì)地位榨取供應(yīng)商的代工廠，必然導(dǎo)致供應(yīng)商強(qiáng)壓成本，產(chǎn)生更多社會(huì)責(zé)任問題。

　　在不為人知的另一面，網(wǎng)絡(luò)清道夫們短期內(nèi)也依舊只能拿著與所受精神暴力不成正比的低廉工資，“高尚”而卑微地活著。