Facebook的清道夫，互聯(lián)網(wǎng)的陰暗之地

來源：創(chuàng)事記 發(fā)布時間：2019-07-02瀏覽：4000次

Facebook的清道夫，互聯(lián)網(wǎng)的陰暗之地

　　幾年前，扎克伯格在生日演講中講到，F(xiàn)acebook的理想是讓這個世界變成一個統(tǒng)一的社區(qū)，他將會繼續(xù)“打造全球性社區(qū)，加深人與人之間的聯(lián)系，讓任何人都可以分享任何東西”作為 Facebook的創(chuàng)建初心。

　　多年來，扎克伯克堅持認(rèn)為，F(xiàn)acebook既然只是個連接世界的平臺，就不用對在這個平臺上發(fā)布的內(nèi)容負(fù)責(zé)。結(jié)果就是，這樣的認(rèn)知給Facebook帶來了巨大的麻煩，使Facebook過去兩年間在內(nèi)容監(jiān)管方面飽受批評。

　　的確，早期的網(wǎng)絡(luò)治理曾經(jīng)主張網(wǎng)絡(luò)中立，崇尚網(wǎng)絡(luò)自由主義，強(qiáng)調(diào)道德自律，也因此形成了互聯(lián)網(wǎng)原教旨主義：讓這個世界沒有信息的不平等，任何一個信息可以無障礙、免費化的方式到達(dá)全世界的任何地方。我們每一個人將變成世界大同中的一部分。

　　然而隨著非法、有害信息不斷傳播，網(wǎng)絡(luò)犯罪和盜版日益猖獗，全面加強(qiáng)網(wǎng)絡(luò)監(jiān)管的呼聲日益成為主流。

　　早在2007年，F(xiàn)acebook因為年輕用戶看到了性侵和其他不恰當(dāng)?shù)膬?nèi)容受到了49位州司法部長的激烈批評，特別是在發(fā)生了數(shù)據(jù)門（操縱大選）之后，公眾和輿論促使Facebook將自己的審查制度一再升級，不斷調(diào)整自由表達(dá)和極端言論之間的平衡點。

　　為此，扎克伯克最近兩年來對外宣稱，F(xiàn)acebook已經(jīng)引入事實核查，聘請更多的專業(yè)人士加入，同時加大力度研發(fā)算法。

　　但實際上，在2018年上映的一部紀(jì)錄片中，揭露了算法和專家背后，真正對抗著世界的暗面的那些人。

　　1

　　上帝、天使、清道夫　　

　　在Facebook之前，很多企業(yè)就已經(jīng)注意到了內(nèi)容審核的重要性。一直試圖將兒童色情、極端信息、虛假內(nèi)容、惡作劇和各種令人討厭的帖子關(guān)閉掉，同時留下其它類型的信息繼續(xù)保持流通。

　　但是負(fù)責(zé)內(nèi)容篩選或甄別的并不是企業(yè)宣稱的專家和AI算法，而是一個個真人組成的審查員團(tuán)隊。

　　這部去年上映的紀(jì)錄片，描述的對象便是所謂的網(wǎng)絡(luò)清道夫。他們供職于世界上最大的社交網(wǎng)站Facebook，或世界上最大的搜索網(wǎng)站Google。他們并不是這些企業(yè)的員工，而是屬于外包人員，任職于菲律賓的一家審核公司。

　　審查員們的工作就是扮演著互聯(lián)網(wǎng)上帝的角色，審核每一張上傳的圖片和每一條視頻，他們對這些圖片和視頻，掌握著生殺大權(quán)，決定著對這些內(nèi)容能夠保留還是刪除。

　　在紀(jì)錄片中，沒有經(jīng)過內(nèi)容審核機(jī)制的互聯(lián)網(wǎng)，充滿了這個世界的沖突。

　　種族的，還是意識形態(tài)上的，好像所有人都在網(wǎng)上宣泄觀點和情緒。一些恐怖主義見縫插針如病毒蔓延。在海洋般的信息流中，虐殺、自殘、色情、極端組織言論、政治宣傳夾雜在各式貓咪、美食和旅行的照片里面，大量的垃圾信息需要有人來負(fù)責(zé)清理。

　　成為審查員之前，這些人需要經(jīng)過三到五天的上崗培訓(xùn)，培訓(xùn)的內(nèi)容，例如必須在三到五天內(nèi)記住37個恐怖組織——他們的旗幟、制服、諺語。

　　通過類似這樣的培訓(xùn)，審查員上崗并化身成為道德天使，通過機(jī)械又辛勞的工作，使人們相信對社會的美好想象。

　　但這些人并非受過良好的教育，他們大多沒有良好的文化教育背景，有的甚至剛剛學(xué)會用電腦。每天所要面對的，是恐怖主義，兒童色情，自殘虐殺等等你不愿觸碰的灰色地帶，“習(xí)慣每天看著上百人死去”。因此他們被稱為互聯(lián)網(wǎng)中最“臟”的職業(yè)。

　　很多人將這份工作視為“福利”，因為審查員們的工作就是強(qiáng)制涉獵大量黃色圖片、文字、視頻等，但實際上，這些人每天要審核25000條內(nèi)容，每一張圖片的判斷時間只有短短的八秒。

　　有些負(fù)責(zé)暴力視頻的審查員，每天要看大量血肉橫飛，殘肢斷臂的畫面，還有更多聳人聽聞的視頻，包括虐待婦女、兒童和動物。有人表示他們每看幾個視頻就得休息一下才能緩過勁兒來。在日積月累的病態(tài)工作下，審查員們漸漸麻木，喪失了對人類的信心。

　　“當(dāng)我離開公司時，我已經(jīng)三年沒有握手了，因為我發(fā)現(xiàn)人們很惡心。我只是無法觸及人，”

　　高額的工資？不存在的。幾年前，國內(nèi)某家互聯(lián)網(wǎng)公司以20萬高薪招聘“首席淫穢色情鑒定官”，但實際上，在招聘網(wǎng)站中網(wǎng)絡(luò)信息審核員這一職位的平均工資只有5-7千元左右。相比我國，紀(jì)錄片中出現(xiàn)的審查員時薪僅有1美金。

　　還有人會痛恨這些網(wǎng)絡(luò)審查。認(rèn)為審核破壞了自由。比如一位藝術(shù)家創(chuàng)作的川普油畫，因為畫中人是裸體，所以被清道夫刪除。藝術(shù)品和成人照片的界限，往往在這時變得模糊不清。

　　另一位攝影家，通過拍攝了戰(zhàn)爭中死去的少年，希望引起人們對戰(zhàn)爭的反思。但清道夫們覺得它會宣揚暴力，因此刪除了照片。

　　幾乎每個審查員都或多或少因為這份工作產(chǎn)生了心理陰影，那為什么不選擇辭職另謀出路？

　　除了養(yǎng)家糊口的經(jīng)濟(jì)壓力外，相當(dāng)一部分審查員也因為這份工作產(chǎn)生的自豪感而選擇繼續(xù)留下。

　　“如果我們沒有工作一小時，那互聯(lián)網(wǎng)就會一團(tuán)糟?！?片中一位審查員說到。

　　Facebook在2017年的遭遇印證了這句話：一名泰國男子在播放了殺害11個月大的女兒后自殺的視頻。這段視頻引起了全世界的一片嘩然，并在社交網(wǎng)絡(luò)上保留了近24個小時，這讓Facebook成為眾矢之的。

　　因此，F(xiàn)acebook的內(nèi)容管理員從2017年的1萬人，增加到2019年的3萬人。

　　如此龐大數(shù)量的審查員卻被要求，絕對不會透露他們?yōu)檎l而工作，如果違反了保密協(xié)議，他們就會失去工作并面臨10000美元罰款，甚至牢獄之災(zāi)。

　　為什么不能說？因為一旦泄露了這些秘密，會對互聯(lián)網(wǎng)巨頭們的廣告收入造成嚴(yán)重影響。要知道，F(xiàn)acebook和Google一起占據(jù)了全球80%的數(shù)字廣告收入。

　　為此，F(xiàn)acebook將這項工作包裝成一個叫做honeybadger（蜜獾）的項目，審核員們只能說自己正在做一個關(guān)于honeybadger項目或者自稱是社區(qū)運營的數(shù)據(jù)分析師。

　　Facebook當(dāng)然也考慮過試圖采用AI來審核網(wǎng)站內(nèi)容，但目前來看還有一段距離。

　　Facebook曾在今年3月份宣布，將推出一套能夠識別出試圖自殺或自殘的用戶的AI系統(tǒng)。這套系統(tǒng)通過比對用戶的帖子和評論與其先前帖子的相似性來判斷其自殺的風(fēng)險。

　　如果系統(tǒng)判斷某條帖子具有自殺傾向，就會在其他用戶瀏覽這條帖子時，突出顯示“上報自殘”的選項。

　　值得注意的是，是否上報最終還是由人來決定的。AI無法判斷，它只能提供幫助。

　　2

　　網(wǎng)絡(luò)監(jiān)管走向何方

　　Facebook之所以此前極力推崇互聯(lián)網(wǎng)原教旨主義，與其商業(yè)模式有著直接的聯(lián)系——通過獲取和追蹤海量免費內(nèi)容以及用戶數(shù)據(jù)，推送更精準(zhǔn)的廣告。

　　因此互聯(lián)網(wǎng)巨頭需要通過推薦算法攫取更多的注意力。在華爾街日報的一項調(diào)查中發(fā)現(xiàn)，YouTube的算法推薦，就會把用戶一步步導(dǎo)向越來越極端的觀點和內(nèi)容，這是抓住用戶注意力的最好辦法。

　　如果你經(jīng)常關(guān)注新聞的話，格力、格蘭仕、伊利、小米等廠商在近一個月頻頻開撕，做法似乎已經(jīng)變得有些無所不用其極，但也同時吸引了大量用戶的注意力。

　　眼球經(jīng)濟(jì)和推薦算法，正在將互聯(lián)網(wǎng)引入極端，如果沒有恰當(dāng)?shù)膬?nèi)容審核，往下滑一步也許就意味著深淵。

　　就像連線雜志評論的那樣，F(xiàn)acebook帶來的是更分裂而不是更加開放和緊密連接。（You can’t make the world more open and connected if you’re breaking it apart.）

　　包括美國本土和歐盟在內(nèi)，F(xiàn)acebook面臨著越來越強(qiáng)的監(jiān)管壓力，監(jiān)管之路卻充滿了各方博弈。

　　在意識到網(wǎng)絡(luò)監(jiān)管的必要性之后，扎克伯格3月在華盛頓郵報上發(fā)表了一篇文章，不僅主動提出監(jiān)管機(jī)構(gòu)應(yīng)該更加活躍，并且應(yīng)該在一些區(qū)域中更加深度介入。

　　例如，扎克伯格在提一條建議中就呼吁組建一個第三方獨立機(jī)構(gòu)，制定審核內(nèi)容的統(tǒng)一標(biāo)準(zhǔn)，規(guī)定好內(nèi)容的邊界，把控諸如校園霸凌、自殺、恐怖暴力等不得體的內(nèi)容。

　　如果你關(guān)注了過去一年Facebook與監(jiān)管機(jī)構(gòu)之間的爭斗會發(fā)現(xiàn)，小扎在文章中的所有建議似乎都是在“自縛手腳”，處處針對發(fā)生在自己身上的經(jīng)歷和丑聞下狠手。

　　但美國一家智庫分析，這Facebook提出這建議，不僅撇清了與監(jiān)管之間的關(guān)系，還能夠進(jìn)一步鞏固公司的市場地位。

　　作為內(nèi)容提供的主體，互聯(lián)網(wǎng)企業(yè)需要通過技術(shù)手段主動照顧好包括未成年人在內(nèi)的平臺上的一切活動，有了獨立機(jī)構(gòu)對于內(nèi)容的統(tǒng)一管理，F(xiàn)acebook就完全有理由在出事后把皮球踢給標(biāo)準(zhǔn)和監(jiān)管機(jī)構(gòu)，一切都按照監(jiān)管的要求辦事，從此降低被起訴的風(fēng)險。

　　同時，當(dāng)企業(yè)做到規(guī)模足夠大之后，對于監(jiān)管機(jī)構(gòu)會出現(xiàn)反制力，從而左右監(jiān)管機(jī)構(gòu)的決策。美國智庫機(jī)構(gòu)預(yù)測，F(xiàn)acebook會通過游說來確保新規(guī)則有利于自己而不是競爭對手。

　　無論如何，F(xiàn)acebook在短期內(nèi)依舊會“我行我素”，一方面繼續(xù)通過人工+AI的方式審核越來越多的內(nèi)容，另一方面與監(jiān)管機(jī)構(gòu)陷入不休的規(guī)則制定中。

　　科技并不是天然站在道德一邊，而是站在利益這一邊的。科技巨頭更愿意和那些能幫他們實現(xiàn)利益的一方合作。在新書《庫克傳》的最后，闡述了蘋果近年來面對的相同問題：利用更優(yōu)勢地位榨取供應(yīng)商的代工廠，必然導(dǎo)致供應(yīng)商強(qiáng)壓成本，產(chǎn)生更多社會責(zé)任問題。

　　在不為人知的另一面，網(wǎng)絡(luò)清道夫們短期內(nèi)也依舊只能拿著與所受精神暴力不成正比的低廉工資，“高尚”而卑微地活著。