「恐怖矽谷」回憶錄:900 萬用戶平台背後的內容審查,是 4 人團隊的血汗

26 歲的安娜・維納原本從事被視為步入夕陽的出版業,儘管她曾因文化使命而樂在其中,但爾後隨著工作內容漸無成長空間、薪資水平停滯不前,她亟思改變。這時,她注意到了遙遠的那一頭,洋溢著一片樂觀的新創科技業。幾經思考,她決定擁抱新數位經濟的前景,於是她辭去了出版工作,在矽谷一家大數據新創企業中謀得職務,自此從紐約遷居矽谷所在的舊金山。維納來到矽谷時,適逢一場巨大的文化變革。科技業正迅速轉變成一個媲美華爾街、甚至猶有過之的財富與權力中心。在這裡,她獲得了想都沒想過的高薪,然而她也觀察到,這個新世界充斥著太多始料未及的矛盾⋯⋯。
「恐怖矽谷」回憶錄:900 萬用戶平台背後的內容審查,是 4 人團隊的血汗

Photo Credit:Canva Studio@Pexels

前篇:「恐怖矽谷」回憶錄:26 歲、女性、非工程師——儘管年薪破兩百萬,卻仍感到敵意無所不在

我加入一個名為「服務條款」(Terms of Service)的新團隊。公司之所以成立這個團隊,是因為有一些令人反感的東西,引發了半法律的問題與申訴,而那些問題與申訴塞爆了客服專線。這個開源平台的核心,是提供檔案託管服務:使用者可以上傳文字、圖像、動畫、文件。這個介面可能令那些不做程式設計的人望而生畏,但是用戶使用及濫用這個公共產品的情況,就像其他依賴免費使用者生成內容的社群技術一樣。

內容審查團隊工作實況

服務條款團隊負責處理侵權下架、商標侵權、垃圾郵件,以及用戶死亡與違反兒童線上隱私保護法(COPPA)的情況。我們接下「危險物」(Hazmat)小組的工作,評估暴力威脅、加密貨幣詐騙、釣魚網站、自殺訊息、陰謀論。我們對繞過防火牆的報告感到困惑;用翻譯軟體解讀聲稱來自俄羅斯政府的電子郵件,然後附上一堆問號的表情文字,轉給法務人員處理。我們篩檢騷擾、復仇式色情、兒童色情、恐怖主義內容的報告,並知會更熟悉技術的同事,請他們檢查惡意軟體及據稱有惡意的程式碼。

我們被逼得不得不變成內容審查員,並且發現我們需要內容政策。我的隊友個個思考周到且頭腦聰明,他們有主見,但公平。然而,為一個平台發言幾乎是不可能的,我們之中沒有人特別有資格那樣做。我們希望謹慎行事:開源軟體社群的核心參與者對企業監管很敏感,我們不想像老大哥的監管部門那樣過度干預,破壞任何人的技術烏托邦理念。

圖/fauxels@Pexels

我們希望站在人權、言論自由、表達自由、創意與平等的那一邊。與此同時,這也是一個國際平台,我們之中誰能就國際人權問題闡明一致的立場?我們坐在自己的公寓裡,打著從一家消費性硬體公司採購的筆電。那家公司標榜職場遵循多元性及自由主義的原則,但在剝削勞力的中國工廠中生產產品,使用剛果兒童開採的銅與鈷。

我們的夥伴都來自北美,都是 2、30 歲的白人,這些特質都不是個人的道德缺陷,但它們毫無助益。我們知道我們有盲點,那些特質依然是盲點。

我們很難劃清界限。我們試圖區分政治行為與政治觀點,區分頌揚暴民與美化暴力,區分評論與意圖。我們試圖解讀酸民的諷刺手法。我們也犯了一些錯誤。

當然,做出決定與辨識內容一樣複雜與微妙,也因內容詮釋而異。連色情也處於灰色地帶:乳頭算不算色情需要看脈絡,但我們無意像清教徒那樣嚴苛。女性哺乳的藝術照,和動漫人物從誇張的乳房噴出乳汁的頭像,是不同的。但藝術究竟是什麼,我們憑什麼去定義藝術?

我們會互相提醒意圖很重要。例如,檔案庫中包含性教育網站的資產,應該是可以接受的。與此同時,這個平台也具有教育意義。我們並不希望那些尋找「程式包管理器」的人,突然發現裡面是生殖器的資料夾。

我有時會懷疑,管理團隊知不知道平台上有色情或新納粹胡言亂語,或者他們知不知道意圖良善的客服部員工當初是因為有「良好判斷力」、「注重細節」等無形特質而招募進來的,現在卻不斷纏著法務人員去定義及執行公司對言論自由的立場。

公司裡的多數人似乎都不知道,我們的工具遭到濫用的情況有多常見,他們甚至不知道有我們這個團隊。這不是他們的錯──我們本來就很容易遭到忽略。畢竟,我們才 4 個人,卻要面對這個平台的 9 百萬用戶。

「顛覆矽谷」:技術「真的」可以改變世界

聊天頻道仍持續增加,例如 Latinx、Neurodiverse、40+、Octoprentices、Octoqueer、NB、Blacktocats 等等。那位負責公司多元性與包容性的顧問,如今已經變成全職的副總裁,領導一個名為「社群影響」的新團隊。在她的指導下,這家新創企業慢慢變得更多元化。活動人士加入公司,一些大聲抨擊這家新創企業的人也進來了。

圖/Mati Mango@Pexels

達尼洛(Danilo)就是其中一位批評者,他甚至可以說是精英制度的典型。他出生在波多黎各的公社,從呱呱落地以來就由單親媽媽扶養,小時候自己學會寫程式,但他會公開鄙視矽谷那些誇張的個人主義敘事,喜歡在社群媒體上取笑創投業者與狂熱的技術自由主義者。他顯然讓一些同事很緊張。

對我來說,達尼洛對技術的看法是全新的觀點。那有賴破壞與顛覆,就像時尚一樣,只是它顛覆的是矽谷。他喜歡說,參與科技的成本正急速下降。隨著取得教育、硬體與工具變得愈來愈便宜,以後會有更多人參與。產品與公司將會多樣化,權力結構會轉變。

某天下午,我們在公司總部一起工作,坐在空蕩蕩的活動場地講台上,他告訴我:「新一代的技術人員將徹底顛覆整個系統。我們有這個空間,可以對社會變革產生前所未有的影響,並且發揮槓桿作用。而且有一整個世代是在寬頻環境下成長的,那個世代將會崛起,顛覆整個系統。」就連創投業者,最終也會遭到顛覆與淘汰。我覺得他講的一切實在太令人興奮了──這是把對這個產業的冷嘲熱諷,轉變成對未來抱持樂觀的一種方式。

那年晚秋,「社群影響」團隊的副總裁安排了美國住房與城市發展部長來訪。當時公司正致力投入部長提出的一項倡議:為低收入家庭提供高速網路、電腦與教育方案,以弭平數位鴻溝。我在華盛頓特區待了一週,旁聽這項倡議的相關會議。我覺得,聽到民選官員(而不是產業中故步自封的數位社會領導者)談論技術如何改變世界,相當鼓舞人心。

《關於作者》

安娜‧維納(Anna Wiener)

安娜‧維納是《紐約客》雜誌特約撰稿人,撰寫矽谷、新創企業文化與科技方面的文章,另有作品散見於《大西洋月刊》、《紐約》雜誌、《新共和》雜誌(The New Republic)、《n+1》、《最佳美國非必要讀物》(The Best American Nonrequired Reading)等。現居舊金山,《恐怖矽谷》這本回憶錄是她的文壇處女作。

註:本文摘自安娜‧維納的《恐怖矽谷:回憶錄》,由行路出版授權換日線原文轉載並增訂小標。惟圖、文經編輯,均與原作有部分出入,欲閱讀作者完整作品,歡迎參考原書。

執行編輯:吳玲臻
核稿編輯:林欣蘋

關聯閱讀

作品推薦

你可能有興趣的文章

#廣編企劃|新北街舞大賽的魔力,就是能讓所有人都被這股精神感染!

歡迎回來《換日線》!
您可以使用此天下雜誌群帳號,盡情享受天下雜誌的會員專屬服務,詳細內容請參考此連結