3月24日消息，據(jù)國(guó)外媒體報(bào)道，隨著新型冠狀病毒在全球范圍的持續(xù)蔓延，F(xiàn)acebook讓旗下數(shù)千名負(fù)責(zé)內(nèi)容審核的外包員工回家隔離，更多依賴人工智能、自動(dòng)化系統(tǒng)等技術(shù)手段審查平臺(tái)上的不良內(nèi)容，這對(duì)于Facebook來(lái)說(shuō)也是一次重大考驗(yàn)。

　　本月初，隨著新型冠狀病毒在全球蔓延，F(xiàn)acebook大多數(shù)員工都收拾行囊，準(zhǔn)備在家上班。然而，盡管Facebook公司下令讓員工居家辦公，但這家社交網(wǎng)絡(luò)巨頭仍未想出如何遠(yuǎn)程開展其最敏感的工作：清除整個(gè)網(wǎng)站上的色情、暴力、恐怖主義以及其他不受歡迎的內(nèi)容。

　　從事這項(xiàng)敏感工作的是Facebook遍布全球20個(gè)辦公地的近1.5萬(wàn)名外包員工。此前這些非正式員工繼續(xù)來(lái)到辦公室上班。直至上周一，來(lái)自公眾的壓力、內(nèi)部抗議和世界各地的隔離措施迫使Facebook關(guān)閉了其內(nèi)容審核辦公室。

　　Facebook決定讓這群內(nèi)容管理員帶薪休假，也為公司帶來(lái)了另一項(xiàng)挑戰(zhàn)：如何對(duì)虛假信息、醫(yī)療騙局等不良內(nèi)容進(jìn)行監(jiān)管。

　　雖然Facebook、YouTube、Twitter和其他公司長(zhǎng)期以來(lái)一直在鼓吹人工智能和算法是監(jiān)管不良內(nèi)容的未來(lái)發(fā)展方向，但這些公司最近承認(rèn)，人類是對(duì)付不良內(nèi)容的最重要防御線。這些外包員工的工資僅為公司正式員工的零頭，但每天要花上幾個(gè)小時(shí)的時(shí)間審閱被標(biāo)記為非法或令人不安的內(nèi)容，刪除平臺(tái)上的那些越界帖子，并常常因?yàn)樯硖庍@種工作環(huán)境中而飽受心理傷害。

　　不過(guò)，F(xiàn)acebook首席執(zhí)行官馬克·扎克伯格(Mark Zuckerberg)周三在一次媒體電話會(huì)議上說(shuō)，在新型冠狀病毒蔓延期間，F(xiàn)acebook將被迫更多地依靠人工智能軟件來(lái)對(duì)平臺(tái)內(nèi)容進(jìn)行審核。該公司還將培訓(xùn)全職員工對(duì)高度敏感的內(nèi)容給予“額外關(guān)注”，比如任何涉及自殺、虐童和恐怖主義的內(nèi)容。扎克伯格說(shuō)，在Facebook的篩選過(guò)程中，用戶應(yīng)該對(duì)出現(xiàn)更多錯(cuò)誤有心理準(zhǔn)備，部分原因是因?yàn)橹挥幸恍〔糠秩藚⑴c其中，而且軟件做出的決定比人更直接。

　　扎克伯格承認(rèn)，這個(gè)決定可能會(huì)導(dǎo)致“誤報(bào)”，包括刪除不應(yīng)該刪除的內(nèi)容。

　　審核決策將“權(quán)衡其他可能不會(huì)馬上給人們帶來(lái)身體上風(fēng)險(xiǎn)的內(nèi)容。”不過(guò),扎克伯格仍希望盡快培訓(xùn)更多的員工,因?yàn)樗?ldquo;個(gè)人非常擔(dān)心人們隔離在家會(huì)帶來(lái)更多抑郁情緒或心理健康問(wèn)題，我們希望能在幫助社區(qū)方面想在前面。”

　　扎克伯格的言論反映出硅谷巨頭們?cè)谌�球健康危機(jī)日益嚴(yán)重情況下所做的復(fù)雜選擇和權(quán)衡。這些公司可以保護(hù)員工，并遵守當(dāng)?shù)?“待在家中”的規(guī)定。但這種選擇可能會(huì)危及全球數(shù)十億用戶的安全。因?yàn)槠渲性S多人被隔離在家中無(wú)所事事，整天上網(wǎng)，接觸到比以前更多可能令人不安的內(nèi)容。

　　YouTube上周還宣布了一項(xiàng)臨時(shí)計(jì)劃，將更多依賴自動(dòng)化系統(tǒng)來(lái)減少上班人數(shù)。該公司警告稱，此舉可能會(huì)導(dǎo)致視頻內(nèi)容創(chuàng)作者的投訴流程變慢，并導(dǎo)致更多未經(jīng)審查的內(nèi)容被禁止錄入搜索引擎或其主頁(yè)。同一天，Twitter也表示將采取同樣行動(dòng)。由于自動(dòng)化系統(tǒng)可能會(huì)導(dǎo)致錯(cuò)誤，所以在此期間不會(huì)永久封禁相關(guān)帳戶。它還將優(yōu)先處理可能危害更大的違規(guī)行為。

　　Facebook、YouTube、Twitter和其他社交媒體公司過(guò)去曾面臨監(jiān)管內(nèi)容方面的重大挑戰(zhàn)，其中包括如何監(jiān)管槍擊事件視頻以及虛假信息宣傳等各種不良信息內(nèi)容。

　　這種壓力隨著有關(guān)新型冠狀病毒的虛假信息激增而加劇。在Facebook旗下的WhatsApp上，聊天群組正在傳播與新型冠狀病毒有關(guān)航班、酒店和學(xué)校的未經(jīng)證實(shí)信息，以及關(guān)于美國(guó)政府可能采取的舉措和該病毒如何傳播的錯(cuò)誤信息。在Facebook平臺(tái)上，一則關(guān)于洛杉磯病毒爆發(fā)的消息四處傳播，到處都是關(guān)于新型冠狀病毒虛假治療方法的帖子。

　　2016年美國(guó)總統(tǒng)大選之后，F(xiàn)acebook在菲律賓、印度、都柏林和美國(guó)聘請(qǐng)了數(shù)千名內(nèi)容管理員來(lái)監(jiān)管內(nèi)容，并提高其平臺(tái)聲譽(yù)。受雇于埃森哲和Cognizant等外包公司的內(nèi)容審核員是Facebook的外包員工，他們的工資和福利通常低于正式員工。

　　而把這些人送回家，更多依靠技術(shù)手段來(lái)監(jiān)管內(nèi)容的決定不免讓一些研究人員憂慮重重。

　　微軟研究院(Microsoft Research)高級(jí)首席研究員瑪麗?格雷(Mary Gray)表示:“他們?cè)谌斯ぶ悄茴I(lǐng)域還沒有取得足夠大的進(jìn)步，不足以替代我們所擁有的最佳工具:人類智能來(lái)進(jìn)行識(shí)別。”格雷是《幽靈工作:如何阻止硅谷催生一個(gè)新的全球下層階級(jí)》(Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass)一書的合著者。她補(bǔ)充說(shuō)，“這將是一團(tuán)糟”。

　　Facebook發(fā)言人德魯·普薩特利(Drew Pusateri)說(shuō):“我們的工作重點(diǎn)是確保人們的安全，確保他們能夠在危機(jī)期間相互分享信息和進(jìn)行聯(lián)系。”“但正如我們?cè)谧罱�的�?nèi)容審核更新中所說(shuō)的，我們預(yù)計(jì)，隨著我們更依賴于自動(dòng)化，一些錯(cuò)誤將會(huì)發(fā)生。”

　　Facebook做出這一改變，在很大程度上是因?yàn)楣�司認(rèn)為這項(xiàng)工作對(duì)第三方內(nèi)容審核員來(lái)說(shuō)過(guò)于敏感，不適合在家里進(jìn)行，其中會(huì)涉及到審查用戶的私人Facebook賬戶。該公司還承認(rèn)，這是一份痛苦的工作，員工在家里得到的支持會(huì)更少。一般來(lái)說(shuō)，內(nèi)容管理員在呼叫中心工作時(shí)，包括中斷、敲擊鍵盤以及對(duì)內(nèi)容作出判斷等每一個(gè)動(dòng)作都會(huì)受到嚴(yán)格的管理和監(jiān)控。

　　該公司表示，隨著新型冠狀病毒疫情的變化，這種情況可能會(huì)改變。

　　周四晚些時(shí)候，F(xiàn)acebook在公司博客上公布了更明確的計(jì)劃。當(dāng)用戶舉報(bào)違反政策的內(nèi)容時(shí)，他們會(huì)看到一條消息，說(shuō)明審核量減少，而Facebook正在對(duì)那些可能造成最大傷害的內(nèi)容進(jìn)行優(yōu)先審查。

　　“這意味著一些報(bào)告將不會(huì)像以前那樣被快速審查，我們將根本得不到一些報(bào)告，”博客文章中寫道。減少內(nèi)容審核員還將改變那些認(rèn)為內(nèi)容被錯(cuò)誤刪除的用戶申訴程序。當(dāng)然，用戶仍然可以因?yàn)樗麄儾徽J(rèn)同F(xiàn)acebook的決定而進(jìn)行報(bào)告。

　　我們將“監(jiān)控反饋，以提高我們的準(zhǔn)確性，但我們可能不會(huì)第二次審查內(nèi)容，”該公司表示。

　　根據(jù)該公司最新的《社區(qū)標(biāo)準(zhǔn)執(zhí)行報(bào)告》(community standards enforcement report)，大約95%涉及成人裸體、恐怖主義、虐童、自殺和自殘的帖子，在Facebook用戶舉報(bào)之前就已經(jīng)被算法刪除了。

　　但對(duì)于需要更細(xì)致入微分析的內(nèi)容，公司的自動(dòng)化系統(tǒng)往往效率較低。人工智能只捕獲了Facebook上涉及欺凌和騷擾帖子的16%，導(dǎo)致80%以上的此類帖子被上報(bào)給公司。此外，人工智能只捕獲了大約80%的仇恨言論。

　　這些數(shù)字讓公司管理人員意識(shí)到，要監(jiān)控更細(xì)微敏感的內(nèi)容，人工判斷仍然是必要的。

　　扎克伯格去年在接受采訪時(shí)表示，“我認(rèn)為總需要人”對(duì)內(nèi)容做出判斷。

　　事實(shí)上，現(xiàn)在已經(jīng)有潛在問(wèn)題的跡象。上周早些時(shí)候，有關(guān)新型冠狀病毒準(zhǔn)確信息的相關(guān)內(nèi)容被從Facebook上刪除。扎克伯格表示，這是由公司垃圾郵件檢測(cè)系統(tǒng)中的一個(gè)漏洞引起的，與疫情期間內(nèi)容審核的分類無(wú)關(guān)。他在上周的媒體電話采訪中說(shuō):“系統(tǒng)已經(jīng)修復(fù)，這些帖子也已經(jīng)恢復(fù)，希望我們不會(huì)很快再次遇到這個(gè)問(wèn)題。”

　　網(wǎng)絡(luò)安全教授、《創(chuàng)造互聯(lián)網(wǎng)的26個(gè)單詞》(the 26 Words That Created the Internet)一書作者杰夫·科瑟夫(Jeff Kosseff)說(shuō)，隨著Facebook對(duì)監(jiān)管內(nèi)容的回應(yīng)越來(lái)越多地轉(zhuǎn)向技術(shù)層面，這將是該行業(yè)面臨的一次重大考驗(yàn)。

　　他說(shuō):“這將告訴我們很多有關(guān)自動(dòng)審核的情況。” 科塞夫補(bǔ)充說(shuō)，盡管更加透明，但“我們真的不知道科技公司到底在做什么，也不知道它們的效率有多高。”

　　加州大學(xué)洛杉磯分校教授薩拉·T·羅伯茨(Sarah T. Roberts)表示，F(xiàn)acebook可能是被迫采取行動(dòng)的。在菲律賓首都馬尼拉，F(xiàn)acebook通過(guò)外包公司雇傭了數(shù)千名內(nèi)容管理員，但當(dāng)?shù)卣�府在全市范圍�?nèi)實(shí)施了隔離。

　　不管Facebook的動(dòng)機(jī)是什么，羅伯茨說(shuō)，這次經(jīng)歷將揭示人類審核員對(duì)集體利益和互聯(lián)網(wǎng)體驗(yàn)的影響有多大，甚至可能會(huì)改變硅谷通過(guò)工程手段解決問(wèn)題的既定觀念。

　　她說(shuō):“我們實(shí)際上可能無(wú)法通過(guò)編程擺脫新型冠狀病毒蔓延帶來(lái)的影響。”(騰訊科技審校/皎晗)