社交媒體平臺上的極端主義、暴力和仇恨內(nèi)容，近些年引發(fā)了社會輿論的關(guān)注，被認為給社會帶來了撕裂和負能量，給網(wǎng)絡(luò)用戶的身心健康帶來影響。外界要求社交媒體公司加強內(nèi)容審核。

　　據(jù)外媒最新消息，9月18日，在美國國會參議院舉行的一次聽證會上，美國主要的社交媒體表示，他們正采取更多措施，在重大社會事件發(fā)生后從在線平臺上刪除暴力或極端主義內(nèi)容，重點是使用更多新技術(shù)和新工具加快刪除行動。

　　據(jù)國外媒體報道，一些批評人士認為，在某些新聞事件發(fā)生后，太多支持恐怖主義的極端主義團體的暴力視頻或帖子并未立即從社交媒體網(wǎng)站中刪除。

　　美國參議員理查德·布盧門撒爾表示，社交媒體公司需要采取更多措施來刪除暴力內(nèi)容。

　　Facebook全球政策管理負責人比克(Monika Bickert)告訴美國國會參議院商務(wù)委員會稱，該公司開發(fā)的軟件檢測系統(tǒng)使用了人工智能技術(shù)來發(fā)現(xiàn)違規(guī)內(nèi)容，目前人工智能技術(shù)在Facebook直播服務(wù)中發(fā)現(xiàn)違規(guī)視頻所需的平均時間減少到12秒，和幾個月之前相比，平均審核時間縮短了90%。

　　今年5月，F(xiàn)acebook公司表示，它將暫時阻止曾經(jīng)違反Facebook平臺用戶規(guī)則的用戶使用視頻直播服務(wù)。在此之前，一名槍手在新西蘭一個宗教場所制造了大規(guī)模槍擊事件，導(dǎo)致51人喪生，這名槍手在Facebook直播平臺上直播了這次襲擊事件。這一事件導(dǎo)致Facebook遭到了國際社會的強烈抗議。

　　另外在槍擊發(fā)生后，許多網(wǎng)民在社交媒體平臺上傳了槍擊事件有關(guān)的視頻，輿論認為平臺公司并沒有快速刪除視頻，擴大了對社會的負面影響。

　　比克表示，F(xiàn)acebook曾經(jīng)邀請美國執(zhí)法部門提供幫助，協(xié)助人工智能識別系統(tǒng)更準確地查出違規(guī)視頻內(nèi)容。

　　另外，和最近發(fā)生的幾起大規(guī)模槍擊事件有關(guān)的網(wǎng)絡(luò)論壇8chan也遭到了外界的批評。本月初，該網(wǎng)站的所有者在美國國會參加了聽證會。

　　周三，推特網(wǎng)站公共政策主管尼克·皮克爾斯表示，該網(wǎng)站在2015年8月至2018年底之間暫停了超過150萬個違反恐怖主義行為規(guī)范的賬戶，“其中90%以上的賬戶因我們的積極措施而被暫停。”

　　全球最大原創(chuàng)視頻網(wǎng)站YouTube的母公司谷歌，其高管也參加了周三的聽證會，谷歌負責全球信息政策的總監(jiān)德里克·斯萊特表示，他們應(yīng)對社交媒體違規(guī)內(nèi)容的解決方案是科技和人工的結(jié)合。其中新科技可以更好，更好地識別違規(guī)內(nèi)容，而工作人員可以幫助處理內(nèi)容合規(guī)的細節(jié)問題。

　　這位高管表示，YouTube在今年三個月內(nèi)刪除了900萬個視頻，其中87%被人工智能系統(tǒng)標記成違規(guī)。

　　據(jù)國外媒體報道，在審核和刪除社交媒體違規(guī)內(nèi)容上，相關(guān)公司除了技術(shù)工具之外，也在使用大量的人力資源。比如Facebook在全世界雇傭了1.5網(wǎng)民內(nèi)容審核員，基本上是通過外包公司雇傭的外包工。(騰訊科技審校/承曦)