YouTube：機器學習技術有助於暴力和極端主義內容監控

由
-
25

如何監控極端暴力和仇恨言論已經成了各社群平台的一大挑戰，YouTube 採用機器學習技術監控網路平台的暴力和極端主義內容，提升了辨識和管理的效率，過去一個月 83% 的暴力和極端主義內容被刪除。

2017 年 6 月 YouTube 宣布嚴格管控該平台的暴力和極端主義內容，辨識過程加入最先進的機器學習技術，利用已有的影片分類模型來研究和分析過去半年被刪除的恐怖主義相關內容，完成違規內容的分類；增加 YouTube 可信任標記計畫的專家人數，人為審查煽動性宗教和極端主義內容，大約招募了 50 位非營利機構專家，警告沒有明確違反 YouTube 規定但包括煽動性宗教和極端主義的內容，此類內容不能獲得收益、推薦和評論。

經過 4 個月推廣後，YouTube 發表報告稱，機器學習技術的應用，有效提升了監控暴力和極端主義內容的效率，把人為審查和技術辨識整合在一起，由辨識系統辨識和分類暴力和極端主義內容，再由專業人士審查。過去一個月，該平台暴力和極端主義內容的刪除率達 83%，比 2017 年 8 月提升了 8%，自 2017 年 6 月以來，人為審查團隊已審查了超過 100 支影片，加入更多背景和資訊，不斷提升機器學習的準確率。

Youtube 的團隊也承認過去監控違規內容犯過一些錯，但恐怖主義和暴力內容不應在網上傳播，未來將繼續打擊此類內容的傳播，與各政府、網路反恐機構合作。