社會的撕裂,某程度上造就仇恨言論的蔓延。不少企業都可能因為網絡上流言誹語而惹上不少麻煩,位於加拿大的 Hatebase,即一家專門將分析各地區仇恨言論行為的機構,他們會將分析結果及資料庫售予無技術能力的公司,並協助他們處理網絡上的仇恨言論,進而達到制止歧視、網路霸凌的效果。
目前 Hatebase 的業務覆蓋全球 200 個國家及地區,支援 95 種語言,他們其中一個客戶就是全球不少年青人都喜歡用的 TikTok , Hatebase 會透過將懷疑仇恨言論傳送至自然語言處理程式 Hatebrain 作分析,透過大量累積的資訊,就能偵測有關的貼文是否涉及仇恨言論,並可以即時判斷內容及刪除有關貼文,以避免不當言論在平台上繼續發酵。
不過有關服務,不禁令人懷疑會否成為內容審查甚至成為打壓制言論的工具呢 ? 另外,亦有人擔心系統可能出現誤判,因為在不同的地方,同一句話亦有不同意思;再者,透過上網收集留言資料,有可能被認為是侵害隱私的行為。就有關的質疑,Hatebase 表示,會邀請各地志願者協助檢視資料庫內容,並提出意見。但有關方法是否見效就取決於志願者的組成是否足夠多元來決定。