北京時間10月10日消息,F(xiàn)acebook旗下Instagram推出了一款機器學(xué)習(xí)工具,可以檢查照片和字幕中的欺凌內(nèi)容。
如果人工智能工具發(fā)現(xiàn)某張照片有問題,就會將其發(fā)送給Instagram社區(qū)運營團隊,以便進一步評估。
Instagram發(fā)言人表示,這款人工智能工具會對字幕和評論進行探測,找到針對某人的外貌等方面發(fā)起的攻擊。它還會對比和評價各種照片和字幕,以便找出含有欺凌性質(zhì)的內(nèi)容,例如通過并排圖片來對某人進行惡意對比。
Instagram還在直播視頻中推出了欺凌評論過濾器,以便在直播過程中發(fā)現(xiàn)并阻止冒犯性言論。Instagram今年5月還曾發(fā)布過一款過濾器,專門過濾圖片和視頻評論中的惡意內(nèi)容。
Facebook和Twitter也推出過類似的項目,用來限制各自平臺上的欺凌內(nèi)容。