Instagramは10月10日、いじめや嫌がらせ行為を防ぐための新機能として、いじめ行為にあたる写真をAIで検出する機能などを発表しました。今後数週間かけて導入されるとのことです。
Instagram「いじめ予防」のために2つの新機能を追加
Instagramは10月10日、いじめや嫌がらせ行為を防ぐための新機能を2つ導入すると発表しました。1つは「いじめ行為にあたる写真を検出」するという機能。
この機能は機械学習を活用し、いじめ行為などにあたる写真やキャプションをAIが自動的に検出。検出された投稿はInstagram内の「コミュニケーションオペレーションチーム」が内容を確認し、ガイドラインに違反するものは削除対象になるとのこと。
もう1つは、ライブ動画配信時のいじめコメントのフィルタリング機能。既に通常の投稿ではフィルタリング機能が利用できますが、ライブ動画にも拡大されます。
「いじめ写真の検出」は今後数週間かけて導入される予定。ライブ動画のコメントフィルタリング機能はすでに導入済みで、日本語にも対応しています。
Twitterは昨年12月に「ヘイト行為」や「攻撃的な行為」を減らすためのポリシー変更
SNSを介したいじめ行為や嫌がらせは広く問題視されており、Tiwtterでは2017年12月にヘイト行為や攻撃的な行為を減らすことを目的にルール改定を行なっています。
また2018年9月には、Twitter上の会話の健全性を高めていくための特別な取り組みの1つとして、「人間性を否定する投稿」を禁止する方針であると発表しています。