Instagramのいじめ対策計画、AIを活用して写真内のいじめを検出c

Instagramのいじめ対策計画、AIを活用して写真内のいじめを検出c
Instagramのいじめ対策計画、AIを活用して写真内のいじめを検出c
いじめ防止

Instagramは、写真やキャプションに潜むいじめの兆候をAIで検出し、いじめ対策を強化すると発表した。

Instagramは昨年、コメント内でいじめを示唆する可能性のある単語やフレーズを識別するために機械学習を使い始めたが、  The Vergeの報道によると、同社は現在、視覚的にも同じことを行うことを目指しているという。

同社は本日、コンテンツを人間のモデレーターに送信して審査する前に、AIを活用して「いじめを積極的に検出」すると発表した。

この新機能は今後数週間以内にユーザーに展開され、米国では10月の全国いじめ防止月間、英国ではいじめ防止週間の直前にリリースされます。ライブ動画にも同様の技術が追加され、コメントをフィルタリングします。

ソーシャル メディアがいじめに利用される可能性があることから、ほとんどのプラットフォームではいじめ対策の取り組みが進められています。

システムがどのような視覚的な手がかりを探すのかは不明だが、同社は1つの例を示した。

広報担当者は、分割画面の画像を探すAIの例を、ある人物が別の人物と否定的に比較される可能性があるため、潜在的ないじめの例として挙げた。

Instagram はまた、写真に複数の言語で親切なコメントを重ねて表示する「親切」フィルターも開始します。

米国のいじめ対策プロジェクトの公式ウェブサイトはstopbullying.govです。大人による早期介入が効果的であることが示されていると述べられています。

大人がいじめ行為に迅速かつ一貫して対応することで、いじめは許されないというメッセージを送ることができます。研究によると、いじめ行為は徐々に抑制される可能性があることが示されています。

保護者、学校職員、地域社会の他の大人たちは、いじめについて話し合ったり、安全な学校環境を築いたり、地域社会全体でいじめ防止戦略を作成したりすることで、子供たちがいじめを防ぐのを助けることができます。

英国のサイトはbullying.co.ukで、11月に1週間のキャンペーンを実施します。このサイトでは、いじめへの対応に関するInstagramのアドバイスを説明しています。

Instagramにおけるいじめや嫌がらせは、様々な形で起こり得ます。ネガティブなコメント、偽アカウント、アカウントのハッキングなど、様々な形態があります。Instagramはこれらの違反行為を非常に深刻に受け止めており、ご自身やご友人がInstagramでいじめや嫌がらせを受けている場合に備えて、公式ページには多くのアドバイスが掲載されています。まずは、嫌がらせをしている相手をブロックし、フォローを解除することをお勧めします。しかし、嫌がらせが続いたり、状況が悪化したりした場合は、アプリ内の報告ツールをご利用ください。このページには、Instagramに直接嫌がらせを報告する方法の詳細が記載されています。

Instagramは、いじめ対策は同社の総合的なデジタルウェルビーイングプログラムの一環であると述べている。

写真: Shutterstock


Apple のニュースをもっと知りたい場合は、YouTube の 9to5Mac をご覧ください。

havebin.com を Google ニュース フィードに追加します。 

FTC: 収益を生み出す自動アフィリエイトリンクを使用しています。詳細はこちら。