Metaは8月13日（米国時間）、Instagramのペアレンタルコントロールを利用している保護者を対象に、10代の子どもが短期間に自殺や自傷行為に関連する言葉を繰り返し検索した場合、保護者に通知する機能を日本でも提供開始したと発表した。
子どもがサポートを必要としている可能性を保護者が把握し、必要な支援につなげることを目的とした機能だ。通知には、子どもとの繊細な会話に向き合う際に役立つ専門家のリソースも用意する。
この機能は2026年2月に米国など一部の国で導入された。Metaは年内に世界中の国と地域へ拡大するとしており、今回、日本も対象に加わった。
自殺・自傷関連の検索を繰り返すと保護者に通知
Instagramでは、10代の利用者の大多数が自殺や自傷行為に関するコンテンツを検索することはないとしている。今回の通知機能は、子どもがこうした内容を短期間に繰り返し検索しようとしている場合に、保護者がその状況を把握できるようにするものだ。
通知の対象となるのは、自殺や自傷行為を助長するフレーズ、自分を傷つけたい意図を示唆するフレーズ、「自殺」「自傷」といった単語の検索など。Instagramのペアレンタルコントロールを利用している保護者と子どもには、検索結果に基づいて通知が送られることがあらかじめ案内される。
保護者への通知は、登録している連絡先に応じてメール、SMS、WhatsAppで送信されるほか、Instagramアプリ内にも届く。
通知をタップすると全画面のメッセージが表示され、子どもが短期間に自殺や自傷行為に関連するキーワードを繰り返し検索しようとしたことが説明される。あわせて、子どもとの会話に向き合う際に役立つ専門家のリソースも確認できる。
一方で、通知が過剰になると、保護者にとっての有用性が下がる可能性もある。Metaは適切なバランスを取るため、Instagram上での検索行動を分析するとともに、自殺・自傷行為に関するアドバイザリーグループの専門家にも相談した。
通知の対象には、短期間に複数回検索した場合に限るための閾値を設けている。ただし、慎重さを優先しているため、実際には深刻な懸念がないケースでも保護者に通知が届く可能性があるという。Metaは現在の設定を適切な出発点とし、今後も利用状況を確認しながら、フィードバックを踏まえて調整していくとしている。
なお、ペアレンタルコントロールは、保護者と子どものInstagramアカウントを連携して設定する機能。利用時間やプライバシーなどの設定を、保護者がより細かく管理できる。
自殺・自傷関連コンテンツへの既存対策も継続
Instagramを含むMetaのプラットフォームでは、自殺や自傷行為を助長・美化するコンテンツに対して厳格なポリシーを適用している。自身がこうした問題について抱えている葛藤を共有することは認めているが、10代の利用者には該当するコンテンツを表示しない。フォローしている利用者がシェアした内容も対象となる。
検索についても、自殺や自傷行為と明確に関連するキーワードをブロックする仕組みを設けている。該当するキーワードを検索しても検索結果は表示せず、代わりに地域で利用できる支援団体やリソースを案内する。また、自殺や自傷行為とは明確に結びつかないものの、メンタルヘルスに関連する検索を行った場合にも、支援リソースや相談窓口を案内する。
Metaは、利用者に差し迫った身体的危険があると把握した場合、警察や消防機関などに通報する対応も行っている。こうした対応によって実際に命が救われたケースもあるとしており、今後も取り組みを続けるとしている。
関連リンク
(画像提供：Meta)