Metaは10月5日（米国時間）、AIアシスタント「Meta AI」における10代向けのペアレンタルコントロール機能を、日本を含む世界で提供開始した。保護者は、10代の利用者が過去7日間にMeta AIへ質問したトピックを確認できるほか、AIとのやり取りをより制限する設定も利用できる。
今回の機能は、10代の利用者によるAIの使い方を保護者が把握しやすくするためのものだ。ペアレンタルコントロールをオンにすると、保護者は子どもが過去7日間にMeta AIへ質問したテーマを「学校」「エンターテインメント」「ライフスタイル」「旅行」「執筆」「健康・ウェルビーイング」などのトピックから確認できる。具体的な質問文や、Meta AIとの会話内容そのものを見ることはできない。
各トピックをタップすると、さらに細かなカテゴリーも確認できる。例えば「ライフスタイル」にはファッション、食事、祝日、「健康・ウェルビーイング」にはフィットネス、身体の健康、メンタルヘルスなどが含まれる。Meta AIが安全上の理由などから質問に回答しなかった場合でも、子どもが質問したトピックは保護者に表示される。
このインサイト機能は、Meta AIアプリに加えて、Facebook、Messenger、Instagramでも利用できる。4月に米国、英国、オーストラリア、カナダ、ブラジルで導入が発表されていたもので、今回、日本にも提供範囲が広がった。
また、10代のAI利用をさらに制限したい場合は、デフォルトの「13歳以上」設定から、より制限の厳しい「限定コンテンツ」設定へ変更できる。同設定では、Meta AIアプリで10代の利用者がやり取りできる会話の種類をさらに制限する。設定はMeta AIアプリ内、またはファミリーセンターから変更できる。
Metaは今回の機能に加えて、10代向けAIの安全対策も強化している。Meta AIは、13歳以上を対象とした映画のレーティング基準や保護者からのフィードバックなどを参考に開発されており、年齢にそぐわない回答を避けるよう設計されている。この仕組みは日本でも近日中に導入する予定だという。
自殺や自傷行為に関するテーマについては、さらに踏み込んだ対策も進めている。Metaは今年2月、子どもがMeta AIで自殺・自傷行為に関する会話を試みた場合に、保護者へ通知するアラート機能を開発中だと発表しており、詳細は近日中に明らかにする予定としている。
このほか、Metaは利用時間の上限設定や休憩時間のスケジュール設定、過去7日間に子どもがチャットした相手の確認といったペアレンタルコントロールも提供している。さらに、Cyberbullying Research Centerと連携して、保護者がAIについて子どもと話し合うための質問集やガイダンスを作成。ファミリーセンターと「インサイト」タブ内のリンクから確認できる。
Metaはまた、10代向けAIの安全性や年齢への適合性について助言する「AIウェルビーイング専門家協議会」を新設した。自殺・自傷行為、青少年、ボディイメージに関する既存の専門家に加え、責任あるAIやAI倫理の専門家も参加し、Metaのポリシーやプロダクトについて継続的に助言する。
Metaは今後、保護者や専門家からのフィードバックを踏まえ、インサイト機能をさらに改善していくとしている。子どものAI利用を細かく監視するのではなく、どのようなテーマについてAIを使っているのかを保護者が把握し、必要に応じて子どもと話し合えるようにすることが、今回の機能の位置付けとなる。
関連リンク
(画像提供：Meta)
