Meta、子どもがサポートを必要としていることを保護者に知らせる機能を日本でも導入

Metaは13日（米国時間）、Instagramのペアレンタルコントロールを利用している保護者に向けて、10代の子どもが短期間に自殺や自傷行為に関連する用語を繰り返し検索すると通知を送る機能を日本でも提供開始したことを発表した。

子どもをサポートするために保護者が必要とする情報を届けることを目的としており、繊細な会話をするにあたって役立つ専門家のリソースも併せて提供する。

本機能は今年2月に米国を含む一部の国で導入されており、年内には世界中の国と地域に拡大すると発表していたもの。

自殺や自傷行為は非常に繊細なトピックであり、このような通知を受け取ることで動揺する保護者がいる可能性も認識している。10代の利用者の大多数は、Instagramで自殺や自傷行為についてのコンテンツを検索することはない。

もし検索したとしても、規定に従って検索をブロックし、支援につながるリソースや相談窓口を案内する仕組みになっている。

今回、新たに導入する通知機能は、子どもがこの種類のコンテンツを繰り返し検索しようとしている状況を保護者が把握できるようにし、子どもをサポートするために必要なリソースへつなげることを目的としている。

なお、ペアレンタルコントロールは子どもが安全かつ適切にアプリを利用できるよう、保護者と子どもが互いのアカウントを連携して設定するもので、利用時間やプライバシーなどの設定をより細かく管理することができる。ペアレンタルコントロールの詳細や設定方法はファミリーセンターを参照。

通知の仕組み
Instagramのペアレンタルコントロールを利用している保護者と子どもには、検索結果に基づく通知が送られることについてお知らせが届く。通知の対象となる行為には、自殺や自傷行為を助長するフレーズ、子どもが自分を傷つけたい意図を示唆するフレーズ、「自殺」「自傷」のような単語などの検索が含まれる。

保護者への通知は、設定されている連絡先情報に応じてメール、SMS、またはWhatsAppで送信されるほか、アプリ内通知としても届く。通知をタップすると全画面のメッセージが開き、子どもが短期間に自殺や自傷行為に関連するキーワードを繰り返しInstagramで検索しようとしたことが説明される。また、子どもとの間で起こり得る繊細な会話に向き合う際に役立つよう設計された、専門家のリソースも併せて確認することができる。

このような機能を導入した目的は、子どもがサポートを必要としている兆候があると検索内容が示唆している場合、保護者が介入できるよう後押しすること。一方で、通知が過剰になると結果として有用性が下がる可能性があるため、不必要に送りすぎることも避けたいと考えている。

適切なバランスを取るため、Instagramの検索行動を分析し、自殺・自傷行為に関するアドバイザリーグループの専門家にも相談した。短期間に複数回の検索が必要となる閾値を設定しつつ、慎重さを優先しているため、実際には深刻な懸念がない場合にも保護者へ通知が届く可能性があるが、これが適切な出発点であると判断した。専門家からも同様の見解が示されている。今後もモニタリングを続け、フィードバックに耳を傾けながら、適切な体験を提供できるよう取り組みを続けていくとしている。

関連URL

ペアレンタルコントロール

Meta