Meta、ティーンアカウントの保護設定など10代利用者の安全を守る機能を追加

Metaは、ティーンアカウントの保護設定など10代利用者の安全を守る機能の追加や、安全のためのツールの効果を示すデータなどを7月23日（米国時間）に発表した。

Metaでは、若年層の利用者を直接的・間接的な危害から守るために継続して取り組みを行っている。10代の利用者に向けて年齢に応じた適切な体験を提供し、望まないやりとりを防ぐために開発したティーンアカウントや、搾取的なコンテンツを検知し削除する高度な技術まで対策は多岐に渡る。

ティーンアカウントのDMに安全のための新機能を追加し、やりとりしている相手に関してより多くの情報を10代の利用者に提供することで、詐欺の可能性があるかどうかを見分けやすくした。新しいメッセージ画面の上部には、相手のアカウントがInstagramに登録された年月や安全に関する情報、アカウントをブロックするオプションも表示される。

また、ブロックと報告のオプションをDMの画面に追加し、これらのアクションを取りやすくした。コミュニティ規定に違反している可能性のあるアカウントを報告しやすくすることで、Metaが審査し、適切に措置を講じることができる。

これらの新しい機能は、プライベートメッセージについて注意喚起したり、不快に感じたりするものはブロック・報告することを促すといった安全のための既存の通知を補完するもの。10代の利用者にも活用されており、通知を見たあとにアカウントをブロックした回数は今年6月だけで100万回、報告した件数は100万件だった。

さらに、DM上でヌードと疑われる画像を自動的にぼかすヌード保護の機能を全世界で導入して以来、10代を含む99%の利用者がこの機能をオンのまま利用している。今年6月には、DMで受信した画像のうち40%以上がぼかした状態のままで維持され、望まないヌード画像が表示されることを大幅に削減した。この機能はティーンアカウントの利用者には自動的に適用されており、ヌードだと疑われる画像を転送しようとする利用者には通知を表示して再考するように促すこともしている。その結果、5月には通知を見たあと画像のシェアをやめた場合が約45%に上った。

自分の子どもの写真や動画を定期的に投稿する保護者や、タレント活動をしている子どものマネージャーなど、13歳未満の子どもを代表して大人が管理するアカウントについても、安全のための対策を強化。

Instagramを利用するには13歳以上である必要があるが、その年齢に達しない場合でも大人が代わりにアカウントを運営していることを自己紹介に明記していれば、アプリの利用を認めている。もし、13歳未満の子ども自身がアカウントを管理していると分かった場合には、そのアカウントは削除する。

アカウントの多くは健全に利用されているものの、投稿に性的なコメントを残す、性的な画像をDMで要求するなど、Metaのコミュニティ規定に明確に違反する行為で子どもを搾取しようとする人々も残念ながら存在する。そこで同日、そのような行為を防ぐための新たな措置を発表した。

子どもを代表して大人が管理するアカウントにもティーンアカウントの保護機能の一部を適用する。望まないメッセージを受け取る必要がないよう、DMの受信設定を最も厳しいレベルに自動的に適用し、攻撃的なコメントをフィルタリングする非表示ワードの機能も有効にする。安全についての設定を更新したという通知はフィードの上部に表示し、プライバシー設定も見直すように促す。これらの変更は今後数カ月以内に反映される予定。

疑わしい行動を取っている大人、例えば10代の利用者にブロックされたことがある大人が、こうしたアカウントを見つけることを難しくする対策も講じる。お互いのアカウントをおすすめとして表示しないようにすること、検索で見つけづらくすることに加えて、疑わしいと思われる大人が投稿に対して残したコメントも非表示にする。昨年にはサブスクリプションやギフトの受け取りについての利用条件を変更し、子どもに関するコンテンツを主に投稿するアカウントは利用できないようにしており、今回の対策もそれに続くもの。

紹介した新たな安全対策に加えて、規約に違反するアカウントには継続して積極的な措置を取っている。Metaの専門チームは今年初め、13歳未満の子どもを代表して大人が管理するアカウントに性的なコメントを残したり、性的な画像を要求したりしたInstagramアカウントを13万5000件近く削除した。また、それらのアカウントと関連するFacebookおよびInstagramのアカウント50万件も追加で削除した。被害を受けた利用者に対しては、投稿したコンテンツに不適切な行動を取ったアカウントを削除したことを通知し、注意喚起を行うと同時に、ブロックや報告を行うことを促した。

子どもたちを搾取しようとする人々は、特定のプラットフォームだけに限定することなく行動する。Metaでは、Tech CoalitionのLanternプログラムを通じて、そのようなアカウントに関する情報を他のテクノロジー企業とも共有している。