AIデータ、「DeepFakeゼロ社会」を目指す包括的な取り組みの検討を開始

AIデータは6日、これまで警察・自治体・企業に対するデジタルフォレンジック支援に取り組んできた経験を踏まえ、国立情報学研究所（NII）が研究開発を進める先端AI技術「SYNTHETIQ VISION」を活用したDeepFake対策モデルについて、社会実装を見据えた検討・検証を本格的に開始したと発表した。

SYNTHETIQ VISIONは、NIIが研究開発を進めているフェイク映像検出AIで、同社では、SYNTHETIQ VISIONを技術的な中核の1つとして位置づけ、①法執行・教育・民間の各現場で、どの程度フェイク映像の検出・抑止に寄与し得るか、②既存の調査フローや監査プロセスと、どのような役割分担・インターフェースで連携させるべきか、③証拠性・説明責任・プライバシー保護を踏まえたログ管理・データ運用の枠組みをどう設計すべきか―といった観点から、「社会インフラとして機能し得るモデル」の要件整理と実証を進めていく。

社会実装を支えるための提供方式について、同社は現時点では、「SaaS型」（映像をアップロードし、フェイクの疑いに関するスコア・ログを即時に確認できる仕組み）、「API連携」（既存のプラットフォーム/業務システムと統合するためのインターフェース）、「OEM提供」（他社ブランド・サービス内にフェイク検出機能を組み込むモデル）、「セキュア導入」（閉域網環境を前提とした政府・金融・自治体向け構成の可能性評価）、といった形態を“候補”として検討・評価している（いずれも、提供開始を約束するものではなく、実証段階での検討対象）。

今回の取り組みは、同社とNIIの技術連携を起点としつつ、将来的には、警察・検察などの法執行機関、教育委員会・学校・青少年支援機関、金融機関・報道機関・事業会社、さらには関係省庁・地方自治体など、多様なステークホルダーとの意見交換や実証を通じて推進していく考え。

包括連携モデルの概要

①法執行機関（警察・検察・サイバー犯罪対策部門）
・少年課における児童フェイクポルノなどの1次スクリーニング支援
・SNS投稿映像の真偽確認と、削除要請のための技術的エビデンス提供のあり方の検討
・サイバー詐欺対策における映像証拠のAI鑑定支援の可能性評価
②教育現場・自治体（学校・教育委員会・青少年支援など）
・生徒の顔が合成された「いじめ動画」などに対する検知支援と、通報・相談対応フローへの組み込み可能性の検証
・教材、コンテンツに含まれるディープフェイク表現のチェック運用モデルの検討
・SNS教育やフェイクメディアリテラシー研修における、実例提示・演習ツールとしての活用可能性の評価
③企業・民間セクター（金融・メディア・EC・人材・PRなど）
・eKYCにおける本人確認映像の検証強化（既存の顔認証システムとの併用モデルの検証）
・ブランド映像やCM素材へのフェイク混入リスクに対するチェックプロセスの検討
・インフルエンサーマーケティングやUGC（ユーザー生成コンテンツ）の透明性確保に向けた運用モデルの検討

詳細