千葉工大、世界最大の動画キャプションデータセットを共同開発

千葉工業大学人工知能・ソフトウェア技術研究センター（ステアラボ）は12日、産業技術総合研究所（産総研）、新エネルギー・産業技術総合開発機構（NEDO）と共同で、世界最大で、日本語では初となる、動画キャプションデータセット「STAIR Actions キャプションデータセット」を開発したと発表した。

このデータセットは、7万9822万本の動画に付与された39万9233個のキャプション（動画内容を説明する日本語記述）で構成。ディープラーニングの訓練用データとして用いれば、動画を日本語に変換するモデルを構築することができる。

ステアラボ・産総研・NEDOの3者は、2016年から、人の動作のきめ細かい認識の研究に取り組んできた。

ディープラーニングによってきめ細かい動作認識を実現するためには人の動作を収録した動画やその動画を日本語で記述したデータが大量に必要だが、この3者のプロジェクトではディープラーニングによる動作認識モデル構築のための日常シーンをおさめた動作動画10万本からなるデータセット「STAIR Actions」を構築し、昨年7月に公開。

今回、STAIR Actionsに含まれる動画7万9822本の動画に対して日本語で内容を記述した39万9233個のキャプションデータセットを構築し、12日にインターネットで公開した。

人の動作動画キャプションデータセットとしては、マイクロソフト社の26万件を超えて世界最大規模のデータセットとなり、日本語では初の大規模データセットとなるという。

1本の動画あたり平均5つの日本語キャプションで、キャプションは動画の内容を日本語で記述しており、記述は「誰が」「どこで」「何をしている」の3つの要素で構成されている。

関連URL

STAIR Actions キャプションデータセット