- トップ
- 企業・教材・サービス
- 国語研とワークスの産学共同研究「日本語単語分散表現」モデルを無償公開
2019年3月25日
国語研とワークスの産学共同研究「日本語単語分散表現」モデルを無償公開
ワークスアプリケーションズは22日、国立国語研究所と産学共同研究を実施し、国語研が有する日本語データベース「国語研日本語ウェブコーパス(NWJC)」と、ワークス徳島人工知能NLP研究所の形態素解析器「Sudachi」を使って学習した、実用的な単語分散表現モデルを開発したことを明らかにした。
「単語の分散表現」(単語のベクトル表現ともいう)とは、単語の周辺文脈から単語間の関連性や類似性を機械学習して高次元のベクトルとして表現(数値化)したもの。深層学習などの技術においてコンピュータが日本語を意味解析・意味理解する上で欠かせない自然言語処理の基礎技術となる。日本語の単語分散表現モデルは、「単語の区切り」が明示されないといった特殊性や、学習データの不足などが課題となり、実用化にいたる研究は英語などに比較して遅れをとっていると言われる。
今回の共同研究では、「Sudachi」を使用して複数の粒度で分割したコーパスを同時に学習することで、人名や地名、ブランド名、企業名、サービス名などの固有表現の収録数を大幅に拡大。加えて、語の内部構造を考慮して類似度や相関度を学習することで実用性を向上させた。
このたび、第1弾として「複数粒度の分割結果に基づく日本語単語分散表現」モデルを商用利用可能なオープンデータとして無償公開した。同社では、同単語分散表現モデルを活用することで、コンピュータによる日本語の処理能力を向上させ、企業内に眠るさまざまなデータの解析、活用を促進させることを目指している。また、言語資源として広く公開することで、研究機関や技術者が手軽に高度な言語処理を実現できるようになり、自然言語処理研究の推進に貢献できることを期待している。
関連URL
最新ニュース
- ラネクシー、三木市教育委員会がPC操作ログ管理サービス「MylogStar Cloud」を採用(2025年2月7日)
- 小中高生の実態調査「習い事」「将来の職業」「自分自身や将来に対する意識」=学研教育総合研究所調べ=(2025年2月7日)
- 世界のIT卒業者は5%増、各国でIT人材供給力が高まる一方で日本は微増 増加率はG7で最下位 =ヒューマン調べ=(2025年2月7日)
- 子どもが1日1時間以上家庭で学習する割合、デスク利用者はリビングテーブル利用者の約2倍 =イトーキ調べ=(2025年2月7日)
- 資格試験合格者の7割以上が”ご褒美”を実践 =まなびデータ調べ=(2025年2月7日)
- アシアル、高崎高校の「Monaca Education」導入事例を公開(2025年2月7日)
- 名古屋大学、日本語で初のAI同時双方向対話モデル「J-Moshi」を開発(2025年2月7日)
- アミューズメントメディア総合学院、2026年度生向け新パンフレットを配布(2025年2月7日)
- ヒューマンアカデミー、ジュニアロボット教室でRISEの「創ロボ検定」導入(2025年2月7日)
- すららネット、「すらら情報!」リリース直前!明日からできる「情報Ⅰ」授業活用とは オンラインセミナー 27日開催(2025年2月7日)