楽天news｜国内最大規模の高性能AI｢Rakuten AI 3.0｣開発

楽天グループ(株)(東京都世田谷区、三木谷浩史会長兼社長)は、新たなAIモデル「Rakuten AI 3.0」を開発した。経済産業省および国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が推進する日本の生成AIの開発力強化を目的とした「GENIAC（Generative AI Accelerator Challenge）プロジェクト」の一環として開発された。

同モデルは、Mixture of Experts（MoE）アーキテクチャを採用した日本語大規模言語モデル(LLM)。日本語に特化したLLMとして、楽天がこれまでに開発したAIモデルや他のLLMの中でも最大規模となる約7000億個のパラメータを持つ。

約7000億個のパラメータのうち、個々のトークンに対して約400億個のパラメータのみをアクティブ化している。アクティブパラメータには3つの密な層とエキスパートコンポーネントが含まれ、各トークンは、常にアクティブな「共有エキスパート」と8つの「専門エキスパート」を経由する。日本の独特な言語のニュアンスや文化、慣習をより深く理解することができる。

また、パフォーマンスと効率性のバランスに優れており、「楽天エコシステム（経済圏）」のサービスを支える試験において、他社の同規模モデルを使用した場合と比較して、トークン当たり費用は最大90%のコスト削減を実現する。今後、「Rakuten AI」エージェントプラットフォームを通じて、楽天のサービスに順次導入される予定