NETWORK編集部2024.03.22ページタイトルとURLがコピーされました楽天グループは2024年3月21日、日本語に最適化した大規模言語モデル(LLM)を公開した。Chat」の3モデル。Face」リポジトリからダウンロードが可能だ。AI社のオープンモデル「Mistral-7B-v0.1」を基に、インターネット上の日本語・英語のデータを学習することで行われた。パラメータのサイズは70億。事前学習は、楽天が設計した内製のマルチノードGPUクラスターで行われた。条件に従ったフィルタリングと関連情報の付与を行ったデータで事前学習を行っていることが、LLMの性能の高さに寄与しているという。同LLMは日本語に最適化された独自の形態素解析器を用いることにより、従来の形態素解析器と比較して事前学習や推論のテキスト処理をより効率的に行えるようになったとしている。Harness」の基準において、日本語と英語ともに高く評価されたという。日本語は、基盤モデルが平均69.8ポイント、インストラクションチューニング済モデルが平均77.3ポイント、英語は、基盤モデルが平均60.5ポイント、インストラクションチューニング済モデルが平均61.3ポイントのスコアをそれぞれ獲得し、他のオープンな日本語LLMとしても優れているという。楽天は、社内でLLMを開発することで、楽天経済圏をサポートするための最適化されたモデル作成を目指していくとしている。IT部門の「三方よし」の視点で課題解決したいというジヤトコ。RANKING世界の通信事業者33社の成長戦略:通信業界の収益を次のレベルへわずか2名で運用管理を実現!世界最高レベルの放射光施設が採用した仮想ネットワークとは?【通信業界を刷新】世界の通信事業者のDX事例集920MHz帯対応の革新的メッシュネットワーク「DigiMesh」とは?経営者、利用者、IT部門の「三方よし」の視点で課題解決したいというジヤトコ。すると、本サイトのすべての記事を閲覧いただけます。最新記事やイベント・セミナーの情報など、ビジネスに役立つ情報を掲載したメールマガジンをお届けいたします。Reserved.当ウェブサイトはCookieを使用しています。閲覧を続ける場合、プライバシポリシーに同意したことになります。