ELYZA、GPT-4を凌ぐ性能の日本語LLM「Llama-3-ELYZA-JP-70B」を開発

    Llama-3-ELYZA-JP-70B
    画像:PR TIMES(https://prtimes.jp/main/html/rd/p/000000046.000047565.html)より
    目次

    AIスタートアップELYZAが国産LLMで快挙 グローバルモデルに匹敵する性能を実現

    AIスタートアップ企業のELYZA(イライザ)が、日本語に特化した大規模言語モデル(LLM)の最新版を発表した。700億パラメータの「Llama-3-ELYZA-JP-70B」と80億パラメータの「Llama-3-ELYZA-JP-8B」の2モデルを開発し、特に70Bモデルではグローバルトップクラスの性能を達成している。

    ELYZAの曽根岡侑也CEOは、「高性能モデルでは、GPT-4と比べても、全体的に同等の水準であり、推論能力ではELYZAのほうが優れている」と自信を示した。国産モデルがここまで進化したことは、日本のAI業界にとって大きな一歩となるだろう。

    東大発AIスタートアップの挑戦 独自の開発アプローチで急成長

    ELYZAは2018年9月に東京大学松尾研究室からスピンアウトして設立された。創業以来、LLMの研究開発と社会実装を軸に事業を展開してきた。

    同社の開発アプローチは、グローバルなオープンモデルをベースに独自のデータセットで日本語に特化したポストトレーニングを行うというものだ。曽根岡CEOは、「米国からスタンフォード大学の学生を連れてきて、日本語を教え込み、日本語を話せて賢い学生を作り上げるようなもの」と例えて説明している。

    大手企業との協業で社会実装を推進

    ELYZAは自社開発のLLMだけでなく、OpenAIやGoogle、Anthropicなどのグローバルモデルも活用し、社会への価値創出に取り組んでいる。JR西日本、明治安田生命、東京海上日動などの大手企業との協業実績もあり、AIの実用化を着実に進めている。

    KDDIグループ入りで開発力が大幅アップ 計算リソース確保が追い風に

    2024年4月、ELYZAはKDDIの連結子会社となった。KDDIが43.4%、KDDI Digital Divergenceが10.0%の株式を取得し、KDDIグループの一員となったことで、開発環境が大きく改善された。

    曽根岡CEOは、「KDDIグループに入ったことで、計算機リソースを優先的に確保でき、大胆な開発投資ができるようになった」と語る。AIスタートアップにとって大きな壁となる計算リソースの確保が容易になり、LLM開発の加速が期待できる。

    コンタクトセンター特化型LLMなど領域特化モデルの開発にも期待

    KDDIはコンタクトセンターでのAI活用を推進しており、ELYZAとのシナジー効果も期待される。コンタクトセンター特化型LLMなど、領域特化型モデルの開発が加速する可能性がある。

    「Llama-3-ELYZA-JP-70B」の驚異的な性能 ベンチマークでGPT-4を上回る

    今回開発された「Llama-3-ELYZA-JP-70B」は、ベンチマークテストでGPT-4を上回る結果を示した。ELYZA Tasks 100では4.070、Japanese MT-Benchでは平均9.075のスコアを達成し、いずれもGPT-4の数値を上回っている。

    8Bモデルも大幅な進化 PCでも利用可能な軽量高性能モデル

    80億パラメータの軽量モデル「Llama-3-ELYZA-JP-8B」も、従来の700億パラメータモデルを上回る性能を示した。ELYZA Tasks 100で3.655、Japanese MT-Benchで平均7.775のスコアを達成し、GPT-3.5 turboと同等水準の実力を見せている。

    日本のLLM開発競争が激化 ELYZAが示す新たな可能性

    日本国内でもNECやNTT、ソフトバンクなどの大手企業がLLM開発に取り組んでいる。また、国立情報学研究所や東京大学、さらには他のAIスタートアップも研究を進めている。

    曽根岡CEOは、「2023年末時点では、ChatGPTなどのグローバルモデルは3歩ぐらい先を行っていた」と振り返りつつ、「今回発表した日本語LLMは、高い性能を発揮することができている」と自信を見せている。

    グローバルトップに追いつく 諦めない姿勢が実を結ぶ

    ELYZAは2023年からChatGPTに対抗するLLM開発を進めてきた。曽根岡CEOは、「到底たどり着けないと考えていたグローバルトップラインのGPT-4を超える性能を実現した」と述べ、諦めずに挑戦し続けることの重要性を強調している。

    今後の展開 特化型LLMの開発に注力

    ELYZAは今後、汎用LLMをベースに業界特化、企業特化、タスク特化のLLM開発を進める方針だ。第1弾として、日本の知識に詳しいLLMの開発に取り組んでおり、経済産業省のGENIACプロジェクトにも採択されている。

    法律や行政など、日本特有の知識や表現に特化したLLMの開発は、日本企業のAI活用を大きく促進する可能性がある。ELYZAの挑戦は、日本のAI産業の未来を切り開く重要な一歩となるかもしれない。

    よかったらシェアしてね!
    • URLをコピーしました!
    • URLをコピーしました!

    この記事を書いた人

    THEIT公式アカウント。日々の主要なITニュースを最速でお届けします。

    目次