Google Gemma:軽量で高性能なオープンモデルの進化と戦略

GoogleのオープンLLM「Gemma」の1年半にわたる進化を振り返る。2024年2月の初登場から最新のGemma 3まで、その技術革新と強みを解説

Google Gemma:軽量で高性能なオープンモデルの進化と戦略

Googleが2024年2月に発表したGemmaは、オープンソースLLMの世界に新たな風を吹き込んだ。Geminiの技術を基に開発されたこのモデルファミリーは、わずか1年半で急速な進化を遂げ、2025年6月にはGemma 3として第4世代まで到達した。1億ダウンロードを超える成功を収めたGemmaの軌跡と、その技術的な強みを振り返る。

Gemmaという名前は、ラテン語で「宝石」を意味する言葉に由来する1。この名前は、同社の主力モデルGeminiとの関連性を示しながら、より小規模で扱いやすい「宝石」のような存在であることを表現している。初代Gemmaの登場から最新のGemma 3まで、各世代で着実に性能と機能を向上させ、オープンソースコミュニティに大きな影響を与えてきた。

Gemmaシリーズの進化の軌跡

初代Gemma(2024年2月)

2024年2月28日、GoogleはGemmaを初めて世界に公開した1。Google DeepMindとGoogle全体のチームが協力して開発したこのモデルは、2つのサイズで提供された:7Bパラメータモデル(GPU/TPU向け)と2Bパラメータモデル(CPU/デバイス向け)。それぞれにベースモデルと指示調整済みモデルの2つのバリアントが用意された。

初代Gemmaの最大の特徴は、その軽量性にあった。当時主流だった大規模モデルと比較して、コンシューマー向けハードウェアでも動作可能なサイズでありながら、優れた性能を発揮した。

Gemma 2(2024年6月)

初代リリースからわずか4ヶ月後の2024年6月、GoogleはGemma 2を発表した2。この第2世代では、モデルサイズのラインナップが大幅に拡充された:2B、9B、27Bパラメータの3つのサイズが提供され、特に27Bモデルは、Llama 3 70Bと同等の性能を半分以下のサイズで実現するという画期的な成果を達成した。

Gemma 3n Preview(2025年5月)

2025年5月22日、GoogleはGemma 3nのプレビュー版を発表した3。これは、新しいアーキテクチャを採用した初のオープンモデルで、特にモバイルデバイスでの動作に最適化されていた。Gemma 3 4Bと比較して、モバイルでの応答速度が約1.5倍高速化し、品質も大幅に向上した。

Gemma 3(2025年6月)

そして2025年6月25日、Googleは最新のGemma 3を発表した4。Gemini 2.0の技術を基に構築されたこの第4世代は、これまでで最も高性能で汎用性の高いモデルとなった。

Gemmaシリーズのスペック比較

バージョンリリース日パラメータサイズコンテキスト長主な特徴
Gemma 12024年2月2B, 7B8K tokens軽量・高効率、基本的な言語処理
Gemma 22024年6月2B, 9B, 27B8K tokens性能向上、Llama 3 70B相当の性能を27Bで実現
Gemma 3n2025年5月2B, 4B32K tokensモバイル最適化、ネスト構造アーキテクチャ
Gemma 32025年6月1B, 4B, 12B, 27B128K tokensマルチモーダル対応、140言語サポート

Gemma 3の技術的な強み

1. 革新的なアーキテクチャ

Gemma 3は、いくつかの重要な技術革新を採用している5。Grouped-Query Attention(GQA)による効率化、QK-normalizationによる学習の安定性向上、そしてGemini 2.0のSentencePieceトークナイザー(26万2千語彙)の採用により、多言語対応とコード処理能力が大幅に向上した。

2. マルチモーダル機能

Gemma 3の4B、12B、27Bモデルは、テキストだけでなく画像入力にも対応している6。凍結されたSigLIPエンコーダーを使用して画像を処理し、896×896解像度の画像を効率的に扱うことができる。PaliGemma 2と比較して、同じ解像度で約10倍の転送効率を実現している。

3. 長文脈処理能力

128Kトークンという長大なコンテキストウィンドウを持つGemma 3は、複雑な文書処理や長い会話の維持が可能だ4。新しいインターリーブ型のローカル/グローバルアテンション機構により、KVキャッシュのメモリボトルネックを効果的に緩和している。

4. 多言語対応

Gemma 3は、140以上の言語で事前学習されており、35以上の言語で即座に利用可能だ6。多言語データの比率を増やし、言語間の不均衡を管理する高度なサンプリング戦略を採用することで、グローバルなアプリケーション開発を強力にサポートする。

Gemmaのエコシステムと派生モデル

Googleは、基本的なGemmaモデルに加えて、特定の用途に特化した派生モデルも開発している:

  • CodeGemma: コード生成に特化
  • RecurrentGemma: 効率的な推論のためのRNNベースモデル
  • PaliGemma: 視覚言語理解モデル(VLM)

これらのモデルは、Hugging Face、Kaggle、Google Cloud Vertex AIなど、様々なプラットフォームで利用可能で、JAX、PyTorch、TensorFlowなどの主要なフレームワークと統合されている。

性能ベンチマークと実世界での応用

ベンチマーク結果

Gemma 3は、複数の評価で優れた結果を示している6。人間による評価では、Llama-405B、DeepSeek-V3、o3-miniなどの大規模モデルを上回る性能を示した。特に注目すべきは、単一のGPUまたはTPUホストで動作可能でありながら、これらの巨大モデルに匹敵する性能を発揮することだ。

エッジデバイスでの活用

Gemma 3の各モデルは、NVIDIA Jetsonファミリーの組み込みコンピューティングボードにデプロイ可能だ6。1Bと4BモデルはJetson Nanoのような小型デバイスでも動作し、27BモデルはJetson AGX Orinで高負荷アプリケーションに対応できる。

Gemmaが示すオープンAIの未来

Gemmaシリーズの成功は、オープンソースAIモデルの重要性を改めて示している。Googleは、最先端の研究成果を基にした高性能モデルを、研究者や開発者が自由に利用できる形で提供することで、AI技術の民主化に貢献している。

特にGemma 3は、その効率性、多様性、アクセシビリティにより、様々な規模の組織がAI技術を活用できる道を開いた。単一のGPUで動作可能でありながら、エンタープライズレベルのタスクをこなせる性能は、多くの開発者にとって魅力的な選択肢となっている。

140言語対応、128Kトークンのコンテキスト、マルチモーダル機能、そして単一GPU/TPUでの動作という特徴は、グローバルなAIアプリケーション開発の新たな可能性を開いている。Googleのオープンソース戦略とGemmaの継続的な進化は、AI技術の民主化と革新を加速させる重要な推進力となっていくだろう。

Sources

  1. Gemma: Google introduces new state-of-the-art open models - Google公式ブログ(初代Gemma発表)
  2. Google launches Gemma 2, its next generation of open models - Google公式ブログ(Gemma 2発表)
  3. Announcing Gemma 3n preview: powerful, efficient, mobile-first AI - Google Developers Blog(Gemma 3n発表)
  4. Gemma 3: Google’s new open model based on Gemini 2.0 - Google公式ブログ(Gemma 3発表)
  5. Gemma 3 Technical Deep Dive - Architecture, Performance, and Implications - 技術詳細解説
  6. Welcome Gemma 3: Google’s all new multimodal, multilingual, long context open LLM - Hugging Face公式ブログ

最新のAIニュースを毎日お届けしています。

RSSで購読する 更新をいち早くチェックできます。

他のキーワードで探す →