EmbeddingGemma 2は、真にプライベートなマルチモーダル検索の実現に向けた、実用性と開発者視点を重視した一歩です。パラメータ数は7.4億で、Apache 2.0ライセンスのもと公開されています。オンデバイス推論を明確な目的として設計されており、コンパクトな中核モデルにオプションのモジュール型エンコーダーを組み合わせることで、テキストのみからフルマルチモーダルまで、用途に応じて構成を調整できます。寛容なライセンスと実用的なモデルサイズの組み合わせにより、ユーザーのメディアをクラウドサービスに送信できない消費者向けアプリ、企業向けエージェント、ローカルファーストのRAGシステムでも、埋め込みを活用した機能を導入しやすくなります。
技術面では、EmbeddingGemma 2は相互に関連する2つの効率性が特筆されます。1つ目はモジュール型アーキテクチャです。テキストのみなら約2.7億パラメータで運用でき、必要に応じて画像や音声のエンコーダーを追加できます。2つ目はMatryoshka Representation Learning(MRL)で、ベクトルの次元数を768から512、256、128へ切り詰められます。ローカルのベクトルデータベースでは、ストレージを最大6分の1に削減できます。製品開発チームは、低次元用と高次元用で別々のインデックス処理パイプラインを用意しなくても、デバイスのストレージやメモリへの負荷を抑えられます。
品質面では、テキスト、コード、画像、音声の各ベンチマークで、モデル規模を上回る性能を発揮します。Googleによると、コード埋め込みでは大きく改善し、画像や音声のタスクではより大型のモデルに匹敵する性能を達成しています。そのため、コーディングエージェントの検索や、複数メディアを横断する統合検索に特に適しています。大規模なGeminiモデルとトークナイザーや音声エンコーダーを共有しているため、生成モデルが推論を担い、埋め込みが検索を担うRAGパイプラインにもスムーズに組み込めます。
実務での価値は明快です。ボイスメモを対象にセマンティック検索を実行したり、短いテキストクエリで動画内の該当シーンを見つけたり、コードベースをローカルでインデックス化したりできます。オンデバイス運用の要件も現実的で、量子化した重みは一般的なハイエンド端末のRAM数百MBに収まります。さらに、最大8Kトークンのコンテキストに対応するため、頻繁に切り詰めることなく、長めの音声クリップや複数モダリティが交互に現れる入力も同じ埋め込みパイプラインで処理できます。こうしたシンプルさは、プライバシー重視の機能開発にかかるエンジニアリング負荷を軽減します。


