Open Source · Actualité

EmbeddingGemma 2 : un petit modèle de recherche multimodale sous Apache 2.0

Google publie un modèle d'embeddings de 740 millions de paramètres qui range texte, images, vidéo et audio dans le même espace de recherche. Il se charge par morceaux, tourne sur un ordinateur portable et passe sous licence Apache 2.0. Ce qu'il permet, ce qu'il faut vérifier avant de l'adopter.

Par Kayzen AI · · 3 min de lecture

Visuel officiel publié par Google
Image : Google

Un modèle d'embeddings transforme un contenu en une liste de nombres, de sorte que deux contenus proches par le sens aient des listes proches. C'est la brique qui permet à un assistant de retrouver le bon passage dans vos documents. Le 6 octobre 2026, Google DeepMind a publié EmbeddingGemma 2, qui étend ce principe au-delà du texte.

Ce qui change

La première version ne traitait que le texte. Celle-ci place dans un même espace le texte, le code, les images, la vidéo et l'audio. Une question écrite peut donc retrouver une photo, un extrait sonore ou une page scannée, sans passer par une transcription préalable.

Autre changement, la licence : le modèle est distribué sous Apache 2.0, qui autorise l'usage commercial.

Taille et matériel

Le modèle complet compte 740 millions de paramètres, mais il se charge par blocs selon la fiche Hugging Face :

  • texte seul : 270 millions ;
  • texte et image : 440 millions ;
  • texte et audio : 570 millions ;
  • tout activé : 740 millions.

Google annonce, sur un Pixel 11 Pro et avec quantification, environ 191 Mo de mémoire vive pour le texte seul et environ 567 Mo pour le modèle complet. Ce sont des chiffres de l'éditeur, sur son propre téléphone.

La fenêtre d'entrée est de 8 192 tokens, toutes modalités confondues. Selon Google, cela représente jusqu'à 29 images, 58 images de vidéo ou environ cinq minutes et demie d'audio. La fiche revendique plus de 100 langues pour le texte.

Le billet cite comme outils compatibles sentence-transformers, llama.cpp, Ollama, LM Studio, vLLM, MLX et transformers.js, ainsi que la base vectorielle Qdrant.

Des vecteurs que l'on peut raccourcir

Le vecteur produit fait 768 dimensions. Il peut être tronqué à 512, 256 ou 128 pour réduire le stockage, jusqu'à six fois. La fiche chiffre la contrepartie : la qualité reste proche jusqu'à 256 dimensions, mais à 128 le score multimodal global (MMEB v2) passe de 59,01 à 45,65. Cette taille est donc à réserver au texte seul.

Les chiffres annoncés

Les comparaisons de la fiche portent sur la version précédente :

  • texte multilingue (MTEB v2) : 61,36 contre 61,15, soit un niveau équivalent ;
  • recherche de code (MTEB Code) : 78,68 contre 68,76.

Le gain sur le texte en français sera donc mince pour qui utilise déjà la première version. L'intérêt est ailleurs : le multimodal, le code et la fenêtre d'entrée, que Google dit quatre fois plus grande.

Les limites

  • La fiche prévient que la qualité varie selon les langues. Rien n'y détaille le français.
  • Le format de calcul float16 est déconseillé : il peut renvoyer des résultats dégradés sans message d'erreur.
  • Chaque requête texte doit porter un préfixe de tâche, faute de quoi la qualité baisse.
  • Le modèle n'a reçu aucun réglage de sécurité après entraînement : le filtrage des contenus reste à la charge de l'intégrateur.
  • La disponibilité dans le Model Garden de Google Cloud est annoncée pour plus tard.

Notre lecture

Pour une petite entreprise, c'est un candidat sérieux quand on veut une recherche interne qui reste sur ses propres machines et qui couvre aussi des photos de chantier, des scans ou des enregistrements. La licence ne pose pas de difficulté et le matériel requis est modeste.

Deux précautions avant de basculer. Changer de modèle d'embeddings impose de recalculer tout l'index existant. Et les scores publiés ne disent rien de vos documents : un essai sur une centaine de vraies questions, en français, vaut mieux que n'importe quel tableau.

Sources

  1. Google — EmbeddingGemma 2 is a best-in-class open model for natively multimodal embeddings — source primaire
  2. Hugging Face — fiche du modèle google/embeddinggemma-2