Google משיקה את EmbeddingGemma 2 לחיפוש רב-מודאלי

חברת Google DeepMind הכריזה על שחרורו של EmbeddingGemma 2, מודל וקטורי (Embeddings) רב-מודאלי פתוח וקל משקל. המודל החדש מאפשר להמיר טקסט, קטעי קוד, תמונות, הקלטות אודיו וסרטוני וידאו למרחב וקטורי משותף, ומיועד להרצה ישירה ומקומית על גבי חומרת קצה כמו סמארטפונים ומחשבים אישיים ללא צורך בחיבור לרשת.

מה זה

מודל EmbeddingGemma 2 מבוסס על ארכיטקטורת Gemma 4 ומכיל כ-740 מיליון פרמטרים בגרסתו המלאה. המודל בנוי במבנה מודולרי: ליבת טקסט בת 270 מיליון פרמטרים, מקודד תמונה של 170 מיליון פרמטרים ומקודד אודיו של 300 מיליון פרמטרים. לפי נתוני Google, בבדיקות על מכשיר Google Pixel 11 Pro עם כימות (Quantization), ליבת הטקסט דרשה כ-191 מגה-בייט של זיכרון RAM פעיל, בעוד שהמודל הרב-מודאלי המלא דרש כ-567 מגה-בייט.

המודל כולל חלון הקשר מורחב של 8,000 טוקנים - פי ארבעה מהגרסה הקודמת. חלון זה מאפשר לו לעבד עד 5.5 דקות של אודיו, 29 תמונות או 58 פריימים של וידאו בפעולה אחת. בנוסף, באמצעות שיטת Matryoshka Representation Learning (MRL), מפתחים יכולים לקצץ את הווקטורים מ-768 ממדים ל-512, 256 או 128 ממדים, וכך לחסוך עד פי שישה בנפח האחסון של מסדי נתונים וקטוריים מקומיים.

למי זה מתאים

הכלי מיועד למפתחי תוכנה, מהנדסי בינה מלאכותית וצוותי פיתוח אפליקציות המעוניינים לבנות יכולות חיפוש חכם, סיווג וצינורות RAG (שליפת מידע משופרת) הפועלים בצורה מאובטחת על גבי המכשיר עצמו. הוא מתאים במיוחד למערכות הדורשות פרטיות מלאה של נתוני משתמשים, אפליקציות שצריכות לפעול במצב לא מקוון (Offline), וכן למפתחי סוכני קוד שכן המודל הציג שיפור משמעותי במבחן MTEB Code עם ציון של 78.68 לעומת 68.76 בגרסה הראשונה.

איך מתחילים

1. הורדת משקלי המודל: ניתן להוריד את המשקלים דרך פלטפורמות Hugging Face או Google Kaggle תחת רישיון Apache 2.0.
2. בחירת סביבת הפיתוח: ניתן להשתמש בספריות תשתית כגון transformers, sentence-transformers, llama.cpp, vLLM, Ollama או LMStudio.
3. שילוב באפליקציה: לפריסה על מכשירי קצה מומלץ להשתמש ב-Google AI Edge MediaPipe או ב-LiteRT, ועבור הרצה בדפדפן ניתן להשתמש ב-transformers.js או WebGPU.
4. ניהול וקטורים וכוונון: לאחסון מקומי של הווקטורים ניתן לשלב את מסד הנתונים Qdrant, ולביצוע Fine-tuning מותאם אישית ניתן לעבוד עם הכלים של Unsloth.

מחיר וזמינות בישראל

EmbeddingGemma 2 שוחרר כמודל פתוח ברישיון Apache 2.0 המתיר שימוש מסחרי, וניתן להורדה ולשימוש מיידי ללא עלות. המשקלים זמינים כעת בישראל ובעולם דרך Hugging Face ו-Kaggle, ובהמשך יהיו זמינים גם ב-Model Garden של Gemini Enterprise Agent Platform. המודל שומר על יכולות טקסט רב-לשוניות, אך היקף הביצועים הספציפי שלו בעברית לא פורט בהרחבה בהודעת החברה.

מה זה אומר לכם

עבור חברות ומפתחים בישראל, מודלים מסוג זה מאפשרים להטמיע יכולות חיפוש ו-RAG מתקדמות ישירות באפליקציות מובייל ותוכנות מקומיות בלי לשלם על קריאות API חיצוניות ובלי להוציא נתונים רגישים לשרתי ענן. אם אתם מפתחים מוצרים בתחומי המדיה, ניהול קבצים או כלי תכנות, כדאי לבחון את שילוב המודל יחד עם מודלי יצירה כמו Gemma 4 לצורך חיפוש והבנת קובצי וידאו, אודיו וטקסט בזמן אמת ובשיהוי נמוך במיוחד.

שאלות נפוצות

מהם זמני התגובה של המודל?

לפי דיווח ב-The Decoder, הרצת שאילתה בדפדפן באמצעות WebGPU אורכת בין 20 ל-70 מילישניות בלבד.

האם חייבים להשתמש במודל המלא אם עובדים רק עם טקסט?

לא. המודל מודולרי, ולמשימות טקסט בלבד ניתן להשתמש בגרסת הבסיס בת 270 מיליון פרמטרים, מה שחוסך מקום ומשאבי זיכרון RAM.