Mistral מציגה את Mistral Large 4: מודל ענק בקוד פתוח
חברת Mistral הצרפתית השיקה בגרסת תצוגה מקדימה את Mistral Large 4, מודל מולטימודלי עם כטריליון פרמטרים שמשוחרר כמודל משקולות פתוחות.
בקצרה
- מודל מולטימודלי חדש עם כטריליון פרמטרים וחלון הקשר של מיליון טוקנים.
- התמקדות מיוחדת באבטחת מידע, סייבר, תכנות ומשימות תעשייתיות.
- זמין כעת ב-API של Mistral Studio, ומשקולות המודל ישוחררו בהמשך החודש.
מה קרה
חברת הבינה המלאכותית הצרפתית Mistral AI הכריזה על Mistral Large 4 (או ML4), המכונה גם 'Le Chonk'. מדובר במודל מולטימודלי רחב היקף בעל כטריליון פרמטרים, אשר אומן במרכזי נתונים עצמאיים של החברה באירופה. המודל זמין כעת בגרסת תצוגה מקדימה (Preview) דרך ה-API של החברה, כאשר משקולות המודל צפויות להשתחרר לציבור לקראת סוף חודש אוקטובר.
הפרטים
לפי הודעת Mistral, המודל מבוסס על ארכיטקטורת Mixture of Experts עם כ-1.05 טריליון פרמטרים בסך הכל (מתוכם 49 מיליארד פעילים בכל רגע נתון) ומקודד ראייה של 1.6 מיליארד פרמטרים. המודל תומך בחלון הקשר של עד מיליון טוקנים, ואומן מאפס על גבי כ-4,000 מעבדים גרפיים של Nvidia. נתוני האימון מכסים יותר מ-160 שפות שונות.
אחד ממוקדי הפיתוח המרכזיים של המודל הוא תחום הגנת הסייבר. לפי נתוני החברה, ML4 מסוגל לשחזר פרצות אבטחה בקוד פתוח ולתקן אותן בהצלחה של 82%, משימה שמודלים סגורים רבים נמנעים מלבצע בשל מגבלות סינון פנימיות. במבחני מדד האינטליגנציה של Artificial Analysis קיבל המודל 38 נקודות, זינוק משמעותי מגרסאות קודמות של החברה, אף שהוא עדיין מפגר אחרי המודלים המובילים הסגורים בארצות הברית.
במהלך תקופת התצוגה המקדימה ב-Mistral Studio, החברה גובה מחיר של 0.68 דולר למיליון טוקנים של קלט ו-2.09 דולר למיליון טוקנים של פלט (עם עלות של 0.07 דולר לקלט שמור בזיכרון מטמון).
מה זה אומר לכם
עבור חברות, מפתחים וצוותי אבטחה בישראל, ההשקה של מודל פתוח בסדר גודל כזה מציעה חלופה עצמאית למודלים הסגורים של החברות האמריקאיות. האפשרות להריץ מודל משקולות פתוחות בתשתיות פרטיות או בענן מקומי מאפשרת לארגונים לשמור על פרטיות המידע ולהימנע מתלות בספקיות שעלולות לחסום גישה או לסנן פקודות לגיטימיות של בדיקות חדירות ותחקור קוד.
המודל זמין כבר עכשיו לגישה דרך ממשק ה-API עבור מפתחים בישראל. עם זאת, רמת התמיכה והאיכות שלו בעברית ביחס למודלים מובילים אחרים טרם נבדקה במלואה במבחנים רשמיים, וכדאי לבחון אותו עצמאית במשימות שלכם לפני הטמעה רחבה.
מה עוד לא ידוע
פרטי הרישוי המדויקים שיוצמדו למשקולות המודל עם שחרורן, כמו גם פרטים טכניים מלאים על שיטות האימון המאוחר, יפורסמו רק לקראת סוף החודש. בנוסף, Mistral טרם פירטה כיצד המודל מבדיל בצורה מדויקת בין מחקר חולשות אבטחה לגיטימי לבין הכנת מתקפות סייבר זדוניות.
הכתבה נכתבה בידי סוכן AI על בסיס המקורות שלמעלה, עברה בדיקת עובדות אוטומטית מול המקורות ובדיקה של עורך המשנה (סוכן AI). העורך הראשי של האתר מקבל דיווח על כל פרסום. איך זה עובד. מצאתם טעות? ספרו לנו · מדיניות התוכן וה-AI שלנו
העמוד עזר לך?
תודה! זה עוזר לנו לשפר את האתר.
מצאתם טעות או מידע שהתיישן? ספרו לנו
עוד מדריכים
לכל המדריכיםתגובות
עדיין אין תגובות למאמר זה. היו הראשונים להגיב!
הוסיפו תגובה