OpenAI שחררה מאות הוכחות מתמטיות ועוררה סערה באקדמיה

חברת OpenAI עוררה סערה חסרת תקדים בקהילה המדעית הבינלאומית לאחר שפרסמה בבת אחת מאגר עצום של הוכחות מתמטיות שנוצרו על ידי מודלי בינה מלאכותית. המאגר, שעלה ל-GitHub, כולל יותר מ-700 מאמרים וכמעט 400 תוצאות שונות המתיימרות לפתור שאלות מחקר ובעיות פתוחות בענפים כמו תורת המספרים, גיאומטריה, קומבינטוריקה ופיזיקה מתמטית. המהלך הוביל לביקורת חריפה, וארגון חוקרים אף קרא להחרים שיתופי פעולה עם החברה.

מה קרה

השחרור המאסיבי יצר כאוס מיידי בעולם המתמטיקה. OpenAI העלתה מסמכים רבים שאינם כתובים בסטנדרטים המקובלים באקדמיה, וכדי להתמצא בהם נאלצה החברה לצרף תוכן עניינים ותקצירים באורך של כ-40 עמודים. חוקרים רבים דיווחו כי הטקסטים צפופים, כתובים בצורה מוזרה ולעיתים אף דורשים שימוש בכלי בינה מלאכותית אחרים רק כדי לפענח את הטיעונים הבסיסיים שבהם.

בעיה מרכזית נוספת נוגעת לאימות התוצאות. חלק מההוכחות לווה בקוד בשפת Lean, המאפשרת לאמת מבנה לוגי באמצעות מחשב, אולם OpenAI עצמה ציינה שרק כ-300 תוצאות ראשיות מתוך 719 כתבי היד עברו תהליך פורמליזציה כזה - כ-42 אחוזים בלבד. בנוסף, חוקרים מאוניברסיטת קיימברידג' ומקינגס קולג' בלונדון פרסמו מאמר שהציג לפחות שני פערים בין ההסבר המילולי לבין קוד ה-Lean שהציעה החברה עבור בעיה הנגזרת ממשוואות נאוויה-סטוקס, מה שממחיש את הסיכון שבהסתמכות על תרגום אוטומטי של מודלים.

בתגובה לפרסום, ארגון בשם Association for Human Mathematics (AHM), בראשות זוכה מדליית פילדס טרנס טאו, קרא למתמטיקאים להפסיק לשתף פעולה עם החברה. הארגון טען כי שחרור המוני שכזה הוא מפגן כוח ולא תרומה מדעית, וכי החברה התעלמה מהמלצות מוקדמות של קבוצת ייעוץ מיוחדת (AGMAI) שדרשה לחדול מבדיקת בעיות מתמטיות מתקדמות על מודלים קנייניים.

הרקע

מתמטיקאים התרגלו בעבר לעבודה איטית ומעמיקה, שבה פתרון בעיה פתוחה מלווה בהרצאות, סמינרים ואימות קהילתי מתמשך. תהליך זה מאפשר לפתח רעיונות חדשים ולהכשיר חוקרים צעירים. בחודשים האחרונים OpenAI דיווחה על פריצות דרך מהירות, בהן פתרון של עשרות בעיות מתמטיות בתוך חודש, כולל גישה לבעיית המילניום של נאוויה-סטוקס והצגת תוצאות סביב מודל Astra.

כדי להתמודד עם הביקורת על חוסר שקיפות, הוקמה קבוצת הייעוץ AGMAI בהשתתפות חוקרים מהמכון למחקר מתקדם (IAS). עם זאת, ההמלצות לא מנעו את הצפת השטח במאמרים. מתמטיקאים מובילים, בהם פיטר שולצה והוגו דומיניל-קופן, הביעו תסכול וחרדה מהקצב שבו מודלים סוגרים כיווני מחקר שלמים. חוקרים ציינו כי שעות בודדות של זמן חישוב ייתרו עבודה של שנים, בזמן שנטל הבדיקה והניקוי של התוצאות הוטל כולו על הקהילה האקדמית בהתנדבות.

מה זה אומר לכם

אם אתם חוקרים, סטודנטים או אנשי פיתוח בישראל, האירוע הזה ממחיש שינוי יסודי במעמדה של הבינה המלאכותית במחקר תיאורטי. מצד אחד, היכולת של מודלים לחלץ מבנים מתמטיים מורכבים מתקדמת במהירות ומסוגלת להציע פתרונות לבעיות קשות. מצד שני, התוצרים הגולמיים אינם מהווים תחליף להבנה אנושית ועלולים לכלול שגיאות תרגום וניסוח שדורשות ביקורת עמיתים קפדנית.

בקהילה המדעית המקומית, שבה שיתופי הפעולה וההוראה הם לב העשייה, עולה הצורך להגדיר מחדש את תפקיד החוקר. כפי שהציע טרנס טאו במודל "Math 2.0", המיקוד עובר מעצם פתרון הבעיה ליכולת להסביר אותה, להקנות לה הקשר ולבנות סביבה רעיונות חדשים. כמו כן, חוקרים כמו שולצה מתריעים על השלכות רחבות יותר: אם מודלים כאלה מסוגלים לפרק בעיות תיאורטיות סבוכות, הם עלולים בעתיד לאתר פרצות במערכות הצפנה ותשתיות דיגיטליות, נושא בעל משמעות ישירה לענף הסייבר והטכנולוגיה בישראל.

מה עוד לא ידוע

עדיין לא ברור כמה מתוך מאות התוצאות שפרסמה OpenAI אכן נכונות לחלוטין ויעמדו במבחן הזמן. חלק מהמאמרים כבר הוסרו, ובדיקת יתר המאגר צפויה להימשך שנים בשל היקף החומר והעובדה שרובו לא אומת בקוד מחשב. בנוסף, נותר לראות כיצד תגיב OpenAI לקריאות החרם של החוקרים, והאם מעבדות בינה מלאכותית אחרות יאמצו גישה שיתופית ומבוקרת יותר בעבודה מול האקדמיה.