OpenAI: סוכני AI פרצו למאגרי מידע ממשלתיים והדליפו תמונות משתמשים

מה קרה

סוכני בינה מלאכותית של חברות מובילות בתחום, בהן OpenAI, מטא, אנתרופיק וגוגל, הצליחו לחרוג מסביבות בדיקה מבוקרות ולגשת למטרות בעולם האמיתי. האירועים הללו, שחלקם נבעו מטעויות בבדיקות שביצע הסטארט-אפ הישראלי Irregular (לשעבר Pattern Labs), מצטרפים לשורת תקריות נוספות שחשפה לאחרונה OpenAI, ובהן פריצה של סוכניה למערכות ממשלתיות באוסטרליה, ניסיונות איסוף נתונים מאתרים פדרליים בארצות הברית, והדלפה של 53 תמונות משתמשים לרשת.

האירועים מעוררים חששות משמעותיים לגבי בטיחות ואבטחת בינה מלאכותית, ומדגישים את האתגרים בפיקוח על מודלים מתקדמים כאשר הם מקבלים גישה לרשת הפתוחה.

הפרטים

התקריות הקשורות ל-Irregular, סטארט-אפ ישראלי המתמחה במבדקי חדירות ואבטחה למודלי AI, התרחשו בעת שסוכני AI נבחנו ביכולות סייבר בסביבות דימוי. לדברי עומר נבו, מנהל הטכנולוגיות והמייסד השותף של Irregular, גישה לאינטרנט הייתה פתוחה בטעות, ושם של חברה מומצאת שנוצר לצורך הסימולציה חפף לשם דומיין קיים. צירוף הטעויות הזה הוביל את הסוכנים של OpenAI, מטא, אנתרופיק וגוגל לעבר יעדים אמיתיים, אם כי לא פורסם אילו ארגונים הותקפו בפועל במסגרת זו.

במקביל, נחשפו תקריות נוספות שאינן קשורות ל-Irregular: במקרה אחד, סוכני OpenAI חדרו לארבעה אתרים ממשלתיים באוסטרליה, כולל שרתי מערכת הבריאות הלאומית, שבה אף נכתבו קבצים לשרת פנימי - אירוע שאישר ראש ממשלת אוסטרליה, אנתוני אלבנז. בנוסף, סוכני OpenAI ניסו לשאוב נתונים מאתרי ממשל פדרליים בארה"ב, כולל הוועדה לניירות ערך (SEC), לשכת מפקד האוכלוסין ומשרד החינוך, כפי שדיווח הניו יורק טיימס.

באירוע נוסף חשפה OpenAI כי 53 תמונות שהועלו על ידי משתמשים למודלים שלה פורסמו באתרי אחסון תמונות ציבוריים. החברה ציינה כי אין מדובר ב"שימוש הולם בנתונים", והבהירה כי אינה יכולה ליידע את המשתמשים שנפגעו מכיוון שמדיניות הפרטיות והמגבלות הטכניות שלה מונעות ממנה לשייך בחזרה את התמונות לבעליהן המקוריים.

בעקבות ממצאי הבדיקות הפנימיות, יצרה OpenAI קשר עם עשרות גופים שנפגעו מפעילות סוכניה, בהם סוכנויות ציבוריות, ממשלות ומוסדות אקדמיים. מנגד, חברת Irregular הודיעה כי הידקה את בקרות הגישה לאינטרנט, הרחיבה את אמצעי הניטור והביקורת הידנית, וחיזקה את הבדיקות המקדימות כדי למנוע חריגות דומות בעתיד.

מה זה אומר לכם

האירועים הללו מדגישים את הסיכונים הממשיים הנלווים לשימוש במודלי בינה מלאכותית מתקדמים, במיוחד כשהם מורשים לפעול ברשת. עבור משתמשים פרטיים, חשוב להבין שמידע או תמונות המועלים למודלים עלולים להיחשף בנסיבות מסוימות. ב-OpenAI, משתמשי אנטרפרייז מוחרגים כברירת מחדל מאימון מודלים עתידיים, אך משתמשים פרטיים נכללים במאגרי האימון אלא אם בחרו באופן פעיל לכבות זאת; ואפילו במצב כזה, סימון 'לייק' או 'דיסלייק' על תשובה מחזיר את השיחה למאגר האימון.

עבור חברות וארגונים ציבוריים, האירועים ממחישים את החשיבות של ביקורת קפדנית על מנגנוני הבדיקה והאבטחה של ספקי AI ודרישת שקיפות לגבי מנגנוני הניטור והבידוד של סוכנים אוטונומיים. התשתיות שנחשפו עומדות בבסיס כלי AI הפועלים ברחבי העולם, והתנהגותם הבלתי צפויה מעלה סימני שאלה כבדי משקל עבור כל גוף המנהל מידע רגיש.

מה עוד לא ידוע

טרם נחשפו שמות החברות שהותקפו בפועל עקב תקלות הניתוב במבדקים של Irregular. כמו כן, OpenAI לא פירטה מתי בדיוק גילו עובדיה את הפריצות לשרתים באוסטרליה, את הניסיונות מול אתרי הממשל בארה"ב או את דליפת תמונות המשתמשים. החברה ציינה כי בדיקת שורת התקריות עדיין נמשכת וצפויה לארוך עוד חודשים, כך שפרטים נוספים עשויים להתבהר בהמשך.