White House: ראשי ענקיות ה-AI חתמו על אמנת בטיחות עם טראמפ

נשיא ארצות הברית דונלד טראמפ ובכירי חברות הטכנולוגיה המובילות חתמו על מסמך עקרונות וולונטרי לבטיחות ופיקוח עצמי על פיתוחי בינה מלאכותית מתקדמים (Frontier AI). על ההסכם, שזכה לשם "The White House Accord on Super Intelligence" (או בשמו הנוסף Joint Commitment on Frontier Responsibilities), חתמו בין היתר סונדאר פיצ'אי (Google), מארק צוקרברג (Meta), אילון מאסק (xAI), ג'נסן הואנג (Nvidia), דריו אמודיי (Anthropic) וגרג ברוקמן (OpenAI).

מה קרה

במסגרת ההסכם שהוצג בבית הלבן, התחייבו החברות לצעדים שמטרתם להבטיח כי מודלים מתקדמים יפעלו בצורה בטוחה ומבוקרת. ההסכם מגדיר ארבעה עקרונות מנחים:

• בקרות פנימיות מחמירות: ניטור היכולות וההתאמה של המודלים במהלך האימון וההשקה, בדגש על מניעת סיכוני סייבר, איומים ביולוגיים וכימיים, וחסימת גישה בלתי מורשית למערכות טכניות.
• צוות פנימי ייעודי: הקצאת סמכויות לצוות פנימי שתפקידו לוודא כי מנגנוני הניטור פועלים כשורה ולטפל בליקויים שמתגלים.
• ביקורת חיצונית עצמאית: שיתוף פעולה עם גורמי הערכה וביקורת חיצוניים לבדיקת תקינות מנגנוני הבקרה והזיהוי.
• פיקוח ברמת הדירקטוריון: הקמת ועדה ייעודית ועצמאית בדירקטוריון החברה שתקבל דיווחים מהצוותים והמבקרים ותוודא טיפול בבעיות.

בנוסף, לפי דיווח ב-SiliconANGLE, טראמפ ציין כי הממשל שוקל הקמת ועדת בטיחות בת עשרה חברים ומינוי אחראי ייעודי לתחום, לצד הנחיה לסוכנויות פדרליות להשתמש במונח Super Intelligence במקום Artificial Intelligence.

הרקע

המהלך הנוכחי מגיע לאחר חודשים של דיונים ציבוריים ומשפטיים סביב הצורך ברגולציה על מודלים רבי עוצמה. בעבר כבר נחתמו הסכמים וולונטריים דומים, כולל יוזמות בינלאומיות בבריטניה ודרום קוריאה בתחילת 2025. לפי דיווח ב-The Verge וב-Wired, ההסכם מבוסס על רצון טוב בלבד ואינו כולל קנסות או מנגנוני ענישה סטטוטוריים מוגדרים.

עם זאת, לפי דיווח ב-Wired, רשות הסחר הפדרלית בארצות הברית (FTC) בוחנת היבטים שונים של הגנת הצרכן מול חברות AI מובילות, ומומחים מציינים כי אי-עמידה בהבטחות פומביות עשויה במקרים מסוימים להיבחן כהטעיה עסקית תחת הדין האמריקאי.

מה זה אומר לכם

עבור משתמשים, מפתחים ועסקים בישראל, האמנה אינה משנה באופן מיידי את תנאי השימוש או את הזמינות של כלי ה-AI הפופולריים, שמרביתם כבר נגישים בישראל ותומכים בעברית. מה שהיא כן מסמנת הוא המשך המגמה של הסתמכות על ביקורות צד שלישי (External Red-Teaming) והידוק הבקרות בארגונים המפתחים.

אם אתם מפתחים יישומים או משלבים סוכני AI עצמאיים במערכות הארגוניות שלכם, מומלץ כבר עכשיו לאמץ עקרונות דומים: הגדרת מנגנוני בדיקה פנימיים, ניטור רציף של גישת המודלים לרשת ולמאגרי מידע, וביצוע הערכות סיכוני אבטחה שוטפות.

מה עוד לא ידוע

בשלב זה טרם ברור מתי יוקמו ועדות הדירקטוריון בכל אחת מהחברות והאם הדוחות שיופקו על ידי המבקרים החיצוניים ייחשפו לעיני הציבור. כמו כן, לא נקבע לוח זמנים לתרגום העקרונות הללו לחקיקה מחייבת, ופרטי הבדיקה של ה-FTC טרם פורסמו במלואם.