למה AI טועה: הזיות ומגבלות

הסרטון בשיעור: “Why do AI models hallucinate?”, של Claude ב-YouTube (באנגלית). הוא משלים את השיעור ואינו חובה.

מהי 'הזיה' ולמה מודלים ממציאים עובדות?

בשיעור הקודם למדנו שמודלי שפה פועלים על פי עקרון חיזוי המילה הבאה על בסיס דפוסים סטטיסטיים, ולא באמצעות חשיבה, מודעות או שליית נתונים ממאגר מידע מדויק. התוצאה הישירה של המנגנון הזה היא תופעה המכונה 'הזיה' (Hallucination): המודל מייצר טקסט שנשמע משכנע, מנוסח בביטחון מלא ובשפה רהוטה - אך התוכן שגוי מיסודו או מומצא לחלוטין.

חשוב להבין: המודל אינו משקר בכוונה. מבחינתו, ציטוט של פסק דין שלא היה מעולם נראה בדיוק כמו פסק דין אמיתי, מפני שהתחביר, השמות והמבנה תואמים להפליא את הדפוס הלשוני של מסמכים משפטיים. ככל שהנושא ממוקד יותר, נישתי יותר או דורש דיוק מספרי, כך עולה הסיכון לקבל פלט שגוי במסווה של אמת מוחלטת.

ארבעת תחומי הסיכון העיקריים בעבודה

כאשר אתם רותמים כלי AI לעסק או לתפקיד שלכם, עליכם להפעיל חשדנות בריאה בארבע נקודות תורפה קבועות:

• חוקים, תקנות ופסקי דין: מודלים נוטים להמציא סעיפי חוק או לערבב בין חקיקה זרה לחקיקה ישראלית (למשל, שילוב מושגים אמריקאיים בתוך דיון על חוק הגנת הפרטיות הישראלי).
• חישובים מתמטיים והנהלת חשבונות: מודל שפה אינו מחשבון. אם תבקשו ממנו לחשב מע״מ, אחוזים או סיכומי שעות מורכבים, הוא עלול לתת מספר שנראה הגיוני בעין אך שגוי בחישוב המדויק.
• ציטוטים ומקורות מידע: בקשה לקבל 'שלושה מחקרים עם קישורים' תניב פעמים רבות שמות חוקרים קיימים וכותרות אמינות - אך המאמרים עצמם לא נכתבו מעולם.
• אירועים מקומיים ונתוני שוק עדכניים: ללא חיבור מפורש לכלי מחקר או חיפוש, המודל אינו יודע על אירועים שהתרחשו לאחרונה או על שינויי חקיקה טריים (כגון תיקון 13 לחוק הגנת הפרטיות שנכנס לתוקף באוגוסט 2025).

איך לצמצם הזיות באמצעות הנחיה נכונה

הדרך הבטוחה ביותר לעבוד עם כלי AI היא לספק לו את המידע בעצמכם (בשיטת 'הסתמך רק על הטקסט המצורף') ולתת לו היתר מפורש לומר 'איני יודע'. הנה דוגמה להנחיה ממוקדת שמפחיתה דרמטית את הסיכון:

אתה עוזר משרדי לעסק בישראל.
קרא את תנאי השירות המצורפים להלן וענה על שאלת הלקוח.
כללים מחייבים:
1. בצע את התשובה בהתבסס אך ורק על הטקסט שסיפקתי. אל תנחש ואל תוסיף מידע מבחוץ.
2. אם התשובה אינה מופיעה בטקסט במפורש, כתוב: "המידע אינו מופיע במסמך, מומלץ לפנות לשירות הלקוחות".
3. צטט את המשפט המדויק מהמסמך שעליו התבססת.

המסמך: [הדביקו כאן את תנאי השירות]
שאלת הלקוח: האם מגיע לי החזר כספי מלא לאחר 30 יום?

מצורף סעיף החריגים מתקנות הגנת הצרכן בישראל.
נסח עבורי טיוטת מייל נעימה ושירותית ללקוח, המסבירה בצורה ברורה מדוע לאחר תחילת העבודה על הסקיצה לא ניתן לקבל החזר מלא, בהתאם לכתוב בסעיף המצורף בלבד. אל תצטט מספרי סעיפים ואל תמציא כללים שלא מופיעים כאן.