מילון מונחי AI
מה זה הזיה?
Hallucination
מצב שבו מודל AI מייצר מידע שנשמע אמין ומשכנע, אבל הוא שגוי או בדוי לגמרי.
הסבר בפשטות
מודל שפה לא "יודע" עובדות כמו מאגר נתונים. הוא מנבא איזה טקסט סביר שיבוא עכשיו. לכן, כשאין לו מידע, הוא עלול להמציא תשובה שנשמעת נכונה: ציטוט שלא נאמר, מקור שלא קיים, או פסק דין שמעולם לא ניתן.
אפשר להקטין הזיות: לתת למודל את המקורות (RAG), לבקש ממנו לצטט ולהגיד "לא יודע", להשתמש במודלי חשיבה, ובעיקר לבדוק כל עובדה חשובה לפני שמשתמשים בה. כלל אצבע: ככל שהשאלה ספציפית ונדירה יותר, הסיכון גבוה יותר.