מילון מונחי AI

מה זה הנדסת הקשר?

Context Engineering

תכנון המידע שמגיע למודל השפה בכל בקשה: הוראות, מסמכים, היסטוריית שיחה, תוצאות של כלים, כדי שיענה נכון.

הסבר בפשטות

הנדסת פרומפטים עוסקת בניסוח הבקשה. הנדסת הקשר רחבה יותר: היא שואלת מה עוד המודל צריך לראות כדי להצליח, ומה מיותר ורק מבלבל אותו. זה כולל בחירת מסמכים רלוונטיים (RAG), סיכום של שיחות ארוכות, הגדרת כלים והוראות מערכת.

המושג חשוב במיוחד בסוכני AI, שעובדים בהרבה צעדים וצוברים מידע. חלון ההקשר מוגבל, ולכן מי שבונה סוכן צריך להחליט מה נשמר, מה מסוכם ומה נזרק.

מונחים קשורים