מילון מונחי AI
מה זה טמפרטורה?
Temperature
הגדרה שקובעת כמה אקראיות תהיה בתשובה של מודל שפה: נמוכה לתשובות צפויות ועקביות, גבוהה לתשובות מגוונות ויצירתיות.
הסבר בפשטות
בכל צעד, המודל מחשב הסתברות לכל טוקן אפשרי הבא. בטמפרטורה נמוכה (קרוב ל-0) הוא כמעט תמיד בוחר את הסביר ביותר, ולכן התשובות עקביות. בטמפרטורה גבוהה הוא בוחר לפעמים גם אפשרויות פחות סבירות, וכך נוצר גיוון, אבל גם יותר טעויות.
בממשקי צ'אט רגילים אין שליטה על זה, אבל ב-API ובכלים מקצועיים יש. כלל אצבע: טמפרטורה נמוכה לחילוץ נתונים, סיווג וקוד, ובינונית עד גבוהה לסיעור מוחות וכתיבה יצירתית.