מה זה Fine-tuning?

הסבר בפשטות

במקום לאמן מודל מאפס (יקר מאוד), לוקחים מודל בסיס שכבר יודע שפה ומלמדים אותו עוד קצת: סגנון הכתיבה של המותג, מונחים מקצועיים, או פורמט תשובה קבוע. זה דורש מאות עד אלפי דוגמאות איכותיות, לא מיליונים.

לפני כוונון כדאי לבדוק אם פרומפט טוב או RAG מספיקים, כי הם זולים ומהירים יותר. כוונון מתאים כשצריך התנהגות עקבית שקשה להסביר בהנחיות. כדי ללמד את המודל עובדות חדשות, RAG בדרך כלל עדיף.