מילון מונחי AI
מה זה LoRA?
התאמה בדרגה נמוכהLoRA (Low-Rank Adaptation)
שיטה זולה לכוונון מודלים גדולים: במקום לשנות את כל המשקלות, מוסיפים שכבות קטנות ומאמנים רק אותן.
הסבר בפשטות
כוונון מלא של מודל עם מיליארדי פרמטרים דורש חומרה יקרה. LoRA מקפיאה את המודל המקורי ומוסיפה לו מטריצות קטנות שמאמנים. התוצאה היא קובץ של כמה מגה-בייט שאפשר "להלביש" על המודל המקורי.
LoRA פופולרית במיוחד במחוללי תמונות: אנשים מאמנים LoRA על סגנון ציור, דמות או מוצר מסוים, ומשתפים אותה בקהילה. בזכותה אפשר לכוונן מודלים על מחשב ביתי עם כרטיס מסך טוב.