למידת חיזוק ממשוב אנושי
Reinforcement learning from human feedback (RLHF)
למידת חיזוק ממשוב אנושי (RLHF) היא שיטה לאימון מודל שפה שכבר עבר אימון מקדים, כדי שיתנהג בהתאם להעדפות של בני אדם.
עודכן ב־
איך זה קשור לאוטומציה?
מודלים שמשמשים כעוזרים עוברים שלב שמכוון אותם להתנהג כמו שאנשים מצפים. למידת חיזוק ממשוב אנושי (RLHF) היא שיטה לאימון מודל שפה שכבר עבר אימון מקדים, כדי שיתנהג בהתאם להעדפות של בני אדם. מי שבונה אוטומציה לא מריץ RLHF בעצמו, אבל זה עוזר להבין למה מודלים שונים מתנהגים אחרת.
דוגמאות שימוש באוטומציה
הדוגמאות להמחשה. את החיבורים והכללים מתאימים למערכות ולתהליך של העסק.
בתהליך RLHF אנשים משווים בין כמה תשובות של המודל ומסמנים איזו טובה יותר. הדירוגים האלה משמשים לאימון המודל כך שיעדיף תשובות דומות לאלה שנבחרו.
באילו כלים זה רלוונטי?
- Anthropic
- ההגדרה כאן לקוחה ממילון המונחים של Anthropic.
מה חשוב לבדוק לפני שמיישמים?
- לחשוב ש־RLHF הופך את המודל לחסין לטעויות. הוא מכוון את ההתנהגות לפי העדפות, ולא מוסיף ידע או מבטיח דיוק.