חלון הקשר
Context window
בתיעוד OpenAI, חלון הקשר הוא מגבלת הזיכרון של המודל בבקשת יצירה אחת: כמה נתונים הוא יכול לשקול באותו רגע. הוא נמדד בטוקנים (חתיכות קלט כמו טקסט או תמונה), והגודל שלו שונה בין מודלים.
עודכן ב־
איך זה קשור לאוטומציה?
חלון ההקשר מגביל את המידע שהמודל יכול לקבל ולעבד במסגרת הבקשה. יש מקום גם להוראות, להיסטוריה ולתשובה, ולכן שיחה ארוכה דורשת ניהול מידע ולא רק הוספת טקסט.
דוגמאות שימוש באוטומציה
הדוגמאות להמחשה. את החיבורים והכללים מתאימים למערכות ולתהליך של העסק.
בוט שירות מסכם את הפעולות שכבר אושרו ושומר את מזהה ההזמנה, במקום לשלוח מחדש כל הודעה קודמת. לפני תשובה הוא שולף מידע עדכני לפי המזהה.
באילו כלים זה רלוונטי?
- Anthropic
- מודלי שפה מקבלים הקשר מוגבל לפי המודל; יש לבדוק את הגבולות והתנהגות היישום.
מה חשוב לבדוק לפני שמיישמים?
- סיכום עלול להשמיט פרט חשוב. שמרו עובדות תפעוליות כמו אישור לקוח בשדות מובנים ולא רק בסיכום חופשי.
