טוקנים
Tokens
בתיעוד OpenAI, טוקנים הם חתיכות הנתונים שמועברות למודל (טקסט עד תמונות). חלון ההקשר מוגדר בטוקנים.
עודכן ב־
איך זה קשור לאוטומציה?
טוקנים הם יחידות העיבוד של טקסט במודל, ולא בהכרח מילים שלמות. מספרם משפיע על גודל ההקשר ועל צריכת השירות, ולכן צריך למדוד דוגמאות בעברית ובמבנה הקלט האמיתי.
דוגמאות שימוש באוטומציה
הדוגמאות להמחשה. את החיבורים והכללים מתאימים למערכות ולתהליך של העסק.
תהליך סיכום מסמכים מודד את גודל ההוראות, המסמך והתשובה. מסמכים ארוכים מחולקים או מסוכמים בשלבים, תוך שמירת הפניה למקור כדי שלא יאבדו פרטים חשובים.
באילו כלים זה רלוונטי?
- Anthropic
- שימוש במודלים נמדד ביחידות קלט ופלט לפי המודל והשירות; בדקו את נתוני השימוש בפועל.
מה חשוב לבדוק לפני שמיישמים?
- אל תחשבו עלות לפי מספר מילים בלבד. גם הוראות, היסטוריה, תוצאות כלים ופלט עשויים להשתתף בחישוב.