זמן השהיה
Latency
זמן השהיה הוא פרק הזמן מהרגע שבו מתחילים תהליך ועד שהוא מתחיל להתבצע בפועל. בשיחה עם סוכן או בקריאה ל־API זה הזמן שעובר עד שמתקבלת תגובה.
עודכן ב־
איך זה קשור לאוטומציה?
בשיחה עם סוכן קולי או בקריאה ל־API, הזמן שעובר עד שמתחילה תגובה משפיע על החוויה יותר מאורך התשובה עצמה. זמן השהיה הוא פרק הזמן מתחילת הפעולה ועד שהביצוע מתחיל בפועל. במדריך המונח יושב ליד סוכן קולי ופסק זמן, בלי לטעון מה המהירות של כלי מסוים.
דוגמאות שימוש באוטומציה
הדוגמאות להמחשה. את החיבורים והכללים מתאימים למערכות ולתהליך של העסק.
צוות בונה סוכן טלפוני. הלקוח שואל שאלה, והמערכת שולחת את הטקסט למודל ואחר כך להקראה. אם ההשהיה ארוכה, הלקוח חוזר על השאלה. מודדים את הזמן עד תחילת הדיבור בלי לקבוע יעד מספרי שלא נבדק.
באילו כלים זה רלוונטי?
- LiveKit
- מסגרת לבניית סוכנים בזמן אמת. זמן השהיה תלוי בכל שרשרת השיחה; אין כאן מדידה של הכלי.
מה חשוב לבדוק לפני שמיישמים?
- בלבול בין זמן השהיה לבין פסק זמן: הראשון הוא כמה מחכים לתחילת תגובה, והשני הוא מתי מוותרים על ההמתנה.