LangSmith
פלטפורמת תצפית למעקב וניטור של סוכני AI ומודלי שפה (מבית LangChain).
לאתר הרשמי של LangSmithבעמוד הזה
מה LangSmith עושה?
LangSmith מיועדת לצוות שבונה סוכנים ורוצה לראות את שרשרת הצעדים, הכשלים והעלות של כל ריצה. היא שימושית במיוחד כשהתהליך בנוי סביב רכיבי LangChain, אך אפשר להשתמש בה גם למעקב כללי אחרי קריאות למודל. לפני שמחליטים שהיא שכבת התצפית היחידה כדאי לבדוק אילו נתונים יוצאים מהיישום ואיך מפרידים בין סביבת ניסוי לסביבת לקוחות.
יכולות מרכזיות
- מעקב אחרי שרשראות וסוכנים בזמן ריצה
- הערכות וניטור עלות של קריאות למודל
- חיבור לעבודה עם רכיבי LangChain
שימושים בעסק
- איתור שלב שבו סוכן תקוע או חוזר על אותה פעולה
- בדיקת השפעת שינוי בכלי של הסוכן על תוצאות הלקוח
איך מתחילים
- חברו פרויקט בדיקה ושלחו כמה שרשראות קצרות.
- הגדירו אילו עקבות נשמרות בסביבת ניסוי בלבד.
- בדקו ריצה עם כלי שנכשל וריצה עם פלט חלקי.
מה לבדוק לפני שבוחרים
- בדקו את הפרדת הסביבות לפני שמעבירים עקבות עם נתוני לקוח.
- אל תניחו שחיבור ל־LangChain מכסה כל כלי חיצוני שהסוכן קורא לו.
מקורות רשמיים
המקורות נבדקו ב־. מסלולים, מחירים ומגבלות שימוש עשויים להשתנות; בדקו את התנאים העדכניים באתר הכלי.
- LiteLLM
שער AI בקוד פתוח: ממשק תואם OpenAI, ניתוב בין ספקים ומעקב הוצאות.
- Mem0
שכבת זיכרון לסוכני AI ולאפליקציות, כדי לשמור הקשר מאינטראקציות קודמות.
- Mistral AI
Mistral AI מפתחת מודלי שפה ומספקת לארגונים פלטפורמה להתאמה, כוונון ופריסה של עוזרים, סוכנים אוטונומיים ויכולות AI מולטימודליות. חלק מהמודלים שלה פתוחים, והגישה אליהם אפשרית דרך API.
- Modal
תשתית serverless להרצת קוד על CPU ו־GPU בקנה מידה גדול ל־AI ונתונים.