Modal
תשתית serverless להרצת קוד על CPU ו־GPU בקנה מידה ל־AI ונתונים.
לאתר הרשמי של Modal
בעמוד הזה
מה Modal עושה?
Modal מתאימה כשצריך להריץ קוד, עבודות נתונים או משימות מודל בלי לנהל שרתים קבועים, כולל שימוש ב־GPU לפי הצורך. כותבים פונקציות והן עולות לפי העומס. לפני העברת עיבוד לקוחות כדאי לבדוק זמני התחלה, עלות לפי דקה והיכן נשמרים קבצים זמניים. תשתית גמישה אינה פוטרת מהגבלת גישה לסודות ולנתונים.
יכולות מרכזיות
- הרצת קוד לפי דרישה על CPU ועל GPU
- עבודות נתונים ומשימות AI בלי שרת קבוע
- פריסת פונקציות מסביבת פיתוח לענן
שימושים בעסק
- הרצת משימת תמלול כבדה מחוץ לשרת האתר
- עיבוד קבוצת קבצים בלי להחזיק GPU קבוע
איך מתחילים
- הריצו פונקציית בדיקה קצרה בלי נתוני לקוח.
- מדדו זמן התחלה ועלות של משימה מייצגת.
- בדקו כישלון באמצע וכתיבה כפולה לתוצאה.
מה לבדוק לפני שבוחרים
- עקבו אחרי עלות GPU לפני הרצה על הרבה קבצים.
- הגדירו מה נמחק אחרי המשימה ומה נשמר בארכיון.
מקורות רשמיים
המקורות נבדקו ב־. מסלולים, מחירים ומגבלות שימוש עשויים להשתנות; בדקו את התנאים העדכניים באתר הכלי.
- Perplexity
כלי מחקר ושאלות המבוסס על AI ומציג מקורות לתשובות. הוא מתאים לשלב איסוף ובדיקת מידע בתהליך תוכן או מחקר, כאשר עדיין נדרשת קריאה של המקורות עצמם.
- Portkey
שער וסטאק ייצור ל־Gen AI בארגון: ניתוב, ניהול ובקרה.
- Promptfoo
פלטפורמה לאבטחת AI ולהערכת מודלים ופרומפטים בפיתוח.
- Qdrant
מנוע חיפוש וקטורי בקוד פתוח (Rust) לדמיון בין וקטורים.