n8n מראה איך להריץ תהליכי AI על NVIDIA DGX Spark אחד במשרד, בלי לשלוח מידע ל-API בענן
מדריך חדש בבלוג של n8n מיועד לעסקים קטנים שלא יכולים לשלוח מידע של לקוחות ל-API בענן, כמו מרפאות, משרדי עורכי דין ורואי חשבון. הפוסט מראה איך להריץ על NVIDIA DGX Spark אחד, עם 128GB זיכרון משותף, את כל המודלים שתהליכי n8n צריכים: מודל MoE אחד, Qwen3.6-35B-A3B, לצ'אט, חילוץ נתונים וקריאת צילומי מסך, ולצידו מודלים להטמעה, דירוג, תמלול, OCR, יצירת תמונות והקראה. כל המודלים נגישים דרך endpoint אחד של LiteLLM שתואם ל-OpenAI, עם מפתח נפרד לכל צוות, ו-n8n מתחבר אליו דרך credential רגיל של OpenAI עם Base URL מותאם. בפוסט יש תבנית workflow שקוראת חשבונית שהועלתה לטופס ומחזירה ספק, מספר חשבונית, תאריך וסכום בלי אף קריאה לענן. כשמכבים את שלב החשיבה של המודל, החילוץ ירד מ-12.1 שניות ל-0.59 שניות. במדידה של המחבר, עם שבעה מודלים טעונים הקופסה ניצלה 108GB, והצ'אט האט לשליש מהמהירות בזמן יצירת תמונות. הפוסט ממליץ לבחור רק מודלים עם רישיון שמתיר שימוש מסחרי.
מערכת אוטומציה · תאריך פרסום
פרסום המקור: · n8n
