הזיה
Hallucination
הזיה בבינה מלאכותית היא מצב שבו מודל שפה גדול תופס בטעות דפוסים או אובייקטים שאינם קיימים. בהקשר של RAG, תשובה לא מעוגנת כוללת ניחוש או הזיה שאינם נתמכים במסמכי המקור.
עודכן ב־
איך זה קשור לאוטומציה?
הזיה היא תוכן שנשמע משכנע אך אינו נשען על מידע נכון. באוטומציה היא מסוכנת במיוחד כשהטקסט הופך לשדה במערכת או להבטחה ללקוח בלי בדיקה.
דוגמאות שימוש באוטומציה
הדוגמאות להמחשה. את החיבורים והכללים מתאימים למערכות ולתהליך של העסק.
בוט נשאל אם מוצר מסוים במלאי. במקום לאפשר למודל להשלים תשובה, התהליך קורא למערכת המלאי ומציג את התוצאה; אם הקריאה נכשלת, הוא מציין שאינו יכול לאמת את הזמינות.
באילו כלים זה רלוונטי?
- Chatbase
- בוט מבוסס ידע עדיין צריך בדיקת תשובות והגדרה של מקרים שבהם אין מידע מספק.
מה חשוב לבדוק לפני שמיישמים?
- הוספת מקור או הוראה לא להמציא אינה מבטלת טעויות. בדקו שהמקור אכן תומך בתשובה ושמידע חסר נשאר מסומן כחסר.