מודל שפה מנבא את הטקסט הסביר הבא, והוא לא בודק עובדות בזמן שהוא כותב. לכן הוא יכול להמציא נתון, מקור, ציטוט או פרט על מוצר, ולנסח אותם בביטחון מלא. לזה קוראים הזיה.
כמה דרכים מצמצמות את הסיכון: לתת למודל את החומר שעליו הוא צריך להתבסס במקום לסמוך על הזיכרון שלו, לבקש ממנו לציין מקור לכל טענה, ולבנות שלב של בדיקה אנושית לפני שמשהו יוצא החוצה.
נבדק לאחרונה 16 באוקטובר 2026