RAG

מודל שפה לא מכיר את הנהלים, המחירים או המסמכים של העסק שלכם. ב־RAG, כשמגיעה שאלה, המערכת מחפשת קודם במאגר הידע את הקטעים הרלוונטיים, ומצרפת אותם לבקשה שנשלחת למודל. המודל עונה על סמך החומר הזה.

השיטה מאפשרת לעבוד עם מאגר גדול בהרבה מחלון ההקשר, ומצמצמת הזיות, כי התשובה נשענת על מקור. היא עדיין לא מבטלת את הצורך לבדוק, ואיכות התשובות תלויה מאוד באיכות ובעדכניות של המאגר.