RAG למאגרי ידע של עסקים קטנים: מדריך לבונה

עוזר מבוסס אחזור (RAG) לעסק קטן עונה על שאלות מהמסמכים של החברה עצמה במקום מהזיכרון של המודל: הוא אוסף את מרכז העזרה, המדיניות והמחירון, מנקה דפים מיושנים, מחלק את הטקסט לקטעים עם מטא-דאטה, מאחזר את הקטעים הבודדים הרלוונטיים ביותר לשאלה, עונה עם ציטוטים, ואומר "זה לא במסמכים שלנו" כשזה לא. הבנייה היא שבוע; הערך הוא בניקוי, בציטוטים ובניתוב כל דבר לא בטוח לאדם.

למה עסקים רוצים את זה, ולמה הם לא סומכים עליו?

בעלי עסקים רוצים שאותן עשרים שאלות ייענו בלי אדם, בלילה, במילים של הלקוח. הם לא סומכים כי ראו צ'אטבוטים ממציאים מדיניות. RAG הוא התשובה לשניהם, אם העוזר אומר רק מה שהמסמכים אומרים ומראה מאיפה זה הגיע.

שלב 1: אוספים את המסמכים הנכונים

דפי מרכז עזרה, מדיניות (החזרות, ביטולים, פרטיות), שאלות נפוצות, המחירון, שעות פתיחה, תיאורי שירות. לא: לוגים של צ'אטים פנימיים, הצעות ישנות, כל דבר עם מידע אישי. שאלו את בעל העסק לאיזה עמוד הוא היה שולח לקוח לכל שאלה נפוצה; אלה המסמכים.

שלב 2: מנקים לפני שמאנדקסים

רוב כשלי ה-RAG הם כשלי מקור. הסירו דפים לא מעודכנים, מזגו סתירות (שתי מדיניות החזרות משנים שונות), והוסיפו עובדות חסרות שבעל העסק עונה בטלפון כל יום. תנו לכל מסמך כותרת, תאריך סקירה אחרון ואחראי. השלב הזה הוא רוב הפרויקט והחלק שהופך את העוזר לאמין.

שלב 3: מחלקים ומטמיעים

חלקו לפי כותרות, שמרו על קטעים של כמה מאות מילים, צרפו מטא-דאטה (מסמך, סעיף, תאריך, שפה). מסמכים בעברית ובאנגלית מאונדקסים זה לצד זה; שמרו את השפה במטא-דאטה כדי שהאחזור יוכל להעדיף את שפת הלקוח. אנדקסו מחדש בשינוי, אוטומטית, מאותו מקור שהעסק עורך.

שלב 4: מאחזרים עם סף

אחזרו את הקטעים הבודדים המובילים ודרשו דמיון מינימלי. מתחת לסף, העוזר לא עונה מהזיכרון; הוא אומר שהתשובה לא במסמכים ומציע אדם. הכלל היחיד הזה מונע את רוב התשובות המומצאות.

שלב 5: עונים עם ציטוטים, בקול של העסק

הפרומפט: ענה רק מהקטעים שסופקו, צטט את המסמך והסעיף, התאם לטון של העסק, שמור על קיצור, וכשהקטעים לא מכסים את השאלה אמור זאת. הראו את הציטוט ללקוח כקישור איפה שאפשר. ציטוטים הם מה שמאפשר לבעל העסק לסמוך על העוזר ולתקן אותו.

שלב 6: מנתבים את מה שלא בטוח

ביטחון נמוך, כל דבר על כסף מעבר למחירון, תלונות, תוכן רפואי או משפטי: לאדם, עם השאלה והקטעים שאוחזרו מצורפים. המדריך על אדם בתהליך מכסה את הדפוסים.

בדיקות לפני מסירה

המדריך על בדיקת סוכנים נותן את השיטה המלאה; סט ה"לא מכוסה" הוא זה שהכי חשוב לבעלי עסקים.

מה למסור

רשימת המסמכים עם אחראים ותאריכי סקירה, נוהל האינדוקס מחדש, כללי הסף והניתוב במילים פשוטות, ומשימה חודשית: סקירת עשר שאלות שלא נענו והוספת מסמך או כלל ניתוב. תוכנית התמיכה צריכה לכלול אותה.

למי זה מתאים ולמי לא

מתאים: לעסקים עם שאלות חוזרות ומסמכים שכבר קיימים או שאפשר לכתוב תוך שבוע. לא מתאים: לעסקים שהתשובות שלהם תלויות בשיקול דעת לכל לקוח, או שהמסמכים שלהם סותרים ואף אחד לא יתקן אותם; קודם מנקים, או לא בונים.

מה לעשות השבוע

בקשו מלקוח את עשר השאלות שהוא עונה עליהן הכי הרבה ואת העמודים שהיה מפנה אליהם. אם העמודים קיימים, יש לכם פיילוט; אם לא, כתיבתם היא התוצר הראשון.