Retrieval Augmented Generation

אני רוצה להתעכב אתכם על מושג משמעותי שחשוב שתכירו לעומק- RAG אוסף של טכניקות העוזרות לשנות מודל שפה (LLM), כך שהמודל יוכל למלא פערים ולפעול באחריות גדולה יותר על המידע שאנחנו מקבלים.

היתרונות הגדולים ביותר של גישת ה-RAG: להעניק למודל שפה ידע ספציפי לתחום: אפשר לבחור איזה מידע אנחנו רוצים שמודל השפה ישאב ממנו, ואפילו להפוך אותו למומחה בכל נושא שיש עליו מידע. הגמישות הזו אומרת שאפשר גם להרחיב את המודעות של מודלי השפה הרבה מעבר לתאריכי סיום האימון של המודל, ואולי הכי חשוב! לחשוף את המודל לנתונים טריים בזמן אמת, אם זמינים. בעלות ומהירות אופטימליות.

עבור כל החברות למעט קומץ, זה לא מעשי אפילו לשקול לאמן מודל יסודי משלהן כדרך להתאים אישית את הפלט של מודל שפה, בגלל הסף הגבוה מאוד של עלות ומיומנות. לעומת זאת, פריסת צינור RAG יעזור לפעול יחסית מהר בעלות מינימלית. הכלים הזמינים אומרים שמפתח יחיד יכול להפעיל משהו בסיסי מאוד תוך מספר שעות. אחד הדברים המשמעותיים ביותר הינו- הפחתת הזיות. “הזיה” הוא המונח למצב שבו מודלי שפה “ממציאים” תשובות. צינור RAG מתוכנן היטב שמציג מידע רלוונטי כמעט יבטל לחלוטין את תופעת הלוואי המתסכלת הזו, ומודל השפה ידבר בסמכותיות ורלוונטיות גדולות הרבה יותר על התחום שעליו אתם מנתחים מידע.

עם RAG, אנחנו מקבלים שליטה במקור הנתונים הבסיסי, מה שאומר שאפשר להגביל את מודל השפה לגשת רק לנתונים של תחום שיפוט יחיד, זה יבטיח שהתשובות תהיינה עקביות. שקיפות ויכולת תצפית טובות יותר. מעקב אחר קלטים ותשובות דרך מודלי שפה הוא קשה מאוד. מודל השפה יכול לעתים קרובות להרגיש כמו “קופסה שחורה”, שבה אין לנו מושג מאיפה מגיעות חלק מהתשובות. עם RAG, אנחנו מבינים ורואים את המידע הנוסף ובכך אנחנו הופכים לאלו שיש להם שליטה על המידע ואמינותו.

הדרך הטובה ביותר להבין טכנולוגיה חדשה היא לעתים קרובות פשוט לשחק איתה. להפעיל יישום בסיסי הוא יחסית פשוט, ויכול להיעשות עם רק כמה שורות קוד- ובמקרה של הכלים והפלטפורמות הקיימות כמו GPT וקלאוד, אנחנו יכולים ליצור סביבות עבודה של RAG גם מבלי שנדע לכתוב שורה אחת בקוד.

תסתכלו על התהליך הזה– צינור RAG הוא אוסף של השיטות הנדרשות כדי לאפשר את היכולת לענות באמצעות הקשר שסופק

הנה השלבים לבניית צינור RAG:

שלב ראשון: לקחת שאילתה נכנסת ולפרק אותה למושגים רלוונטיים שלב שני: לאסוף מושגים דומים ממאגר הנתונים שלכם שלב שלישי: לשלב מחדש מושגים אלה עם השאילתה המקורית שלך כדי לבנות תשובה רלוונטית ומוסמכת יותר.

אם תרצו להבין טוב יותר כיצד הרעיון משתלב בחיים המקצועיים שלכם, ובסביבת העבודה- דברו איתי ואכווין אתכם למקומות הנכונים והחשובים.


מוצרים שלי שכדאי לכם להכיר:

חדש!!! קורס ללימוד פלטפורמת קלאוד המדהימה לצורכי עבודה.

קורס לתוכניות עבודה באמצעות ועם כלי GAI.

 מפגש 1:1 ליעוץ על בינה מלאכותית גנרטיבית.

 קורס לבניית מצגות עם GAI.
 קורס למסע לקוח עם GAI.

urianzohar

אני- זהר אוריין, יועצת בתחום של חדשנות באמצעות דיגיטל וטכנולוגיות השירותים שלי : ייעוץ אסטרטגי לחברות ומותגים גדולים בניית אסטרטגיה של חדשנות דיגיטלית יצירת קונספטים למוצרים ולשירותים דיגיטליים חקר הטרנדים המובילים ושימוש במקרי בוחן מרחבי העולם

Leave a Reply

Your email address will not be published.