RAG در مهندسی پرامپت

RAG مخفف عبارت "Retrieval-Augmented Generation" است که به معنای تولید مبتنی بر بازیابی اطلاعات می‌باشد. این تکنیک در مهندسی پرامپت برای بهبود کیفیت و دقت پاسخ‌های مدل‌های زبانی به کار می‌رود، به ویژه زمانی که مدل نیاز به دسترسی به اطلاعات خارجی و به‌روز دارد.

تکنیک RAG ترکیب دو فرآیند اصلی است:

1. بازیابی اطلاعات (Retrieval): مدل ابتدا با جستجو و بازیابی اطلاعات مرتبط از منابع خارجی (مانند پایگاه داده‌ها، مقالات، صفحات وب یا سایر منابع) اطلاعات مورد نیاز برای پاسخ‌دهی به پرسش را جمع‌آوری می‌کند.
2. تولید (Generation): سپس مدل از اطلاعات بازیابی‌شده استفاده می‌کند تا پاسخ دقیق و مناسب را به کاربر ارائه دهد.

این روش می‌تواند کمک کند تا مدل‌های زبانی که محدود به داده‌های داخلی خود هستند، به منابع گسترده‌تری دسترسی پیدا کنند و پاسخ‌های به‌روزتر و دقیق‌تری تولید کنند.

1. دسترسی به اطلاعات به‌روز: این تکنیک به مدل اجازه می‌دهد تا از منابع بیرونی برای پاسخ‌دهی به پرسش‌های خاص استفاده کند، به خصوص وقتی که اطلاعات مورد نیاز خارج از داده‌های آموزش اولیه مدل باشد.
2. دقت بالاتر در پاسخ‌ها: بازیابی اطلاعات مرتبط از منابع مختلف می‌تواند به مدل کمک کند تا پاسخ‌های دقیق‌تری تولید کند، به ویژه در زمینه‌های تخصصی که ممکن است مدل به تنهایی از آن اطلاعات نداشته باشد.
3. مدیریت اطلاعات تخصصی: در مواردی که اطلاعات دقیق یا تخصصی مانند داده‌های پزشکی، علمی یا حقوقی نیاز است، RAG می‌تواند از داده‌های تخصصی موجود در پایگاه‌های داده خارجی بهره بگیرد.

1. ورودی کاربر: کاربر سوالی مطرح می‌کند که ممکن است نیاز به اطلاعات به‌روز یا خاص داشته باشد.
2. مرحله بازیابی: مدل به جستجو در پایگاه‌های داده یا منابع اطلاعاتی (مانند وب‌سایت‌ها، مقالات علمی، کتاب‌ها، دیتابیس‌های تخصصی و غیره) می‌پردازد تا اطلاعات مرتبط با پرسش کاربر را پیدا کند.
3. مرحله تولید: پس از بازیابی اطلاعات، مدل از آن‌ها استفاده کرده و یک پاسخ تولید می‌کند که ترکیبی از اطلاعات بازیابی‌شده و دانش پیشین مدل است.

• پاسخ به پرسش‌های علمی: اگر از مدل بخواهید که اطلاعات دقیقی در مورد یک کشف علمی جدید بدهد، مدل با استفاده از RAG می‌تواند از منابع به‌روز علمی مانند مقالات منتشر شده یا پایگاه‌های داده علمی برای بازیابی اطلاعات دقیق استفاده کند و پاسخ مناسبی تولید کند.
• پاسخ به سوالات حقوقی: در زمینه حقوق، مدل می‌تواند از RAG برای جستجو در منابع حقوقی و قوانین به‌روز استفاده کند تا به پرسش‌های پیچیده حقوقی پاسخ دهد.

• مدل‌های زبانی سنتی: این مدل‌ها فقط به داده‌هایی که در حین آموزش روی آن‌ها کار کرده‌اند، تکیه دارند. بنابراین، پاسخ‌های آن‌ها به اطلاعات جدید یا به‌روز ممکن است نادرست یا ناقص باشد.
• RAG: این مدل‌ها می‌توانند از منابع خارجی برای به‌روزرسانی پاسخ‌ها استفاده کنند و اطلاعات دقیق‌تری را از منابع مختلف بازیابی کنند.

RAG در مهندسی پرامیت مخفف چیه و چه کاربردی دارد

RAG در مهندسی پرامیت به معنای “Red, Amber, Green” است که به اختصار RAG نامیده می‌شود. این سیستم معمولاً برای ارزیابی و گزارش وضعیت پروژه‌ها، سیستم‌ها یا فرآیندها استفاده می‌شود. هر رنگ نمایانگر یک وضعیت خاص است:

قرمز (Red): به معنای وجود مشکلات جدی که نیاز به توجه فوری دارند. این وضعیت نشان‌دهنده این است که پروژه یا فرآیند به شدت در معرض خطر است و باید اقدامات اصلاحی انجام شود.

زرد (Amber): به معنای وجود نگرانی‌هایی است که ممکن است به مشکلات منجر شوند، اما هنوز به حدی بحرانی نیستند که نیاز به اقدام فوری داشته باشند. این وضعیت به مدیران هشدار می‌دهد که باید وضعیت را به دقت زیر نظر داشته باشند.

سبز (Green): به معنای این است که همه چیز طبق برنامه پیش می‌رود و هیچ مشکلی وجود ندارد. این وضعیت نشان‌دهنده یک پیشرفت سالم و موفقیت‌آمیز در پروژه یا فرآیند است.

کاربردهای RAG:

گزارش‌دهی: سیستم RAG به تیم‌ها و مدیران کمک می‌کند تا به سرعت وضعیت پروژه‌ها را درک کنند و تصمیم‌گیری‌های لازم را انجام دهند.

مدیریت ریسک: با شناسایی زودهنگام مشکلات و نگرانی‌ها، می‌توان اقدامات پیشگیرانه انجام داد.

مشارکت و ارتباط: به تیم‌ها و ذینفعان این امکان را می‌دهد که به راحتی در مورد وضعیت پروژه‌ها صحبت کنند و درک مشترکی از چالش‌ها و موفقیت‌ها داشته باشند.

به‌طور کلی، RAG یک ابزار مؤثر برای مدیریت پروژه و ارزیابی وضعیت است که می‌تواند به بهبود تصمیم‌گیری و کارایی تیم‌ها کمک کند.

مدل‌های زبانی همه منظوره را می‌توان برای دستیابی به چندین کار رایج مانند تجزیه و تحلیل احساسات و شناسایی موجودیت نام‌گذاری شده تنظیم کرد. این وظایف معمولاً به دانش پیش زمینه اضافی نیاز ندارند.
برای کارهای پیچیده تر و دانش فشرده تر، می توان یک سیستم مبتنی بر مدل زبان ساخت که به منابع دانش خارجی برای تکمیل وظایف دسترسی دارد. این امر سازگاری واقعی بیشتری را امکان پذیر می کند، قابلیت اطمینان پاسخ های تولید شده را بهبود می بخشد و به کاهش مشکل "توهم" کمک می کند.

محققان Meta AI روشی به نامبازیابی تولید افزوده  Retrieval Augmented Generation (RAG) را برای رسیدگی به چنین وظایف دانش برانگیزی معرفی کردند. RAG یک جزء بازیابی اطلاعات را با یک مدل تولید کننده متن ترکیب می کند. RAG را می توان به دقت تنظیم کرد و دانش داخلی آن را می توان به شیوه ای کارآمد و بدون نیاز به آموزش مجدد کل مدل اصلاح کرد.
‏RAG یک ورودی دریافت می‌کند و مجموعه‌ای از اسناد مرتبط/پشتیبانی را با یک منبع (مانند ویکی‌پدیا) بازیابی می‌کند. اسناد به عنوان متن با اعلان ورودی اصلی الحاق می شوند و به تولید کننده متن که خروجی نهایی را تولید می کند، تغذیه می شوند. این باعث می‌شود RAG برای موقعیت‌هایی که حقایق می‌توانند در طول زمان تکامل یابند سازگار شوند. چنین چیزی بسیار مفید است زیرا دانش پارامتری LLM ها ثابت است.

در حقیقت  بازیابی تولید افزودهRAG به مدل‌های زبان اجازه می‌دهد تا آموزش مجدد را دور بزنند و دسترسی به آخرین اطلاعات را برای تولید خروجی‌های قابل اعتماد از طریق تولید مبتنی بر بازیابی امکان‌پذیر می‌سازد.

‏RAG در چندین معیار مانند Natural Questions، WebQuestions و CuratedTrec عملکرد قوی دارد. RAG پاسخ‌هایی را ایجاد می‌کند که در هنگام آزمایش روی سؤالات MS-MARCO و Jeopardy واقعی‌تر، خاص‌تر و متنوع‌تر هستند. RAG همچنین نتایج را در تأیید واقعیت FEVER بهبود می بخشد.
این نشان دهنده پتانسیل RAG به عنوان یک گزینه مناسب برای افزایش خروجی مدل های زبان در وظایف دانش فشرده است.
اخیراً، این رویکردهای مبتنی بر retriever محبوب‌تر شده‌اند و با LLM‌های محبوبی مانند ChatGPT ترکیب می‌شوند تا قابلیت‌ها و سازگاری واقعی را بهبود بخشند.

مرجع انگلیسی: سایت 👇

RAG   در مهندسی پرامپت  مخفف چیه و چه کاربردی داره؟