RAG یا تولید تقویت‌شده با بازیابی(Retrieval Augmented Generation)، تکنیکی است که قدرت یک مدل زبانی بزرگ از پیش‌ آموزش‌دیده را با یک منبع داده خارجی ترکیب می‌کند.

این تکنیک مانع مشکلات مدل‌های زبانی مانند Hallucination یا توهم می‌شود.

Graph RAG (گراف RAG) یک روش پیشرفته برای بهبود عملکرد تکنیک RAG است که از گراف‌های دانش برای افزایش دقت و ارتباط پاسخ‌ها استفاده می‌کند. در این رویکرد، گراف‌های دانش به مدل کمک می‌کنند تا اطلاعات مرتبط و ساختارمندتری را بازیابی کرده و ارتباطات عمیق‌تری بین داده‌ها برقرار کند، که نتیجه آن تولید پاسخ‌های دقیق‌تر و معنادارتر برای پرسش‌های کاربر است.

ترنسفورمرها به عنوان یک تکنولوژی پیشگام ظاهر شده‌اند. ترنسفورمرها می‌توانند به طور همزمان به کل جمله نگاه کنند و این کار آنها را در تشخیص ظرافت‌های زبان بسیار کارآمد می‌کند. در واقع، مکانیزم توجه (Attention)، کلید اصلی موفقیت ترنسفورمرهاست.

مدل‌های زبانی بزرگ قادر هستند انسان را در تسریع و تسهیل امور کمک کرده و پاسخ صحیحی در مسائل مختلف به او ارائه کنند.در این بخش قصد داریم بهترین مدل‌های زبانی بزرگ را مقایسه کنیم و تفاوت‌های کلیدی بین آن‌ها را بررسی نماییم.

مکانیزم توجه نوعی encoder-decoder در معماری شبکه عصبی است که به مدل اجازه می‌دهد در حین اجرای یک کار بر بخش‌های خاصی از ورودی تمرکز کند. در واقع به طور پویا به عناصر مختلف ورودی، وزن‌هایی را اختصاص می دهد که نشان دهنده اهمیت یا ارتباط نسبی آنها با خروجی مورد نظر است.

یادگیری ماشین شاخه‌ای از هوش مصنوعی (AI) است که به سیستم‌ها توانایی یادگیری و بهبود خودکار از تجربه را بدون برنامه‌ریزی صریح می‌دهد. یادگیری ماشین بر توسعه برنامه‌های کامپیوتری تمرکز دارد که می‌توانند به داده‌ها دسترسی پیدا کنند و از آن‌ها برای یادگیری خود استفاده کنند.