پردازش زبان طبیعی

در حوزه یادگیری داده‌ها یکی از چالش‌های مطرح استخراج ویژگی‌های موردنیاز برای مسئله است. در یادگیری ماشین بایستی تمام ویژگی‌ها را به‌عنوان ورودی به مسئله بدهیم، اما برخلاف آن یادگیری عمیق (Deep Learning) و شبکه عصبی (Neural Network)، این…

عبارات باقاعده و منظم (Regular Expressions) یکی از ابزارهای برنامه‌نویسی جذاب هستند که بخشی از تکنیک‌های اساسی را در پردازش زبان طبیعی تشکیل می‌دهند و یادگیری آنها برای ساختن یک برنامه کارآمدتر لازم است. یک عبارت باقاعده و منظم مجموعه‌ای از…

مدل Transformer یک شبکه عصبی خاص برای کارهای پردازش زبان طبیعی است، که از آن برای افزایش سرعت آموزش مدل‌های شبکه عصبی استفاده می‌شود. بزرگ‌ترین فایده این مدل موازی‌سازی عملکرد ترجمه زبان‌ها است. در این مقاله با نگاهی ساده مدل Transformer…