Gradient Clipping
Gradient Clipping یکی از روش‌هایی است، که برای جلوگیری از انفجار گرادیان استفاده می‌شود. در ادامه ابتدا انفجار گرادیان را تعریف کرده و Gradient Clipping را به‌عنوان یک راه‌حل ارائه می‌دهیم.
مرور برچسب
یادگیری عمیق
Inception module در شبکه‌های عصبی پیچشی (CNN)
Inception module در شبکه‌های عصبی پیچشی (CNN) مورد استفاده قرار می‌گیرد تا محاسبات کارآمدتری را انجام دهد و شبکه‌های عمیق‌تر را از طریق کاهش ابعاد با پیچش‌های ۱ *۱ ایجاد کند. در واقع راهی برای حل مسائل تشخیص و تصحیح تصویر و معماری یادگیری…
آزمون دقیق فیشر (Fisher’s Exact Test)
آزمون دقیق فیشر که استقلال فیشر نیز نامیده می‌شود، یک آزمون آماری کاربردی در حوزه‌های مختلف ازجمله یادگیری عمیق و یادگیری ماشین است. زمانی که به دنبال یافتن تفاوت بین دو متغیر اسمی هستیم، این آزمون کاربرد دارد. تست دقیق فیشر برای داده‌های…
Padding و Stride در شبکه‌های CNN
در این مقاله قصد داریم به معرفی دو مفهوم مهم در شبکه‌های عصبی کانولوشن یعنی Padding و Stride بپردازیم و در ادامه تأثیرات آنها در این نوع از شبکه‌ها را بیان خواهیم کرد.
شبکه عصبی و مبانی یادگیری عمیق (deep learning)
در حوزه یادگیری داده‌ها یکی از چالش‌های مطرح استخراج ویژگی‌های موردنیاز برای مسئله است. در یادگیری ماشین بایستی تمام ویژگی‌ها را به‌عنوان ورودی به مسئله بدهیم، اما برخلاف آن یادگیری عمیق (Deep Learning) و شبکه عصبی (Neural Network)، این…
Theano
Theano یک کتابخانه‌ی رایگان یادگیری عمیق به زبان پایتون است که در محاسبات عددی کاربرد دارد و برای اجرا بر روی CPU و GPU طراحی شده است.
مدل‌های مبتنی بر انرژی (energy based models)
مدل‌های مبتنی بر انرژی توزیع احتمال را بر روی داده‌ها با اختصاص یک مقیاس (یا "انرژی") به هر نقطه داده ورودی نشان می‌دهند. این قابلیت انعطاف‌پذیری مدل‌سازی مفیدی را فراهم می‌کند. هر مدل دلخواه که یک عدد واقعی را با توجه به ورودی تولید کند،…
مدل Transformer
مدل Transformer یک شبکه عصبی خاص برای کارهای پردازش زبان طبیعی است، که از آن برای افزایش سرعت آموزش مدل‌های شبکه عصبی استفاده می‌شود. بزرگ‌ترین فایده این مدل موازی‌سازی عملکرد ترجمه زبان‌ها است. در این مقاله با نگاهی ساده مدل Transformer…
یادگیری انتقال
یادگیری انتقال یکی از تکنیک‌های یادگیری ماشین است که در آن یک مدل آموزش داده‌شده در یک کار، مجدداً در یک کار مرتبط دیگر مورداستفاده قرار می‌گیرد.
ماشین بولتزمن محدودشده(Restricted Boltzman machine)
شبکه‌های عصبی تصادفی و مولدی هستند که مشکلات ترکیبی دشوار را حل می‌کنند. درواقع الگوریتم‌هایی هستند که برای کاهش ابعاد، طبقه‌بندی، رگرسیون، فیلتر کردن، یادگیری ویژگی‌ها و مدل‌سازی استفاده می‌شوند.