خانه > مقالات آموزشی > یادگیری عمیق به زبان ساده : ماشین بولتزمن محدود شده – قسمت ششم

یادگیری عمیق به زبان ساده : ماشین بولتزمن محدود شده – قسمت ششم

دستیابی به چه موفقیت هایی بود که به شبکه های عمیق اجازه داد تا با مشکل محو شدگی گرادیان مقابله کنند؟ پاسخ دارای دو بخش است که بخش اول شامل ماشین بولتزمن محدود شده ( RBM ) است ، الگوریتمی که می تواند با بازسازی ورودی ، به طور خودکار الگوهای ذاتی در داده ها را تشخیص دهد.

جف هینتون از دانشگاه تورنتو ، پیشگام و غول این رشته ، توانست یک روش برای آموزش شبکه های عمیق بسازد. کار او منجر به ایجاد ماشین بولتزمن محدود شده یا RBM شد.

از لحاظ ساختاری، ماشین بولتزمن محدود شده ( RBM ) یک شبکه عصبی کم عمق است و فقط دارای دو لایه – لایه قابل مشاهده و لایه پنهان – است. در این شبکه، هر گره به همه ی گره های لایه مجاور متصل می شود. “محدودیت” به این واقعیت اشاره دارد که هیچ دو گره از یک لایه با یکدیگر ارتباط ندارند.

هدف ماشین بولتزمن محدود شده ( RBM ) این است که ورودی ها را در حد امکان دقیق بازسازی کند. در گذر از جلو ، ورودی ها توسط وزن ها و بایاس ها اصلاح می شوند و برای فعال کردن لایه پنهان استفاده می شوند. در مرحله ی بعدی ، فعال سازی های موجود از لایه پنهان توسط وزن ها و بایاس ها اصلاح می شوند و برای فعال سازی به لایه ورودی ارسال می شوند. در لایه ورودی، فعال سازی های اصلاح شده به عنوان بازسازی ورودی مشاهده می شوند و با ورودی اصلی مقایسه می شوند. از معیارهایی به نام KL Divergence برای تحلیل دقیق شبکه استفاده می شود. روند آموزش شامل افزایش مداوم وزن ها و بایاس ها در هر دو گذر است تا ورودی بازسازی شده تا حد ممکن به ورودی اصلی نزدیک شود.

اگر تاکنون در یکی از پروژه های خود با ماشین بولتزمن محدود شده ( RBM ) کار کرده اید ، لطفاً در مورد تجربیات خود نظر دهید و به ما اطلاع دهید.

از آنجا که RBM ها سعی در بازسازی ورودی دارند ، داده ها نیازی به برچسب زدن ندارند. این برای بسیاری از برنامه های دنیای واقعی بسیار مهم است زیرا اکثر مجموعه داده ها – عکس ها ، فیلم ها و سیگنال های سنسور – بدون برچسب هستند. برای بازسازی ورودی،  RBM همچنین باید بلوک های سازنده و الگوهای ذاتی در داده ها را رمزگشایی کند. از این رو RBM به خانواده ای از استخراج کننده های ویژگی معروف به رمزنگار خودکار تعلق دارد.

منبع Youtube
0/5 ( 0 نظر )

درباره‌ی احمدرضا جعفری

همچنین ببینید

نویسه خوان ocr یادگیری عمیق

آینده نویسه خوان ( OCR )، یادگیری عمیق است

چه در مورد استخراج خودکار اطلاعات از رسید اسکن شده برای گزارش هزینه و یا …

پاسخی بگذارید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *