به گزارش علمی نیوز و به نقل از Psychology Today، اخیراً، محققان وابسته به کالج پزشکی بیلور، دانشگاه کمبریج، دانشگاه ماساچوست آمهرست و دانشگاه رایس روش جدیدی را برای انطباق مفهوم علوم اعصاب به نام «بازپخش مغز» در قلمرو دیجیتالی شبکههای عصبی مصنوعی ایجاد کردهاند. یادگیری.
از دیدگاه علوم اعصاب، مفهوم بازپخش مغز شبیه به سرویسی است که نمایشهای تکراری را از آرشیو وسیع محتوای از پیش ضبطشده ذخیرهشده خود فعال میکند. مغز می تواند با فعال کردن الگوهای فعالیت عصبی که تجربیات قبلی را نشان می دهد، چه در خواب و چه بیدار، خاطرات را دوباره پخش کند. این توانایی برای پخش مجدد حافظه از هیپوکامپ شروع می شود و سپس در قشر مغز ادامه می یابد.
سه پژوهشگر Hava Siegelmann، Andreas Tolias و Gido van de Ven مطالعهای را در Nature Communications در 13 آگوست 2020 منتشر کردند که عملکرد پیشرفتهای را از شبکههای عصبی با بکارگیری یک پیچ جدید در تقلید پخش مجدد مغز نشان میدهد.
از منظر آموزشی، بین یادآوری اطلاعات و درک مفاهیم اساسی تفاوت زیادی وجود دارد. مغز انسان توانایی قابل توجهی برای یادگیری با تکیه بر تجربیات قبلی بدون شروع هر بار از ابتدا و بدون به خاطر سپردن همه مثال ها دارد. به عنوان مثال، یک فرد به راحتی میتواند یک موجود اقیانوسی با بدن نرم با سر پیازی بزرگ و هشت بازوی شاخکدار را بهعنوان اختاپوس شناسایی کند، بدون اینکه قبلاً هر یک از تقریباً 300 گونه مختلف اختاپوس موجود را به خاطر بسپارد. این تعمیم نامیده می شود و یک ویژگی است که در یادگیری ماشینی کمبود دارد.
مغز منبع الهام برای یادگیری ماشینی هوش مصنوعی (AI) است. لایههای گرهها در شبکههای عصبی مصنوعی یک گره مصنوعی برای نورونهای بیولوژیکی هستند. یادگیری عمیق در توانایی مغز انسان در تعمیم مفاهیم پایین تر است.
در یادگیری تکلیفی افزایشی برای طبقهبندی، انتظار الگوریتمی که در ابتدا برای یادگیری طبقهبندی اختاپوس و خرچنگ آموزش داده شده بود، منطقی به نظر میرسد، سپس ماهی مرکب و ستارههای دریایی کاملاً قادر به تمایز اختاپوس از ستارههای دریایی خواهند بود. با این حال، شبکههای عصبی مصنوعی از این منظر فاقد توانایی هستند و اغلب به بازآموزی پرهزینه برای یادگیری کارهای جدید، مانند تمایز بین اختاپوس و ستاره دریایی، نیاز دارند. علاوه بر این، آموزش شبکه های عصبی نه تنها منابع فشرده است، بلکه می تواند ردپای کربن قابل توجهی ایجاد کند که تأثیر منفی بر محیط زیست دارد.
چگونه مشکل فراموشی شبکه عصبی مصنوعی را حل کنیم؟ یک رویکرد استفاده از ذخیره سازی داده های حافظه است که در آن شبکه عصبی نمونه های داده را برای پخش دقیق ذخیره و بازیابی می کند. اما این روش یادگیری ماشینی با حافظه فشرده پرهزینه و زمان بر است. همچنین، ممکن است ملاحظات مربوط به حریم خصوصی داده های خاص صنعت وجود داشته باشد که ممکن است این گزینه را به طور کلی حذف کند.
روش دیگر تولید داده برای پخش مجدد است. معماری سیستم بازپخش مولد معمولاً از دو بخش تشکیل شده است: یک مدل شبکه عصبی اصلی که مانند قشر مغز عمل می کند و شبکه عصبی مولد که مانند هیپوکامپ عمل می کند.
اولین اصلاحی که محققان انجام دادند از نوروآناتومی الهام گرفته شد. محققان با الهام از معماری مغز که در آن هیپوکامپ در لوب گیجگاهی قشر مغز جاسازی شده است، مدل مولد را به جای یک مدل مجزا در شبکه عصبی اصلی ادغام کردند و آن را با اتصالات مولد به عقب یا بازخورد مجهز کردند. نمایشها (چه پنهان یا داخلی) بر اساس اتصالات بازخورد تعدیلشده شبکه، دوباره پخش میشوند.
در یادگیری عمیق، رمزگذار خودکار متغیر (VAE) یک مدل مولد عمیق است که نتایج پیشرفتهای را برای یادگیری ماشین به همراه دارد. رمزگذارهای خودکار متغیر برای یادگیری تقویتی و تولید تصاویر استفاده می شوند. محققان از یک رمزگذار خودکار متغیر استفاده کردند.
محدودیت رمزگذارهای خودکار متغیر، ناتوانی در تولید نمونه هایی از یک کلاس است. برای غلبه بر این، تیم از توانایی مغز انسان برای کنترل خاطراتی که به یاد میآید الهام گرفتند. آنها استاندارد قبلی را با یک مخلوط گاوسی با یک حالت جداگانه برای هر کلاس جایگزین کردند. سپس گیتینگ را بر اساس زمینه داخلی فعال کردند. در طول گذر مولد به عقب، زیرمجموعه متفاوتی از نورونها در هر لایه برای هر کار یا کلاسی که یاد گرفته شده، مهار میشود. در طول بازپخش داخلی، نمایش های داخلی یا پنهان دوباره پخش می شوند.
محققان گزارش دادند: «روش ما به عملکرد پیشرفتهای در معیارهای چالش برانگیز یادگیری مستمر (مانند یادگیری افزایشی کلاس در CIFAR-100) بدون ذخیره دادهها دست مییابد و مدل جدیدی برای پخش مجدد در مغز ارائه میکند.
با به کارگیری رشته های متعدد علوم اعصاب، هوش مصنوعی، عصب آناتومی و علم داده، این همکاری تحقیقاتی توانست رویکرد استاندارد یادگیری ماشین را برای تقلید از عملکرد بازپخش مغز انسان بهبود بخشد. این نوآوری شبکههای عصبی مصنوعی را قادر میسازد تا به صورت تدریجی از تجربه به شیوهای مقیاسپذیرتر و کارآمدتر در آینده یاد بگیرند.