به نقل از news.mit.edu، مهندسانی که بر روی «یادگیری عمیق آنالوگ» کار میکنند راهی برای به حرکت درآوردن پروتونها از طریق جامدات با سرعتی بیسابقه یافتهاند.
همانطور که دانشمندان مرزهای یادگیری ماشین را پیش میبرند، مقدار زمان، انرژی و پول مورد نیاز برای آموزش مدلهای پیچیده شبکه عصبی به شدت افزایش مییابد. حوزه جدیدی از هوش مصنوعی به نام یادگیری عمیق آنالوگ نوید محاسبات سریعتر با کسری از مصرف انرژی را میدهد.
با تکرار آرایههایی از مقاومتهای قابل برنامهریزی در لایههای پیچیده، محققان میتوانند شبکهای از نورونها و سیناپسهای مصنوعی آنالوگ ایجاد کنند که محاسبات را درست مانند یک شبکه عصبی دیجیتال انجام میدهند، سپس میتوان این شبکه را برای دستیابی به وظایف پیچیده هوش مصنوعی مانند تشخیص تصویر و پردازش زبان طبیعی آموزش داد.
یک تیم چند رشتهای از محققان MIT تصمیم گرفتند تا محدودیتهای سرعت نوعی سیناپس آنالوگ ساخت بشر را که قبلا توسعه داده بودند، افزایش دهند. آنها از یک ماده معدنی عملی در فرآیند ساخت استفاده کردند که به دستگاههایشان امکان میدهد ۱ میلیون برابر سریعتر از نسخههای قبلی کار کنند، که حدود ۱ میلیون برابر سریعتر از سیناپسهای مغز انسان نیز است.
علاوه بر این، این ماده معدنی باعث میشود که مقاومت بسیار کم مصرف شود. برخلاف مواد مورد استفاده در نسخه قبلی دستگاه خود، مواد جدید با تکنیکهای ساخت سیلیکون سازگار است. این تغییر امکان ساخت دستگاههایی در مقیاس نانومتری را فراهم کرده است و میتواند راه را برای ادغام در سختافزار محاسباتی تجاری برای کاربردهای یادگیری عمیق هموار کند.
جسوس آ، نویسنده ارشد این مقاله میگوید: با این بینش کلیدی و تکنیکهای بسیار قدرتمند نانوساخت ما توانستیم این قطعات را کنار هم قرار داده و نشان دهیم که این دستگاهها ذاتا بسیار سریع هستند و با ولتاژهای معقول کار میکنند، این کار واقعا این دستگاهها را در نقطهای قرار داده است که اکنون برای کاربردهای آینده بسیار امیدوارکننده به نظر میرسند.
مکانیسم کار این دستگاه، قرار دادن الکتروشیمیایی کوچکترین یون، پروتون، در یک اکسید عایق برای تعدیل هدایت الکترونیکی آن است.
یکی از دانشمندان این پروژه در این زمینه توضیح میدهد از آنجایی که ما با دستگاههای بسیار نازک کار میکنیم، میتوانیم با استفاده از یک میدان الکتریکی قوی، حرکت این یون را تسریع کنیم و این دستگاههای یونی را به رژیم عملیات نانوثانیه برسانیم.
جو لی، نویسنده ارشد، پروفسور علوم و مهندسی هستهای میگوید: پتانسیل عمل در سلولهای بیولوژیکی با مقیاس زمانی میلی ثانیه افزایش و کاهش مییابد، زیرا اختلاف ولتاژ حدود ۰.۱ ولت به دلیل پایداری آب محدود میشود. در اینجا ما حداکثر ۱۰ ولت را روی یک لایه شیشه جامد ویژه با ضخامت نانومقیاس اعمال میکنیم که پروتونها را بدون آسیب دائمی به آن هدایت میکند؛ و هر چه میدان قویتر باشد، دستگاههای یونی سریعتر هستند.
این مقاومتهای قابل برنامهریزی، سرعت آموزش شبکه عصبی را به شدت افزایش میدهند، در حالی که هزینه و انرژی اجرای آن آموزش را به شدت کاهش میدهند. این میتواند به دانشمندان کمک کند تا مدلهای یادگیری عمیق را با سرعت بسیار بیشتری توسعه دهند که میتواند در مواردی مانند اتومبیلهای خودران، تشخیص تقلب یا تجزیه و تحلیل تصویر پزشکی استفاده شود.
هنگامی که یک پردازنده آنالوگ دارید، دیگر شبکههایی را آموزش نمیدهید که دیگران روی آن کار میکنند. شما شبکههایی با پیچیدگیهای بیسابقهای را آموزش میدهید که هیچکس دیگر نمیتواند از عهده آن برآید، بنابراین عملکرد بسیار بهتری از همه آنها خواهید داشت. به عبارت دیگر، این ماشین سریع نیست، این یک فضاپیماست.
تسریع در یادگیری عمیق
یادگیری عمیق آنالوگ به دو دلیل اصلی سریعتر و کم مصرفتر از همتای دیجیتالی خود است؛ محاسبات در حافظه انجام میشود، بنابراین حجم عظیمی از دادهها از حافظه به پردازنده منتقل نمیشوند. پردازندههای آنالوگ نیز به صورت موازی عملیات انجام میدهند. اگر اندازه ماتریس بزرگ شود، یک پردازنده آنالوگ به زمان بیشتری برای تکمیل عملیات جدید نیاز ندارد، زیرا تمام محاسبات به طور همزمان انجام میشود.
عنصر کلیدی فناوری جدید پردازنده آنالوگ MIT به عنوان مقاومت قابل برنامه ریزی پروتونیک شناخته میشود. این مقاومتها که بر حسب نانومتر اندازه گیری میشوند، در یک آرایه مانند یک صفحه شطرنج قرار گرفتهاند.
در مغز انسان، یادگیری به دلیل تقویت و تضعیف ارتباطات بین نورونها به نام سیناپس اتفاق میافتد. شبکههای عصبی عمیق مدتهاست که این استراتژی را اتخاذ کردهاند که در آن وزنهای شبکه از طریق الگوریتمهای آموزشی برنامهریزی میشوند. در مورد این پردازنده جدید، افزایش و کاهش رسانایی الکتریکی مقاومتهای پروتونیک، یادگیری ماشین آنالوگ را ممکن میسازد.
برای توسعه یک مقاومت پروتونیک قابل برنامه ریزی فوق سریع و بسیار کارآمد، محققان به مواد مختلف برای الکترولیت نگاه کردند. در حالی که دستگاههای دیگر از ترکیبات آلی استفاده میکردند، Onen روی شیشه فسفوسیلیکات معدنی (PSG) تمرکز کرد.
بیشتر بخوانید
سرعت شگفت انگیز
PSG حرکت فوق سریع پروتون را امکان پذیر میکند، زیرا حاوی تعداد زیادی منافذ به اندازه نانومتر است که سطوح آنها مسیرهایی را برای انتشار پروتون فراهم میکند. همچنین میتواند میدانهای الکتریکی بسیار قوی و پالسی را تحمل کند.
از آنجایی که پروتونها به مواد آسیب نمیرسانند، مقاومت میتواند میلیونها چرخه را بدون شکستگی کار کند. این الکترولیت جدید یک مقاومت پروتونیک قابل برنامه ریزی را فعال میکند که یک میلیون بار سریعتر از دستگاه قبلی است و میتواند به طور موثر در دمای اتاق کار کند که برای ترکیب آن در سخت افزار محاسباتی مهم است.