چرا لپ تاپ بعدی شما مانند گوشی موبایل NPU دارد؟!

اگر در حال بررسی خرید یک لپ‌تاپ جدید هستید، بدون شک متوجه خواهید شد که هر روز لپ‌تاپ‌های بیشتری دارای قطعه سخت‌افزاری NPU می‌شوند که بسیار شبیه سخت‌افزاری است که در چند سال اخیر در بهترین گوشی‌های هوشمند دیده‌ایم.

NPU عامل حرکت لپ‌تاپ‌ها برای رسیدن به قابلیت‌های هوش مصنوعی گوشی‌های همراه است و آن‌ها را مجهز به ویژگی‌های هوش مصنوعی پیشرفته می‌کند (مانند Copilot مایکروسافت) و به این ترتیب می‌تواند بدون نیاز به اتصال اینترنت به طور ایمن روی دستگاه اجرا شود.

NPU مخفف واحد پردازش عصبی Neural Processing Unit است. NPU‌ها به اجرای توابع ریاضی مرتبط با وظایف شبکه عصبی/یادگیری ماشین/AI اختصاص داده شده‌اند. آنها می‌توانند تراشه‌های مستقل باشند، اما فعلا بیشتر مستقیماً در یک سیستم روی تراشه (SoC) در کنار اجزای CPU و GPU به صورت ادغام‌شده گذاشته می‌شوند.

NPU‌ها اشکال و اندازه‌های مختلفی دارند و معمولاً بسته به شرکت طراحی تراشه کمی متفاوت نامگذاری می‌شوند. شما در حال حاضر مدل‌های مختلفی از آن را در گوشی‌های هوشمند می‌بینید. کوالکام دارای هگزاگون در پردازنده‌های اسنپدراگون خود است، گوگل TPU‌های خود را هم برای تراشه‌های ابری و هم برای تراشه‌های Tensor موبایل به بازار فرستاده و سامسونگ پیاده‌سازی مخصوص به خود رادر تراشه Exynos دارد.

این‌ایده اکنون در فضای لپ تاپ و رایانه شخصی نیز مطرح شده. به عنوان مثال، موتور عصبی در جدیدترین Apple M۴ و اسنپ‌دراگون X Elite کوالکام.

AMD و Intel شروع به ادغام NPU در جدیدترین چیپ‌ست‌های خود کرده‌اند.

همانطور که اشاره کردیم، NPU‌ها برای مدیریت پردازش یادگیری ماشینی (همراه با سایر کار‌های سنگین ریاضی) به طور هدفمند ساخته شده‌اند. به زبان ساده، یک NPU یک جزء بسیار مفید و شاید حتی ضروری برای اجرای هوش مصنوعی بر روی دستگاه به جای فضای ابری است.

بسیاری از پردازش‌های هوش مصنوعی امروزی در فضای ابری انجام می‌شود، اما این به دلایل مختلفی‌ایده‌آل نیست. اولین مشکل، تأخیر و الزامات شبکه است. در حالت آفلاین نمی‌توانید به ابزار‌ها دسترسی داشته باشید یا ممکن است مجبور باشید در ساعات اوج مصرف برای مدت زمان طولانی منتظر بمانید. ارسال داده‌ها از طریق اینترنت نیز امنیت کمتری دارد، که در هنگام استفاده از هوش مصنوعی از اطلاعات شخصی شما مانند Recall مایکروسافت، بسیار مهم است.

به زبان ساده، اجرای روی دستگاه ترجیح داده می‌شود. با این حال، پردازش هوش مصنوعی بسیار سنگین هستند و روی سخت‌افزار‌های سنتی به خوبی اجرا نمی‌شوند. اگر سعی کرده باشید از طریق Stable Diffusion روی لپ تاپ خود تصاویر تولید کنید، ممکن است متوجه این موضوع شده باشید و برای کار‌های پیشرفته‌تر می‌تواند به طرز وحشتناکی کند باشد، اگرچه CPU‌ها می‌توانند تعدادی از وظایف «ساده‌تر» هوش مصنوعی را به خوبی اجرا کنند.

راه حل این است که از سخت‌افزار اختصاصی برای سرعت بخشیدن به این وظایف پیشرفته استفاده کنید. آن‌ها وظایف هوش مصنوعی را سریع‌تر و کارآمدتر از CPU به تنهایی انجام می‌دهند. عملکرد آن‌ها اغلب به صورت تریلیون‌ها عملیات در ثانیه (TOPS) است، اما این معیار بسیار مفیدی نیست زیرا دقیقاً به شما نمی‌گوید که هر عملیات چه کاری انجام می‌دهد. درعوض، اغلب بهتر است به دنبال ارقامی باشید که به شما می‌گویند سرعت پردازش توکن‌ها برای مدل‌های بزرگ چقدر است.

اگر نیاز دارید یک مدل زبان بزرگ اجرا کنید یا از هوش مصنوعی مولد برای تولید سریع رسانه استفاده کنید، شتاب‌دهنده/GPU قوی‌تر در محدوده صد‌ها یا هزاران TOPS می‌خواهید.

یک واحد پردازش عصبی به دلیل نوع بار کاری که برای اجرای آن طراحی شده با واحد پردازش مرکزی کاملاً متفاوت است. یک CPU معمولی در لپ‌تاپ یا گوشی هوشمند نسبتاً همه منظوره است تا بتواند طیف گسترده‌ای از برنامه‌ها را اجرا کند و از مجموعه دستورالعمل‌های گسترده (عملکرد‌هایی که می‌تواند انجام دهد)، راه‌های مختلف برای حافظه پنهان و فراخوانی عملکرد‌ها (برای سرعت بخشیدن به حلقه‌های تکراری) و بزرگ پشتیبانی می‌کند.

با این حال، پردازش یادگیری ماشین متفاوت است و به انعطاف‌پذیری زیادی نیاز ندارد. آن‌ها برای شروع بسیار سنگین‌تر از حد محاسبات ریاضی باید آماده باشند و اغلب به دستورالعمل‌های محاسباتی گران قیمتی مانند ضرب ماتریس و دسترسی بسیار سریع به مجموعه بزرگ حافظه نیاز دارند. آن‌ها همچنین اغلب بر روی فرمت‌های داده غیر معمول مانند اعداد صحیح شانزده، هشت یا حتی چهار بیتی کار می‌کنند. در مقایسه، CPU معمولی بر اساس ریاضیات عدد صحیح و ممیز شناور ۶۴ بیتی ساخته شده است.

برخی از NPU‌ها در کار بر روی مدل‌های خاص بهتر هستند. به عنوان مثال، برخی از NPU‌های گوشی‌های هوشمند با فرمت‌های INT۸ یا حتی INT۴ کار می‌کنند تا در مصرف انرژی صرفه‌جویی کنند، اما دقت بهتری از یک مدل FP۱۶ پیشرفته‌تر اما پرقدرت‌تر دارند. اگر به محاسبات واقعاً پیشرفته نیاز باشد، پردازنده‌های گرافیکی اختصاصی و شتاب‌دهنده‌های خارجی همچنان قدرتمندتر و دارای فرمت‌های متنوع‌تر از NPU‌های یکپارچه هستند.

به عنوان پشتیبان، CPU‌ها می‌توانند وظایف یادگیری ماشینی را اجرا کنند اما اغلب بسیار کندتر هستند. CPU‌های مدرن Arm، Apple، Intel و AMD از دستورالعمل‌های ریاضی لازم و برخی از سطوح کوانتیزاسیون کوچکتر پشتیبانی می‌کنند.

اما گلوگاه آن‌ها اغلب این است که چه تعداد از این عملکرد‌ها را به صورت موازی می‌توانند اجرا کنند و با چه سرعتی می‌توانند داده‌ها را به داخل و خارج از حافظه منتقل کنند، این همان چیزی است که NPU‌ها به طور خاص برای انجام آن طراحی شده‌اند.

اگر به روند هوش مصنوعی اهمیتی نمی‌دهید، خرید آنها خیلی ضروری نیست، اما برخی از جدیدترین NPU‌ها برای ویژگی‌های تازه مورد نیاز هستند.

برای مثال، Copilot Plus مایکرؤسافت، یک NPU با عملکرد ۴۰TOPS را به عنوان حداقل نیاز خود اعلام کرده و برای استفاده از Windows Recall به آن نیاز دارد. متأسفانه، تراشه‌های Meteor Lake اینتل و تراشه‌های Ryzen ۸۰۰۰ AMD که در لپ‌تاپ‌های فعلی یافت می‌شوند، این نیاز را برآورده نمی‌کنند. با این حال، تراشه‌های Stix Point Ryzen جدید معرفی‌شده AMD با آن سازگار هستند. لازم نیست مدت زیادی برای جایگزینی x۶۴ برای لپ‌تاپ‌های Arm-based Snapdragon X Elite منتظر بمانید، زیرا لپ‌تاپ‌های مجهز به Stix Point در نیمه اول ۲۰۲۴ هم در دسترس خواهند بود.

ابزار‌های محبوب PC مانند Audacity، DaVinci Resolve، Zoom و بسیاری دیگر به طور فزاینده‌ای با قابلیت‌های پزدازشی NPUها آزمایش شده‌اند.

وقتی صحبت از گوشی‌های هوشمند می‌شود، ویژگی‌ها و قابلیت‌های هوش مصنوعی بر اساس برند کمی متفاوت‌ است. به عنوان مثال، Galaxy AI سامسونگ فقط روی گوشی‌های پرچمدار قدرتمند گلکسی S اجرا می‌شود. ویژگی‌هایی مانند دستیار چت یا مترجم به Galaxy A۵۵ میان‌رده به صرفه اختصاص داده نشده، احتمالاً به این دلیل که قدرت پردازش لازم را ندارد.

در ضمن برخی از ویژگی‌های سامسونگ در فضای ابری نیز اجرا می‌شوند، اما احتمالاً وقتی گوشی میان‌رده می‌خرید سامسونگ از نظر مالی آنها را به خریدار نمی‌دهد.

گوگل هم وضعیت بهتری دارد. در حالی بهترین ویژگی‌های هوش مصنوعی گوگل را در پیکسل ۸ پرو خواهید یافت، ویژگی‌های هوش مصنوعی قابل توجهی در پیکسل ۸ و حتی ۸a مقرون به صرفه هم وجود دارد.

عصر، عصر هوش مصنوعی است و NPU‌ها کلید لذت بردن از ویژگی‌های روی گجت‌ها هستند.