حالا دیگر می‌توانید یک مدل هوش مصنوعی سطح GPT-3 را روی لپ تاپ، تلفن و «رزبری پای» خود اجرا کنید

0

سرعت تحولات در سرزمین هوش مصنوعی شتاب گرفته. روز جمعه، یک توسعه‌دهنده نرم‌افزار به نام گئورگی گرگانف ابزاری به نام “llama.cpp” ایجاد کرد که می‌تواند مدل جدید زبان بزرگ هوش مصنوعی متا کلاس GPT-3 یا LLaMA را به صورت محلی روی لپ‌تاپ مک اجرا کند.

چیزی نگذشته بود که مردم نحوه اجرای LLaMA را در ویندوز نیز بررسی کردند. سپس شخصی آن را در حال اجرا بر روی یک تلفن پیکسل 6 نشان داد و بعد از آن روی یک«رزبری پای» Raspberry Pi (البته روی این دو تا با سرعت کم).

اگر این روند ادامه پیدا کند، ممکن است روزی رقیب جیبی ChatGPT را دیگر در لپ تاپ و گوشی خودمان داشته باشیم. تصور کنید که بتوانید یادداشت‌های شخصی و هر اطلاعاتی که دوست دارید به دیتابیسش بخورانید و خلاصه تحویل بگیرید! مثلا کل رمان‌ها یا جزوات دانشگاهی و متنون درسی که دوست دارید!

البته فعلا به این مرحله نرسیده‌ایم. (حداقل نه تا امروز) اما هیچ کس نمی‌داند که هفته آینده چه خواهد شد.

از زمان راه‌اندازی ChatGPT ، برخی از افراد از محدودیت‌های داخلی مدل هوش مصنوعی که مانع از بحث درباره موضوعاتی می‌شود که OpenAI حساس می‌داند، ناامید شده‌اند. بنابراین رویای یک مدل زبان بزرگ منبع باز (LLM) آغاز شد که هر کسی بتواند بدون سانسور و بدون پرداخت هزینه API به OpenAI به صورت محلی آن را اجرا کند.

البته راه‌حل‌های منبع باز شناخته‌شده‌ای از قبل هم وجود داشتند (مانند GPT-J )، اما به مقدار زیادی RAM و فضای ذخیره‌سازی GPU نیاز دارن. تا امروز جایگزین‌های منبع باز نمی‌توانستند عملکرد سطح GPT-3 را در سخت افزاری در سطح کاربران عادی به راحتی در دسترس داشته باشند.

اما LLaMA، مدل‌ سایز کوچک‌تری است که می‌تواند در کیفیت و سرعت خروجی‌اش راضی‌مان کند. فقط یک مشکل وجود داشت – متا کد LLaMA را به صورت منبع باز  منتشر کرده، اما به صورت کامل فقط برای محققان واجد شرایط.

محدودیت های متا در LLaMA زیاد دوام نیاورد، زیرا در 2 مارس، شخصی به اصطلاح «وزن‌»های LLaMA را در BitTorrent فاش کرد. از آن زمان، انفجاری در توسعه پیرامون LLaMA رخ داد. محقق مستقل هوش مصنوعی سایمون ویلیسون  این وضعیت را با انتشار Stable Diffusion، مقایسه کرده. او هیجان زده نوشت امروز صبح برای اولین بار یک مدل زبان کلاس GPT-3 را روی لپ تاپ شخصی خودم اجرا کردم!

به طور معمول، اجرای GPT-3 به چندین پردازنده گرافیکی A100  نیاز دار، اما LLaMA مورد توجه قرار گرفته زیرا می‌تواند روی یک پردازنده گرافیکی واحد در دسترس کاربران عادی اجرا شود.

اکنون، با بهینه‌سازی‌هایی که اندازه مدل را با استفاده از تکنیکی به نام کوانتیزه‌سازی کاهش می‌دهد، LLaMA می‌تواند روی یک مک M1 یا یک پردازنده گرافیکی  Nvidia اجرا کرد. (اگرچه “llama.cpp” در حال حاضر فقط بر روی CPU اجرا می‌شود.)

لیستی از رویدادهای قابل توجه مرتبط با LLaMA بر اساس جدول زمانی – ارائه شده توسط ویلیسون در هکر نیوز:

24 فوریه 2023: هوش مصنوعی متا LLaMA رونمایی شد.
2 مارس 2023: شخصی مدل‌های LLaMA را از طریق BitTorrent افشاکرد.
10 مارس 2023: گئورگی گرگانوف llama.cpp را ایجاد کرد که می تواند روی M1 Mac اجرا شود.
11 مارس 2023:  اجرای LLaMA 7B (به سرعت کم) را روی Raspberry Pi 4با  4 گیگابایت رم.
13 مارس 2023: شخصی llama.cpp را روی تلفن Pixel 6 اجرا کرد. باز با سرعت کم.
13 مارس 2023، 2023: استنفورد Alpaca 7B را منتشر کرد، یک نسخه تنظیم‌شده با دستورالعمل از LLaMA 7B که عملکردی مشابه با text-davinci-003  OpenAI دارد، اما روی سخت‌افزار بسیار کم‌قدرت اجرا می‌شود.

البته اجرای LLaMA در مک چندان هم ساده نیست. در واقع یک تمرین نسبتاً فنی برای شماست. شما باید پایتون و Xcode را نصب کنید و با کار بر روی خط فرمان آشنا باشید. ویلیسون دستورالعمل های گام به گام خوبی برای هر کسی که مایل به انجام آن است دارد.

در مورد پیامدهای عرضه همگانی این فناوری  هنوز کسی نمی داند. در حالی که برخی نگران تأثیر هوش مصنوعی به عنوان ابزاری برای انتشار هرزنامه و اطلاعات نادرست هستند،برخی به کاربردهای خوبش فکر می‌کنند.


اگر خواننده جدید سایت «یک پزشک»  هستید!
شما در حال خواندن سایت یک پزشک (یک پزشک دات کام) به نشانی اینترنتی www.1pezeshk.com هستید. سایتی با 18 سال سابقه که برخلاف اسمش سرشار از مطالب متنوع است!
ما را رها نکنید. بسیار ممنون می‌شویم اگر:
- سایت یک پزشک رو در مرورگر خود بوک‌مارک کنید.
-مشترک فید یا RSS یک پزشک شوید.
- شبکه‌های اجتماعی ما را دنبال کنید: صفحه تلگرام - صفحه اینستاگرام ما
- برای سفارش تبلیغات ایمیل alirezamajidi در جی میل یا تلگرام تماس بگیرید.
و دیگر مطالب ما را بخوانید. مثلا:

سلبریتی‌ها اگر کاری عادی داشتند – پاسخ‌های تصویری میدجرنی

چه می‌شد اگر یک هنرپیشه نامدار در سنی طلایی امکان جذب شدن در رشته بازیگری را پیدا نمی‌کرد یا بحرانی خانوادگی او را وادار به سال‌ها کار عادی می‌کرد. چه می‌شد اگر نخستین کسانی که تست بازیگری از او می‌گرفتند، به کلی مایوس و دلسردش می‌کردند.…

فرار از زندان را این آدم‌ها ممکن کردند؟ ماجراهای جالب

از زمانی که زندان وجود دارد، محبوسین با وجود موانعی مانند دیوارهای بلند، نرده های فولادی و نگهبانان موفق به فرار شده اند. به تازگی یک جنایتکار در فرانسه موفق به فرار شد. در این گالری نگاهی به جالب ترین موارد می اندازیم. فرار فیلمی…

خاطره‌بازی‌ با هم‌خوابگاهی‌ها و هم‌خانه‌های کثیف زمان دانشجویی!

الان را نمی‌دانم، اما داشتیم هم‌خوابگاه‌هایی و هم‌اتاقی‌هایی که نظم و بهداشت برایشان اولویت نبود. شاید یک جور لج و لجبازی برای نامرتب بودن و نشان دادن بی‌حالی و غم فلسفی هم در کار بود.ظرف‌های نشسته که دست کم مواد غذایی داخلشان تخلیه…

اگر نئاتدرتال‌ها بر انسان‌های به اصطلاح خردمند غلبه می‌کردند، شاید اینها ستاره‌های سینماهای آنها…

سوابق فسیلی نشان می‌دهد که نئاندرتال‌ها در حدود 40000 تا 30000 سال پیش از سوابق باستان‌شناسی ناپدید شدند، اگر در برخی مکان‌ها ممکن است تا حدود 28000 سال پیش  زنده مانده باشند.نئاندرتال‌ها گونه‌ای از انسان‌های باستانی بودند که تا زمان…

تبدیل شخصیت‌های انیمیشن‌های و کارتون‌ها به نمونه‌های انسانی شبیه به آنها

در انیمیشن‌ها ما حیوانات را دارای شخصیت انسانی می‌کنیم، رخت و لباس به تنشان می‌کنیم، آنها را صاحب جامعه و شهر می‌کنیم و رفتارهای انسانی را به آنها منتسب می‌کنیم.اما تصور کنید که در کاری معکوس، این شخصیت‌های کارتونی را می‌توانستیم به…

عکس های هوایی تام هگن از باغ های زیتون اسپانیا – الگوهای زیبای مواج و سنت‌های قدیمی

به مدت هزاران سال، اسپانیا به دلیل آب و هوای مدیترانه‌ای، تابستان‌های طولانی و گرم و دمای معتدل زمستانی، در تولید زیتون پیشرو بوده است. میوه‌های زیتون که در آب نمک نگهداری می‌شوند و یا آسیاب می‌شوند تا روغن‌های طبیعی از آنها استخراج شوند،…
آگهی متنی در همه صفحات
دکتر فارمو / آموزش رانندگی با ماشین دنده اتومات / فروشگاه لوازم بهداشتی / آموزش زبان فرانسه / هایلند بیوتی / شیشه اتومبیل / کاهش وزن قطعی با اسلیو معده / دانلود ریمیکس های جدید /بهترین جراح اسلیو معده در تهران / درمان سرد مزاجی بانوان / قیمت گوسفند زنده / موتور فن کویل /کپسول پرگابالین / لیزر زگیل تناسلی /بهترین کلینیک کاشت مو مشهد /داروخانه آنلاین / بهترین سریال های ۲۰۲۴ / خرید دستگاه تصفیه آب / تجهیزات و وسایل دندانپزشکی /ثبت برند /خدمات پرداخت ارزی نوین پرداخت /جراح تیروئید / پزشکا /سریال ایرانی کول دانلود / مجتمع فنی تهران / دانلود فیلم دوبله فارسی /موتور فن کویل / نرم افزار حسابداری / مقاله بازار / شیشه اتومبیل /بهترین دکتر لیپوماتیک در تهران /کاشت مو / درمان طب / تجهیزات پزشکی /داروخانه اینترنتی آرتان /اشتراك دايت /فروشگاه لوازم بهداشتی /داروخانه تینا /سایت نوید /کلاه کاسکت /ساعت تبلیغاتی /تجهیزات پزشکی /بهترین سریال های ایرانی /کاشت مو /قیمت ساک پارچه ای /دانلود نرم افزار /

ارسال یک پاسخ

آدرس ایمیل شما منتشر نخواهد شد.