ترسهای ایلان ماسک و ایلیا سوتسکِور درباره OpenAI در حال تحقق است
پروژهای مخفی برای مدلهای پیشرفته هوش مصنوعی
شرکت OpenAI به دنبال توسعه مدلهای هوش مصنوعی با قابلیتهای پیشرفته استدلال تحت نام رمزی «Strawberry» است. به گزارش رویترز، این پروژه قبلاً با نامهای Q* یا Q Star شناخته میشد. این پروژه جدید نیست و نگرانیهایی در بین محققان و بنیانگذاران OpenAI درباره آن وجود داشته، به طوری که گفته میشود نقش مهمی در برکناری کوتاه مدت سم آلتمن، مدیرعامل OpenAI در نوامبر گذشته داشته است.
توسعه مدلهای هوش مصنوعی با استدلال در سطح انسانی
پروژه Strawberry از یک روش منحصر به فرد برای بهبود عملکرد مدلهای هوش مصنوعی پس از آموزش بر روی مجموعه دادهها استفاده میکند. با استفاده از مجموعه دادههای عمیقپژوهشی (deep-research)، هدف OpenAI ایجاد مدلهایی با استدلال در سطح انسانی است. این مدلها قادر خواهند بود به طور مداوم وظایف را انجام دهند، خودشان به جستجوی وب بپردازند و اقدامات لازم را انجام دهند و کارهای مهندسان را انجام دهند.
نگرانیهای ایلان ماسک و ایلیا سوتسکِور
سم آلتمن، که قبلاً از علاقه OpenAI به ایجاد مدلهایی با قابلیت استدلال صحبت کرده بود، در سال گذشته به طور موقت از سمت خود برکنار شد. این اتفاق پس از آن رخ داد که برخی از کارکنان OpenAI درباره پیشرفتهای پروژه Q* نگران شدند. ایلیا سوتسکِور، مدیر علمی سابق OpenAI، نیز نسبت به فناوری این پروژه نگرانیهایی داشت. پس از بازگشت آلتمن، او در مصاحبهای خبرهای مربوط به Q* را «نشتی خبر ناخوشایند» نامید.
نقش مایکروسافت و دعوای حقوقی
ایلان ماسک، یکی از بنیانگذاران OpenAI، نیز در گذشته درباره پروژه Q* هشدار داده بود. ماسک که در سال ۲۰۱۸ از این شرکت جدا شد، در یک دعوای حقوقی علیه OpenAI و آلتمن به این پروژه اشاره کرد. این دعوا که اکنون خاتمه یافته، ادعا میکرد که مدل GPT-4 OpenAI به عنوان AGI (هوش مصنوعی عمومی) شناخته میشود که «تهدیدی جدی برای بشریت» است.
پیشرفتهای جدید در استدلال سطح انسانی
جلسات داخلی اخیر نشان میدهد که OpenAI در مسیر دستیابی به استدلال در سطح انسانی با پروژه Strawberry پیشرفت سریعی داشته است. در یک جلسه عمومی شرکت، یک سیستم پنج سطحی برای پیگیری پیشرفت به سوی AGI معرفی شد. OpenAI اعلام کرد که در حال حاضر در سطح اول، یعنی «چتباتها» قرار دارد و به زودی به سطح دوم، یعنی «استدلالگران» میرسد. مراحل بعدی شامل سیستمهای هوش مصنوعی به عنوان «عاملها» که میتوانند اقداماتی را راسا انجام دهند، است. سطح پیشرفت «نوآوران» در اختراعات کمک میکنند و «سازمانها» از عهده کارهای یک سازمان برخواهند آمد.
مطالب مرتبط
