همکاری استراتژیک اپل و انویدیا فناوری چگونه استنتاج مدلهای زبانی بزرگ را متحول میکند؟, اپل با اعلام همکاری جدید خود با انویدیا، گامی مهم در جهت تسریع پردازش مدلهای زبانی بزرگ (LLM) برداشته است. این اتحاد بر پایه فناوری منبع باز استوار شده که اپل در نوامبر ۲۰۲۴ معرفی کرد.
هدف اصلی، مقابله با چالشهای محاسباتی سنگین در فرآیند تولید توکنهای خودکار است که گلوگاه اصلی کارایی در برنامههای مبتنی بر هوش مصنوعی محسوب میشوند.\مکانیزم پیشرفته ترکیبی از RNN، جستجوی پرتویی و درخت داینامیکبرخلاف روشهای سنتی، رویکردی نوین مبتنی بر رمزگشایی احتمالی را به کار میگیرد.
بر اساس ارزیابیهای داخلی اپل، این معماری توانسته است تا ۲.۷ برابر سرعت تولید توکن در ثانیه را در مقایسه با راهحلهای کلاسیک ارائه دهد.\بهینهسازی سختافزاری با انویدیاقدرت واقعی با ادغام در چارچوب انویدیا آشکار میشود. این یکپارچگی امکان استنتاج سریع مدلهای زبانی بزرگ را روی پردازندههای گرافیکی (GPU) انویدیا فراهم میآورد که ستون فقرات زیرساختهای آموزش و استقرار AI هستند.
برای پشتیبانی از الگوریتمهای منحصر به فرد، انویدیا عملگرهای جدیدی را معرفی کرده و عملگرهای موجود در را بهینهسازی نموده است.
اپل تأکید میکند که با کاهش چشمگیر تاخیر برای کاربران نهایی، همزمان نیاز به تعداد کمتر GPU را به همراه دارد. این بهینهسازی دو پیامد استراتژیک دارد کاهش قابل توجه هزینههای محاسباتی و ạ مصرف انرژی.
برای سازمانهایی که با استقرارهای هوش مصنوعی در مقیاس وسیع سر و کار دارند، این ویژگیها حیاتی و تعیینکنندهای برای پایداری اقتصادی و محیطی پروژههاست.\آینده فراتر از اکوسیستم انویدیاهرچند تمرکز فعلی این همکاری بر روی سختافزار و نرمافزار انویدیا متمرکز است، اما ناظرین انتظار دارند مزایای عملکردی مشابه در آینده به GPUهای رقیب مانند AMD و نیز گسترش یابد.
این یسازی دسترسی به استنتاج سریع، میتواند اکوسیستم هوش مصنوعی را به طور کلی متحول سازد.\دیدگاه انویدیا تقویت اکوسیستم LLMانور لئون، از مسئولان ارشد انویدیا، در مورد این همکاری بیان داشت این اتحاد باعث تقویت شده و به جامعه توسعهدهندگان LLM امکان میدهد تا مدلهای پیچیدهتری را بسازند و به سادگی آنها را روی این پلتفرم مستقر کنند.
قابلیتهای جدید، افقهایی را برای نسل بعدی مدلهای پیشرفته گشوده است که مستقیماً از پیشرفتهای بهرهمند خواهند شد.



