پرش به محتوای اصلی

سامسونگ سود رکوردی ثبت کرد؛ هشدار SK Hynix درباره کمبود حافظه تا ۲۰۳۰

Behzat AImemory-shortageai-infrastructureagent-systemsinference-costsupply-chain
نمای ماکرو نزدیک از ماژول‌های حافظه با پهنای باند بالا روی یک برد مدار با پایه‌های تماسی و تراشه‌های قابل مشاهده

سامسونگ الکترونیکس به لطف تقاضای تراشه‌های هوش مصنوعی سود فصلی رکوردی ثبت کرد، در حالی که SK Hynix اعلام کرد کمبود تراشه حافظه احتمالاً تا ۲۰۳۰ ادامه خواهد داشت. سهام سامسونگ در پی هشدار کمبود تراشه هوش مصنوعی نزدیک به ۵ درصد افت کرد و گفته می‌شود OpenAI قصد دارد تراشه‌های هوش مصنوعی گوگل را خریداری کند تا وابستگی به Nvidia را کاهش دهد. این مجموعه نشان‌دهنده فشار پایدار در سراسر زنجیره تأمین شتاب‌دهنده و حافظه است، نه یک تنگنای کوتاه‌مدت.

نمای نزدیک از ماژول‌های RAM روی مادربورد یک کامپیوتر قدیمی

برای ناوگان‌های agent، این یک مسئله برنامه‌ریزی ظرفیت و هزینه واحد است، نه یک حاشیه‌نویسی در فرآیند خرید. بارهای کاری agent به حافظه و inference وابسته‌اند: پنجره‌های context طولانی، وضعیت retrieval پایدار و حلقه‌های چندمرحله‌ای tool call همگی پهنای باند حافظه و زمان شتاب‌دهنده مصرف می‌کنند. کمبود چندساله اقتصاد اجرای ازدحام‌های بزرگ هم‌زمان را تغییر می‌دهد و کار بر روی بهره‌وری — فشرده‌سازی context، caching، batching، مسیریابی به مدل‌های کوچک‌تر — را از یک مرحله بهینه‌سازی به یک محدودیت طراحی درجه‌یک تبدیل می‌کند.

دو جزئیات در پوشش ارائه‌شده روشن نیست: انواع حافظه و شرایط قرارداد مشخص متأثر از پیش‌بینی SK Hynix، و اینکه آیا برنامه گزارش‌شده تراشه OpenAI–Google از سوی هیچ‌یک از طرفین تأیید شده است یا خیر. هر دو برای مدل‌سازی ظرفیت اهمیت دارند. استودیوهایی که استقرارهای چندساله agent را برنامه‌ریزی می‌کنند باید دسترس‌پذیری حافظه و هزینه inference را به‌عنوان متغیرهای به‌هم‌پیوسته در بازبینی‌های معماری خود در نظر بگیرند و پیش از تعهد به یک تأمین‌کننده واحد شتاب‌دهنده، پیکربندی‌های جایگزین را بنچمارک کنند.

بیایید صحبت کنیم!