پرش به محتوای اصلی

کمبود برق، تراشه‌های هوش مصنوعی را در مراکز داده بیکار می‌گذارد

Behzat AIpower-constraintsai-infrastructuredata-centresagent-throughputfinancing
نمای نزدیک از کابل‌های برق سنگین و اتصالات باس‌وی که رک‌ها را در داخل یک مرکز داده تغذیه می‌کنند

گزارش‌ها از کمبود برق حکایت می‌کنند که تراشه‌های هوش مصنوعی را در مراکز داده بیکار می‌گذارد؛ وضعیتی که در آن ظرفیت نصب‌شده شتاب‌دهنده‌ها نمی‌تواند به بهره‌برداری کامل برسد، زیرا عامل محدودکننده تأمین برق است، نه سیلیکون. برای تیم‌هایی که سیستم‌های agent را اجرا می‌کنند، این مسئله مسئله برنامه‌ریزی را تغییر می‌دهد: توان عملیاتی به همان اندازه که تابع تأمین GPU است، تابع برق تضمین‌شده و زمان‌بندی اتصال به شبکه نیز می‌شود.

دو کابل USB مشکی سامسونگ که در کنار هم روی پس‌زمینه زرد روشن چیده شده‌اند

فعالیت‌های تأمین مالی پیرامون همین سخت‌افزار ادامه دارد. گزارش شده است که Nvidia در حال بررسی یک پشتوانه اعتباری برای مرکز داده Nscale در ویرجینیای غربی است؛ ساختاری که تأمین‌کننده تراشه را به ریسک ترازنامه تأسیساتی که به آن سخت‌افزار می‌دهد نزدیک‌تر می‌کند. جدا از این، شرکت زیرساختی هندی AM Intelligence reportedly به دنبال ۳ میلیارد دلار بدهی برای تراشه‌های نسل بعدی Nvidia است. هر دو مورد نشان می‌دهد که سرمایه حول استقرار تجهیزات ترتیب داده می‌شود، نه حول دسترس‌پذیری دستگاه‌ها.

پیامد عملی برای مهندسی agent این است که فرضیات ظرفیت باید به‌صورت به‌ازای هر سایت و هر اتصال مدل‌سازی شود، با رزرو ظرفیت مازاد برای جهش‌های inference و اجرای evaluation. آنچه از این پوشش خبری روشن نیست، مقیاس ظرفیت بیکار به تفکیک منطقه، مدت‌زمان مورد انتظار محدودیت‌ها، و این است که ترتیبات تأمین مالی توصیف‌شده نهایی شده‌اند یا هنوز در دست بررسی‌اند. تا زمانی که این موارد روشن نشوند، برق باید به‌عنوان قید الزام‌آور در برنامه‌ریزی توان عملیاتی در نظر گرفته شود.

بیایید صحبت کنیم!