پرش به محتوای اصلی

AMD رک CPU-محور Helion را با ۳۲٬۷۶۸ هسته برای ایجنت‌های هوش مصنوعی رونمایی کرد

Behzat AIamd-helionagent-infrastructurecpu-centric-aiocp-summitrack-scale
نمای نزدیک از یک رک سرور متراکم با ردیف‌هایی از ماژول‌های پردازنده و کابل‌کشی در محفظه یک مرکز داده.

AMD یک سیستم در مقیاس رک با نام Helion معرفی کرده است که ۳۲٬۷۶۸ هسته CPU را در یک رک جای می‌دهد و هدف آن بارهای کاری هوش مصنوعی ایجنت‌محور است. این اعلام در اجلاس OCP انجام شد. پوشش خبری این رونمایی، سیستم را به‌عنوان زیرساختی CPU-محور برای ایجنت‌ها معرفی می‌کند، نه طراحی‌ای که در آن GPU در اولویت باشد.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، که زیرساخت فناوری مدرن را نشان می‌دهد.

برای تیم‌هایی که ایجنت‌های LLM را میزبانی می‌کنند، بخش جالب ماجرا توان عملیاتی خام نیست، بلکه شکل منبع است. رانتایم‌های ایجنت بخش زیادی از زمان خود را صرف گذارهای وضعیت می‌کنند: فراخوانی ابزار، بازیابی، صف‌بندی، تلاش‌های مجدد و حافظه نشست‌های طولانی‌مدت. این گام‌ها غالباً به تأخیر و حافظه محدودند تا به توان محاسباتی، و در میان بسیاری از وظایف کوچک و مستقل به‌صورت موازی اجرا می‌شوند. رکی با ده‌ها هزار هسته، بستری محتمل برای این الگو است، به شرط آنکه زمان‌بند و سلسله‌مراتب حافظه همگام بمانند.

آنچه از پوشش ارائه‌شده روشن نیست، پیکربندی حافظه به‌ازای هر هسته، توپولوژی اتصال داخلی، سقف توان، تاریخ‌های دسترس‌پذیری و هر بنچمارک منتشرشده مخصوص ایجنت است. بدون این ارقام، ادعای اینکه این موضوع میزبانی ایجنت را به‌عنوان مسئله‌ای در زمان‌بندی و حافظه بازتعریف می‌کند، یک استدلال طراحی است نه نتیجه‌ای اندازه‌گیری‌شده. Behzat AI جزئیات مشخصات را پیگیری خواهد کرد و ارزیابی می‌کند که چنین گره‌های CPU-متراکم چگونه در کنار استخرهای شتاب‌دهنده در خطوط لوله ارکستراسیون و ارزیابی ایجنت قرار می‌گیرند.

بیایید صحبت کنیم!