پرش به محتوای اصلی

AMD از رک Helion با محوریت CPU برای بارهای کاری هوش مصنوعی عامل‌محور رونمایی کرد

Behzat AIagent-infrastructurecpu-centric-aiocp-summitagent-runtimeshardware
نمای نزدیک از یک رک سرور متراکم با ردیف‌هایی از ماژول‌های پردازنده و کابل‌کشی در یک مرکز داده

AMD از نشست OCP برای معرفی رک‌های Helion استفاده کرد؛ خانواده‌ای از سیستم‌ها با محوریت CPU که برای بارهای کاری هوش مصنوعی عامل‌محور جهت‌گیری شده‌اند، نه برای آموزش مدل با تمرکز بر GPU. بر اساس پوشش ارائه‌شده، یک پیکربندی ۳۲٬۷۶۸ هسته CPU در هر رک دارد.

نمای نزدیک از رک‌های سرور روشن در یک مرکز داده، نمایش‌دهنده زیرساخت فناوری مدرن.

برای تیم‌هایی که سیستم‌های عامل می‌سازند، بخش جالب ماجرا همین چارچوب‌بندی است. زمان‌اجرای عامل بیشتر وقت خود را در هماهنگ‌سازی، فراخوانی ابزار، بازیابی و مدیریت وضعیت می‌گذراند، نه در ضرب ماتریسی متراکم؛ بنابراین رکی که برای تعداد هسته و ظرفیت حافظه بهینه شده، شرط‌بندی مشخصی است بر این که حلقه عامل به GPU گره نخورده است. AMD این طراحی را مستقیماً با زیرساخت آموزش مبتنی بر GPU مقایسه می‌کند و پوشش خبری آن را ساخته‌شده برای عامل‌های هوش مصنوعی به‌جای توان پردازشی آموزش توصیف می‌کند.

آنچه از نکات ارائه‌شده روشن نیست، پیکربندی حافظه و اتصال‌دهی هر گره، فرض‌های AMD درباره ابزارها و زمان‌بند برای زمان‌اجرای عامل، و این است که آیا اندازه‌گیری مستقلی ادعای محوریت CPU را پشتیبانی می‌کند یا نه. تا زمانی که این جزئیات در دسترس نباشند، این اعلامیه یک جهت‌گیری سخت‌افزاری خوانده می‌شود، نه یک نتیجه عملکردی تأییدشده. Behzat AI آن را به‌عنوان نشانه‌ای برای پیگیری در زمان اندازه‌گذاری زیرساخت عامل در نظر می‌گیرد، نه به‌عنوان یک بنچمارک.

بیایید صحبت کنیم!