پرش به محتوای اصلی

VA-Bench: مدل‌های برتر چندوجهی تنها نیمی از وظایف رباتیک را کامل می‌کنند

Behzat AImultimodal-modelsembodied-agentsbenchmarkingrobot-tasksevaluation
نمای ماکرو از مفصل یک بازوی رباتیک و سیم‌کشی برد مدار، با عمق میدان کم و نورپردازی صنعتی سرد.

دانشگاه صنعتی دالیان VA-Bench را منتشر کرده است؛ یک بنچمارک برای وظایف رباتیک چندوجهی. در نتایج گزارش‌شده، مدل‌های برتر چندوجهی تنها حدود نیمی از وظایف بنچمارک را به پایان رساندند. این رقم معیاری برای تکمیل وظیفه است، نه امتیاز ادراک یا توصیف تصویر، و همین آن را به نشانه‌ای مستقیم‌تر از این تبدیل می‌کند که آیا یک مدل می‌تواند یک دستور مجسم را تا نتیجه نهایی پیش ببرد یا نه.

Close-up of electrical substation insulators and power station structure in New York City

این تمایز برای تیم‌هایی که عامل‌های فیزیکی می‌سازند اهمیت دارد. بنچمارک‌های ادراک و توصیف تصویر می‌توانند قوی به نظر برسند و در همان حال این پرسش را بی‌پاسخ بگذارند که آیا مدل می‌تواند کنش‌ها را توالی‌بندی کند، وضعیت وظیفه را حفظ کند و از شکست در محیط رباتیک بازیابی شود. نرخ تکمیل نزدیک به ۵۰٪ در VA-Bench یک واقع‌سنجی مفید در برابر ادعاهای گسترده‌تر دربا!Person in protective clothing working in a bright, sterile laboratory environment632c8.jpg))د.

Server rack closeup

آنچه پوشش ارائه‌شده روشن نمی‌کند مجموعه دقیق مدل‌ها، تعداد وظایف، پروتکل امتیازدهی و این است که وظایف در شبیه‌سازی اجرا شده‌اند یا روی سخت‌افزار. این جزئیات تعیین می‌کنند که نتیجه تا چه حد قابل تعمیم است، بنابراین استودیو عدد تیتر را تا زمان بررسی روش‌شناسی کامل بنچمارک، جهت‌نما در نظر می‌گیرد. هیچ تاریخ انتشاري در پوشش ذکر نشده است.

بیایید صحبت کنیم!