Ana içeriğe geç

OpenAI, Third Moment Research'ün 36+ saat boyunca 10.000 agent çalıştırdığı vaka çalışmasını yayımladı

Behzat AImulti-agent-systemslong-horizon-agentsagent-orchestrationstate-persistenceagent-evaluation
Sıra sıra ağ ekipmanı, gösterge ışıkları ve yapılandırılmış kablolamayla bir sunucu rafının yakın çekimi.

OpenAI, Third Moment Research'ün 36 saatten uzun süre 10.000 agent çalıştırdığı bir vaka çalışması yayımladı. İş yükü, kısa bir benchmark yerine üretim tarzı bir agent kurulumu olarak sunuluyor; bu da sürdürülen eşzamanlılığı ve durum yönetimini tasarımın merkezine yerleştiriyor.

Bir veri merkezinde ışıklı sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor.

Agent sistemleri kuran ekipler için önemli olan, manşet sayıdan çok bunun ima ettiği çalışma zarfıdır. Bu uzunlukta ve bu agent sayısında bir çalıştırma, zamanlama sorularına açık yanıtlar verilmesini zorunlu kılar: iş nasıl kuyruğa alınıp yeniden denenir, agent durumu yeniden başlatmalar arasında nasıl kalıcı kılınıp geri yüklenir, kısmi hatalar nasıl yalıtılır da zincirleme yayılmaz ve binlerce eşzamanlı döngü uçuş halindeyken harcama nasıl ölçülür. Bunlar, kısa değerlendirmelerin genellikle test etmeden bıraktığı mühendislik meseleleridir.

Yayımlanan agent sayısı ve çalıştırma süresinin ötesindeki ayrıntılar haber kapsamında belirtilmiyor; dolayısıyla altta yatan model yapılandırması, orkestrasyon yığını, altyapı ayak izi ve maliyet profili belirsiz kalıyor. Vaka çalışması yine de uzun ufuklu, yüksek eşzamanlılıklı agent iş yükleri için faydalı bir kamuya açık referans noktası ve ölçekte güvenilirliğin bir prompt sorunu değil bir sistemler sorunu olduğunun hatırlatıcısı.

Konuşalım!