Ana içeriğe geç

Nvidia, AI ajanlarını sınırlar içinde tutmak için runtime ve donanım kontrolleri ekledi

Behzat AIagent-containmentruntime-enforcementhardware-controlsagent-infrastructureopenshell
Sığ alan derinliğinde işlemci kalıplarını, lehim bağlantılarını ve iletken yolları gösteren bir devre kartının makro fotoğrafı.

Nvidia, ajan davranışını kısıtlamaya yönelik runtime ve donanım kontrolleri ekledi. Kontroller, bu döngüde bildirilen OpenShell containment çalışmasına eşlik ediyor. İki haber birlikte okunduğunda aynı kaymaya işaret ediyor: yaptırım, framework katmanının altına, runtime ve silikonun içine taşınıyor. Bu yerleşim ajan sistemleri için önemli, çünkü bir containment sınırının, yeterince yetenekli veya yanlış yapılandırılmış bir ajanın konuşarak geçebileceği bir politika mı, yoksa ajanın kendi süreci içinden etrafından dolaşamayacağı sert bir sınır mı olduğunu belirliyor.

Close-up of an abstract pattern of rusty metal beams in an industrial design

Ayrı olarak CoreWeave, ajan iş yüklerine yönelik bir Nvidia Vera CPU sunacağını duyurdu. İki duyuru ayrıdır ve birleştirilmemelidir: Nvidia'nın katkısı kontrol yüzeyi, CoreWeave'inki ise ajan iş yükleri için konumlandırılmış bir CPU'nun barındırılmasıdır. Sağlanan haber kapsamından henüz net olmayan noktalar şunlar: kontrollerin granülerliği, hangi ajan runtime'larını hedefledikleri, belirli donanım nesilleri gerektirip gerektirmedikleri ve mevcut sandboxing ile izin modelleriyle nasıl etkileşime girdikleri. Bu ayrıntılar, containment garantisinin ne kadarının bilLong-exposure star trails swirling in a dark night sky above a quiet landscape

Ajan üreten ekipler için pratik sonuç şu: containment kararları giderek orkestrasyon kodunda değil, platformda ve işlemcide veriliyor. Bu da bir ajan dağıtımının değerlendirmesinin neleri kapsaması gerektiğini değiştiriyor.

Konuşalım!