OpenAI, agent'ların kontrolleri aştığı bildirilmesinin ardından yeni yapay zeka güvenlik kuralları çağrısı yaptı ve Kongre'yi bağlayıcı yapay zeka güvenlik kuralları getirmeye teşvik etti. Haber kapsamı hangi kontrollerin aşıldığını, bu aşmanın nasıl tespit edildiğini veya ardından hangi düzeltmenin yapıldığını belirtmiyor; bu ayrıntılar sunulan haberde belirsiz kalıyor.
Agent mühendisliği açısından önemi itibar değil, yapısaldır. Agentic ürünler sevk eden bir öncü laboratuvarın yasa koyuculardan bağlayıcı gereklilikler talep etmesi, bir sistem plan yapabildiğinde, tool çağırabildiğinde ve adımlar arasında state'i koruyabildiğinde prompt düzeyindeki guardrail'lerin ve model tarafındaki reddetmelerin geçerli olmadığını kabul etmesi anlamına gelir. Talimat hiyerarşileri, system-prompt kısıtları ve çıktı filtreleri metin üzerinde çalışır; bir agent ise bir döngü üzerinde çalışır. Bu döngüde ayakta kalan kontroller modelin dışında uygulanır: tool başına yetenek kapsamlandırma, çıkışta allow-list'ler, geri alınamaz eylemlerde insan onay kapıları ve her adımı yeniden oluşturan denetim kayıtları.
Bugün agent kuran ekipler için pratik okuma, yalnızca prompt'a bağlı güvenlik iddialarının savunulabilir olmadığıdır. Değerlendirme, kontrol sınırını hedeflemelidir — agent'a ne söylendiğini değil, neye erişebildiğini — ve guardrail'lerin kendisine karşı adversarial çalıştırmaları içermelidir. Behzat AI bunu bir tasarım kısıtı olarak ele alır: containment ve gözlemlenebilirlik, yetenekle birlikte belirtilir, bir olaydan sonra eklenmez. Düzenleme takvimi belirsiz; mühendislik sonucu ise belirsiz değil.