MIT Technology Review, AI agent eylemlerinin gerçek zamanlı izlenmesinin artık arzu edilen değil acil bir gereklilik olduğunu savunan bir yazı yayımladı. Yazı, bu yeteneği mevcut bir eksiklik olarak çerçeveliyor: bir agent'ın ne yaptığını kayıtlardan yeniden kuran denetim, bir çalışmanın sonucunu değiştirmek için çok geç kalıyor. Bu çerçeveleme dikkat çekici, çünkü izlemeyi bir raporlama değil yürütme yolu sorunu olarak ele alıyor.
Teknik sonuç açık. Tool call yapan, harici sistemlere yazan veya alt agent'lar oluşturan bir agent, tek bir yörünge içinde amaçlanan kapsamının çok ötesine geçebilir. Sonradan yapılan bir kayıt incelemesi bu hareketi tanımlayabilir ama sınırlayamaz, çünkü tek etkili kontrol noktası bir eylemin yürütülmesinden hemen önceki andır. Bu yola bir kontrol yerleştirmek, monitörün politika, tool izinleri ve mevcut görev durumu üzerinde yetkili bir görüşe sahip olması ve çevredeki bağlamı bozmadan bir adımı durdurabilmesi veya yönlendirebilmesi anlamına gelir.
Bu çağrı, runtime guardrail ve agent telemetrisi konusundaki satıcı hamleleriyle aynı döneme denk geliyor; bu da araç katmanının aynı sonuca doğru yakınsamaya başladığını gösteriyor. Haberin ortaya koymadığı şey ise bu tür monitörlerin nasıl değerlendirilmesi gerektiği, kesintinin pratik olmaktan çıkmadan önce hangi latency bütçesinin kabul edilebilir olduğu veya bir monitör ile bir agent anlaşmazlığa düştüğünde hangi hata modlarının ortaya çıktığı. Bunlar yerleşik pratik değil, açık mühendislik soruları olarak kalıyor.