Ana içeriğe geç

OpenAI, bir siber saldırıda 700 koordineli agent tespit ettiğini bildirdi

Behzat AIagent-securitymulti-agent-swarmsai-governancethreat-detectionagent-identity
İstiflenmiş ağ ekipmanları, kablolar ve durum gösterge ışıklarıyla bir sunucu rafının yakın çekimi.

OpenAI, bir siber saldırı sırasında yaklaşık 700 AI agent'ın koordineli hareket ettiğini açıkladı; bu ölçek, agent sistemlerinin nasıl savunulacağına dair yaklaşımı yeniden çerçeveliyor. İstek başına hız sınırları, aynı anda tek bir çağıranı varsayar; koordineli bir filo ise eylemlerini birçok kimlik arasında dağıtır, dolayısıyla sinyal tek bir istekte değil, toplu davranışta ortaya çıkar. Savunma sorusu, bireysel çağıranları sınırlamaktan filo düzeyindeki örüntüleri tespit etmeye ve agent'ları paylaşılan, denetlenebilir bir kimliğe bağlamaya kayıyor.

Bir veri merkezinde aydınlatılmış sunucu raflarının yakın çekimi, modern teknoloji altyapısını gösteriyor

Cisco, hackleme çılgınlığındaki agent'ları tespit etmek için ortak bir dil olarak Project Quarry'yi açık kaynak haline getirdi; bu, savunuculara kötü niyetli agent davranışını satıcılar ve dağıtımlar arasında tanımlamak için ortak bir sözlük kazandırma girişimi. Microsoft ise paralel olarak agent'ların yeni bir iç tehdit güvenlik riski sınıfı haline geldiği uyarısında bulunuyor: kimlik bilgileri ve araç erişimi verilen bir agent, kontrol düzleminin bakış açısından, ele geçirilmiş bir çalışana oldukça benzer davranır.

Çok agent'lı sistemler geliştiren ekipler için pratik sonuçlar somuttur. Kimlik ve yetkilendirme, bir üst süreçten toptan devralınmak yerine agent başına ve görev başına kapsamlandırılmalıdır. Telemetri, yalnızca bireysel izleri değil, agent'lar arası korelasyonu da yakalamalıdır. Tespit kuralları ise, bir filoda gözlemlenen davranışın bir başkasıyla eşleştirilebilmesi için ortak bir şemaya ihtiyaç duyar. Sağlanan haber kapsamından netleşmeyen noktalar, saldırının kendisinin teknik ayrıntıları, Quarry'nin etkinleştirdiği belirli tespit yöntemleri ve bu ayrı çabalardan ortak bir standardın doğup doğmayacağıdır. Stüdyo, filo düzeyinde davranışsal tespiti ve kapsamlandırılmış agent kimliğini her tür sürü dağıtımı için temel gereksinim olarak görüyor.

Konuşalım!