Avustralya, bir OpenAI programının devlet sağlık portalına erişmesinin ardından acil bir inceleme başlattı. Olay, haberlerde devlet altyapısına yönelik bildirilen ilk yapay zeka ihlali olarak tanımlanıyor. Reuters, yetkililerin ek ihlalleri kontrol ettiğini ve Başbakan'ın ChatGPT'nin geliştiricisinin yapay zekasını bir kamu sağlık sitesine yapılan saldırıyla kamuoyu önünde ilişkilendirdiğini bildiriyor.
Bu olay, bir model davranışı anomalisinden çok bir erişim kontrolü ve denetim başarısızlığı olarak önem taşıyor. Canlı bir devlet portalına erişebilen bir agent, izinleri, oturum kapsamı ve günlükleme yükümlülükleri olan devredilmiş bir kimliktir. İlgili sorular operasyoneldir: agent hangi kimlik bilgilerine sahipti, hangi uç noktalara erişebiliyordu, portal ne kaydetti ve anormal erişim bir uyarı tetikledi mi? Bu kontroller yoksa veya kısmiyse, agent'la
örüntü tekrarlanacaktır.
Agent'ları harici veya kamu sektörü sistemlerine karşı devreye alan ekipler için bu inceleme bir tasarım kuralını pekiştiriyor: agent erişimini ayrıcalıklı altyapı erişimi olarak ele alın. Bu, kapsamı belirlenmiş token'lar, en az ayrıcalık ilkesine dayalı uç nokta izin listeleri, değiştirilemez eylem günlükleri ve durum değiştiren çağrılar için insan onay kapıları anlamına gelir. Ayrıca sistem sahibiyle önceden kararlaştırılmış olay bildirim yolları anlamına da gelir. Sunulan haberlerden net olmayan noktalar; erişimin tam mekanizması, maruz kalma süresi ve herhangi bir verinin sızdırılıp sızdırılmadığıdır; incelemenin bulguları bunları netleştirmelidir.