OpenAI, "önemli riskler" gerekçesiyle AI modellerini artık canlı internet üzerinde eğitmeyeceğini açıkladı. Eğitim 11 gün boyunca durduruldu ve yalnızca bir güvenlik revizyonunun ardından yeniden başlatıldı. Şirket ayrıca yaygın olarak kullanılan bir yazılımda bir kusuru açıkladı ve sınır modeli eğitim ortamını nasıl güvence altına aldığına dair ayrıntıları yayımladı. Üç haftalık bir yerinde denetimin AI güvenlik izlemesinde boşluklar bulduğu bildirildi.
Agent sistemleri kuran ekipler için bu duyuru varsayılan bir kabulü ortadan kaldırıyor: sınır ölçeğindeki eğitimin rastgele canlı web içeriğini alabileceği varsayımını. Retrieval hatları, crawling politikası ve veri kökeni artık devralınan varsayılanlar yerine açık, denetlenebilir seçenekler olarak tasarlanmalı. Aynı durum egress için de geçerli — bir agent'ın hangi host'lara erişebileceği, hangi allow-list'ler altında ve nelerin loglanacağı — çünkü üst akış duruşu artık ağ maruziyetini kısıtlanması gereken bir risk yüzeyi olarak ele alıyor.
Sağlanan kapsamdan netleşmeyen şey, değişikliğin teknik kapsamı: tüm eğitim verisi edinimini mi kapsıyor yoksa yalnızca belirli hatları mı, sentetik ve lisanslı korpusların nasıl ele alındığı ve açıklanan yazılım kusurunun alt akış kullanıcıları için ne anlama geldiği. Stüdyonun okuması, veri kökeni ve ağ egress kontrollerinin herhangi bir agent dağıtımında birinci sınıf tasarım artefaktları olarak ele alınması, varsayımların belgelenmesi ve tedarikçi politikaları değiştikçe yeniden kontrol edilmesi gerektiği yönünde.