Anthropic, açık kaynak projeler için ücretsiz yapay zeka güvenlik taramalarını başlattı; bu bilgi duyurunun haberleştirilmesine dayanıyor. Program, tek seferlik bir araç sürümü olarak değil, kritik altyapıya ve açık kaynağa yönelik uzun vadeli bir taahhüt olarak çerçeveleniyor. Kripto projelerinin tarayıcıya erişim için başvurduğu bildiriliyor.
Dikkat çeken kısım işleyiş biçimi. Bağımlılık kodunu inceleyen bir frontier model, tedarik zinciri güvenliğini periyodik bir denetimden — planlanmış bir inceleme, belirli bir ana ait bir rapor — bir projenin gerçekte bağımlı olduğu paketler genelinde sürekli agent destekli incelemeye dönüştürüyor. B
Sağlanan haberde birkaç ayrıntı belirtilmemiş durumda: taramaları hangi model ya da modellerin yaptığı, bulguların nasıl triyaj edilip açıklandığı, sonuçların kamuya açık olup olmadığı, erişimi hangi kabul kriterlerinin yönettiği ve taranan depoların nasıl ele alındığı. "Kritik altyapı"nın kapsamı da tanımlanmamış.
Agent sistemleri geliştiren ekipler için bu örüntü, bu programdan bağımsız olarak izlenmeye değer. Bağımlılıkların agent destekli incelenmesi, araç kullanan modellerin iyi sınırlandırılmış bir külliyata somut bir uygulamasıdır ve değerlendirme kriterleri nettir: yanlış pozitif oranı, geçişli bağımlılıkların kapsanması ve bulguların çalıştırmalar arasında yeniden üretilebilirliği. Bunlar ölçülebilir ve bu sınıf tarayıcının ilk gruptan öteye benimsenip benimsenmeyeceğini belirleyecek sayılar da bunlar.