Bioengineer.org, açıklanabilir AI yöntemlerinin LLM güvenlik filtrelerini tespit etmek ve kırmak için kullanıldığını bildiriyor. Çerçeveleme, tek tek sonuçtan daha önemli: reddetme davranışı, eğitilmiş modelin ortaya çıkan bir özelliği değil, konumlandırılabilir bir iç mekanizma olarak ele alınıyor. Yorumlanabilirlik araçları, bir reddetme üreten belirli yapıyı bulmak için modele yöneltiliyor ve ardından bu yapı üzerinde doğrudan işlem yapılıyor.
Reddetme yerelleştirilebiliyorsa, bir bileşen olarak akıl yürütülebilir. Bu, soruyu bir modelin hizalanıp hizalanmadığından, konuşlandırılmış artefaktta belirli bir devrenin mevcut, erişilebilir ve sağlam olup olmadığına kaydırır. Aynı zamanda bir güvenlik iddiasının neyi kapsadığını da değiştirir: eğitim sırasındaki modelin bir özelliği, sevk edilen modelin bir özelliğiyle aynı değildir ve i
Rapor, model başına savunmaların modeller arası düşmanca transfer altında başarısız olduğuna dair ayrı bulgularla birlikte geliyor. Birlikte ele alındığında, iki hat, tek bir modelin iç davranışına bağlı savunmaların model sınırları boyunca kırılgan olduğunu ve değerlendirmenin reddetmenin doğuştan olduğunu varsaymak yerine konuşlandırılmış sistemi test etmesi gerektiğini öne sürüyor. Haber kapsamından net olmayan şey, hangi modellerin dahil olduğu, mekanizmanın nasıl tanımlandığı ve yöntemin bildirilen ortamın ötesine genellenip genellenmediğidir.