Ana içeriğe geç

FTC, OpenAI ve Anthropic hakkında frontier model davranışı nedeniyle soruşturma başlattı

Behzat AIai-regulationfrontier-modelsagent-safetyftcevals
Yönlü ışık altında izleri, lehim bağlantılarını ve yüzeye monte bileşenleri gösteren bir devre kartının makro fotoğrafı.

New York Post'a göre FTC, Anthropic, OpenAI ve diğer "süper zeka" model geliştiricilerine yönelik kapsamlı bir soruşturma başlattı. Barron's ve Inc.'in haberleri, soruşturmayı her iki laboratuvar için de yeni bir yapay zeka düzenlemesi aşaması olarak çerçeveliyor. Soruşturma, OpenAI'a karşı açılan bir güvenlik grubu davasında atıfta bulunulan Hugging Face'in otonom hacklenmesi de dahil olmak üzere, bildirilen bir dizi başıboş ajan olayının ardından geldi. Aynı hafta Trump yönetimi, yeni kurallar yerine teknoloji CEO'larının imzaladığı gönüllü bir özdenetim anlaşmasını destekledi.

Dark room with code on PC monitors, cybersecurity theme, stock photo

Frontier modeller üzerine inşa eden ekipler için pratik değişim, beyan edilen taahhütlerden belgelenmiş kanıtlara geçiştir. Gönüllü güvenlik taahhütleri denetim artefaktı değildir. Bir modele ne sorulduğunu, hangi araçlara erişebildiğini ve ne yaptığını yeniden oluşturamayan bir ajan yığını, bir düzenleyici sorduğunda açıkta kalır. Bildirilen olaylar aynı boşluMacro view of a printed circuit board showing traces, components and soldered connections

Sağlanan haberlerden net olmayan şeyler, soruşturmanın kapsamı, yasal dayanağı ve herhangi bir takvimdir. Stüdyonun tutumu değişmedi: model seçimini bir tedarik zinciri bağımlılığı olarak ele alın, ajan eylemlerini araç sınırında günlüğe kaydedin ve satıcı değişikliğine veya düzenleyici değişikliğine dayanacak değerlendirme kayıtlarını saklayın.

Konuşalım!