الانتقال إلى المحتوى الرئيسي

Google توقف برنامج مكافآت اكتشاف الأخطاء مفتوح المصدر بعد ارتفاع التقارير المولّدة بالذكاء الاصطناعي

Behzat AIbug-bountyai-generated-reportssecurity-triageopen-sourcedisclosure
لقطة قريبة لشاشة داكنة تعرض أسطرًا من الشيفرة المصدرية مع تلوين نحوي.

أوقفت Google برنامج مكافآت اكتشاف الأخطاء مفتوح المصدر، وعزت القرار إلى "ارتفاع كبير" في الإسهامات المولّدة بالذكاء الاصطناعي. كان البرنامج يغطي مشاريع مفتوحة المصدر بدلًا من منتجات Google نفسها، وجاء التجميد بعد زيادة في حجم التقارير لم يعد البرنامج قادرًا على استيعابها. لا تحدّد التغطية المتاحة العتبة الدقيقة أو الإطار الزمني أو معايير الفرز الكامنة وراء الإيقاف.

Close-up of industrial metal storage tanks under dark clouds

بالنسبة للفرق التي تتعامل مع مسارات المكافآت كمصدر إشارات، فإن الأثر العملي هو أن نسبة كبيرة من التقارير الواردة قد تكون الآن مولّدة آليًا وغير موثّقة. وهذا يغيّر اقتصاديات الفرز: يصبح تصفية الحجم وفحص المصدر وتكلفة إعادة الإنتاج concerns من الدرجة الأولى بدلًا من حالات هامشية، لا سيما لأي جهة تطوّر كودًا قريبًا من الـ agent حيث تClose-up of frost and ice crystals forming patterns on glass/media/server-rack-closeup-0e25b3-5e49ee.jpg)

موقف الاستوديو هو أن قنوات المكافآت والإفصاح ينبغي التعامل معها كمدخلات صاخبة وعدائية. تشمل الضوابط المفيدة إزالة التكرار الآلية، وقوالب الإرسال المنظمة التي تفرض وجود مُعيد إنتاج أدنى، وفصل استخلاص الإشارة عن المراجعة البشرية. لا يعتمد أي من ذلك على وضع البرنامج؛ فالتجميد يكشف فقط الضجيج القائم. ما يبقى غير واضح من التغطية هو ما إذا كان الإيقاف مؤقتًا أم دائمًا، وكيف ستستجيب الجهات الأخرى المشرفة على برامج مماثلة.

لنتحدث!