كاشف قائم على المخزن المؤقت للتجميع المتكيف للدفاع عن مصنّفات الصور من الهجمات العدائية
Title An Adaptive Clustering Buffer-based Detector for Defending Image-Classifiers from Adversarial Attacks
الباحث الرئيس عبدالله محفوظ محمد امين الشنقيطي
الباحثون المشاركون
التخصص: علوم الحاسب
التخصص الدقيق: machine learning algorithms
المستخلص: سعياً منا للدفاع عن نماذج مصنف الصور من الهجمات العدائية القائمة على الاستعلام ، نقدم في هذه الورقة مدافعًا جديدًا قائمًا على المخزن المؤقت تم تحسينه بشكل تكيفي باستخدام تقنية تجميع الشبكة العصبية غير الخاضعة للإشراف. يمكن اعتبار المدافع المقترح بمثابة حامي جدار حماية تكميلي ومستقل يمكن دمجه مع جميع طرق الدفاع المتاحة تقريبًا. نقوم بتقييم دقة الكشف بشكل تجريبي إلى جانب أداء المخزن المؤقت في ثلاثة نماذج لمصنف الصور (MLP و VGG19 و ResNet50) ضد أساليب هجوم الصندوق الأبيض / الأسود المختلفة. كشفت النتائج أن طريقة الكشف القائمة على المخازن الخاصة بنا يمكن أن تحسن نسبيًا معدل الحماية دون التضحية بالأداء العام.
Abstract: Endeavoring to defend image classifier models from query-based adversarial attacks, in this paper, we present a novel buffer-based defender that is adaptively optimized using an unsupervised neural network clustering technique. The proposed defender can be considered as a complementary and independent firewall protector that is integrable with almost all available defense methods. We empirically evaluate the detection accuracy besides the performance of the buffer on three image classifier models (MLP, VGG19, and ResNet50) against various white/black-box attack methods. Results revealed that our bufferbased detection method could relatively improve the protection rate without sacrificing the overall performance.