أنظمة AI/ML يمكن مهاجمتها والتلاعب بها.
أنواع الهجوم
- التهرب: تجاوز الكشف
- التسميم: إفساد بيانات التدريب
- استخراج النموذج: سرقة النموذج
- الاستدلال: استخراج بيانات التدريبأمثلة حقيقية
- رقع عدائية تخدع الكاميرات
- مساعدات صوتية تُشغل بالموجات فوق الصوتية
- هجمات مستشعرات المركبات ذاتية القيادة
- تجاوزات فلتر البريد العشوائيالدفاع
- التدريب العدائي
- التحقق من المدخلات
- مراقبة النموذج
- طرق المجموعة
- الخصوصية التفاضلية