تسميم البيانات
Data Poisoning
هجوم أو تلاعب متعمد بالبيانات المستخدمة في تدريب أو تحديث أو تشغيل نظام ذكاء اصطناعي بهدف تغيير سلوكه أو إفساد أدائه.
شرح تفصيلي
تسميم البيانات هو أحد مخاطر أمن وسلامة أنظمة الذكاء الاصطناعي، ويحدث عندما يتمكن مهاجم أو طرف غير موثوق من إدخال بيانات خبيثة أو مضللة داخل بيانات التدريب أو التحديث أو مصادر المعرفة التي يعتمد عليها النظام. قد يهدف الهجوم إلى خفض الأداء العام أو إنشاء سلوك مستهدف أو باب خلفي أو تحيز متعمد. تشمل وسائل التخفيف التحقق من مصادر البيانات، وضبط الوصول، وفحص سلامة البيانات، ومراقبة التغيرات غير الطبيعية، واختبار النموذج بعد التحديثات.
مثال عملي
إذا تمكن مهاجم من إدخال أمثلة مصممة عمداً داخل بيانات تدريب نظام كشف الاحتيال لكي يتجاهل نمطاً معيناً من المعاملات، فهذا مثال على تسميم البيانات.