تسرّب البيانات
Data Leakage
تسرب البيانات في الذكاء الاصطناعي هو ظهور بيانات حساسة داخل مخرجات النموذج أو تدفقاته دون تفويض.
شرح تفصيلي
يحدث التسرب عبر عدة طرق: بيانات تدريب حساسة تظهر في التوليد، سجلات نموذج غير محمية، إدخال مستخدم يُرسل إلى مزود خارجي دون فلترة، أو استرجاع من قواعد متجهات دون ضوابط وصول. الحوكمة تتطلب فحص التدريب، فلترة المخرجات، تسجيل مراقب، واتفاقيات معالجة صارمة مع المزوّدين.
مثال عملي
روبوت داخلي يعرض عبارات من عقود سابقة عند سؤاله عن السياسات؛ تُضاف فلترة استرجاع تعتمد صلاحيات المستخدم.