الثلاثية القاتلة في أنظمة الذكاء الاصطناعي
حالة خطر معماري تجتمع فيها قدرة نظام الذكاء الاصطناعي على الوصول إلى بيانات حساسة، والتعرض لمدخلات أو محتوى غير موثوق، والاتصال أو التواصل مع أنظمة خارجية.
شرح تفصيلي
تشير الثلاثية القاتلة Lethal Trifecta في سياق أمن أنظمة الذكاء الاصطناعي إلى اجتماع ثلاثة عناصر داخل النظام نفسه: الوصول إلى بيانات حساسة، والتعرض لمحتوى أو تعليمات غير موثوقة، والقدرة على الاتصال أو التواصل الخارجي. اجتماع هذه العناصر قد يتيح لحقن التعليمات أو المحتوى الخبيث تحويل وصول النظام المشروع إلى مسار لتسريب البيانات أو تنفيذ إجراءات غير مصرح بها. يُستخدم المفهوم كفحص معماري سريع، ولا يُعد بديلًا عن تحليل المخاطر أو نمذجة التهديدات الكاملة.
مثال عملي
مثال: وكيل ذكاء اصطناعي يستطيع قراءة ملفات داخلية حساسة، ويحلل مستندات واردة من جهات خارجية، ويمتلك في الوقت نفسه صلاحية إرسال بريد إلكتروني أو استدعاء خدمات خارجية. إذا احتوى أحد المستندات على تعليمات خبيثة نجحت في التأثير في الوكيل، فقد تستخدم قناة الاتصال الخارجية لتسريب معلومات أو تنفيذ إجراء غير مصرح به.