سيادة AI
الأدوات والمنهجيات←مخطط ضمان واختبار تطبيقات النماذج اللغوية قبل الإطلاق
LLM Pre-Deployment Assurance Planner

مخطط ضمان واختبار تطبيقات النماذج اللغوية قبل الإطلاق

من تحديد المخاطر إلى خطة الاختبار والأدلة وشروط القرار، دون اختراع درجة ثقة أو ادعاء تنفيذ اختبارات.

منهجية

أداة تفاعلية عربية تساعد فرق الحوكمة والمخاطر والأمن واختبار التطبيقات على تحويل توصيف تطبيق LLM إلى خطة أولية منظمة تشمل نطاق النظام، وإصدارات المكونات، وصلاحيات المستخدمين، ومجالات المخاطر الخمسة الواردة في دليل IMDA، وطرق الاختبار المقترحة، والأدلة المطلوبة، والحدود التي يجب أن تقرها المؤسسة مسبقًا، وشروط إطلاق التطبيق. لا تتصل الأداة بالنموذج المراد تقييمه، ولا تجري اختبارات تلقائية، ولا تنتج شهادة أو اعتمادًا أو درجات سلامة أو التزام قانوني. البيانات المدخلة تبقى في واجهة المتصفح إلى أن يختار المستخدم نسخ التقرير؛ وينبغي عدم إدخال أسرار أو بيانات شخصية حقيقية ضمن مساحة عامة. تعود مسؤولية تشغيل الاختبارات والتحقق من النتائج إلى المؤسسة وصاحب القرار. يظل دليل IMDA مصدر المنهج الطوعي، بينما آلية إنشاء خطة العمل وتصنيف حالات قرار Go وConditional Go وNo-Go وInsufficient Evidence تصميم تشغيلي من سيادة.

مخطط ضمان تطبيقات LLM قبل الإطلاق

ينتج هذا المخطط سجل نطاق واختبارات وأدلة مطلوبة. لا ينفذ اختبارات على التطبيق ولا يصدر علامة موثوقية أو موافقة تلقائية. المدخلات تبقى داخل هذه الصفحة حتى تختار نسخ التقرير.

نطاق مجالات الاختبار — اختيار أولي قابل للتعديل

اختيار المخاطر هنا لا يثبت شمول النطاق؛ يمكن أن توجد مخاطر أخرى حسب صلاحيات التطبيق وقطاعه.

نواقص البيانات (11)

  • اسم التطبيق
  • الإصدار الخاضع للاختبار
  • الاستخدام والقرار المتأثر
  • المستخدمون وحدود أدوارهم
  • البيانات وتصنيفها
  • النموذج وRAG والتبعيات
  • الأدوات والأفعال المسموحة
  • الولاية والاشتراطات المطبقة
  • صاحب القرار والمسؤولية
  • الأدلة المتاحة والفجوات
  • حدود القبول المسبقة

لا يمثل ناتج المخطط تقرير اختبار منفذ أو شهادة أو موافقة تلقائية. يلتزم فريق المؤسسة بتوثيق النتائج الفعلية وقبول المخاطر.

الدليل المرجعي

المرجع الكامل للمنهجية

التفاصيل الكاملة للمنهجية، والأبعاد، ومستويات قابلية الحوكمة، والأدلة، والنتائج، والامتدادات المؤسسية.

دليل

دليل تحديد نطاق اختبارات LLM والمخاطر ذات الأولوية وفق منهج Identify

كيف تحدد مخاطر التطبيق ونطاقه ومكونات الاختبار وحدود القرار قبل تشغيل Benchmarks.

قراءة الدليل ←

المفاهيم الأساسية

المصطلحات الأساسية المستخدمة في إطار سيادة لقابلية حوكمة الذكاء الاصطناعي.

اختبار مكونات تطبيق LLM

LLM Component Testing

تقييم الأجزاء الداخلية لتطبيق النموذج اللغوي مثل الاسترجاع واختيار الأدوات والتحقق من الوصول والتصفية.

عتبة قبول السلامة

Safety Acceptance Threshold

شرط صريح ومسبق يحدد حدود الفشل التي يمكن قبولها لاستخدام محدد وفق خطورته، ولا يساوي درجة معيارية عالمية.

اختبار تطبيقات النماذج اللغوية الكبيرة

LLM Application Testing

تقييم لسلوك تطبيق مكتمل يستخدم نموذجًا لغويًا مع تعليمات واسترجاع وأدوات وضوابط، وليس قياسًا منفصلًا للنموذج فقط.

حزمة الأدلة

Evidence Pack

حزمة الأدلة هي مجموعة موثقة من المخرجات التي تُثبت أن ضوابط نظام الذكاء الاصطناعي مطبّقة وفعّالة.

تسرّب البيانات

Data Leakage

تسرب البيانات في الذكاء الاصطناعي هو ظهور بيانات حساسة داخل مخرجات النموذج أو تدفقاته دون تفويض.

اختبار مخرجات تطبيق LLM

LLM Output Testing

فحص الاستجابات والسلوك الظاهر للتطبيق عند إدخال حالات اختبار محددة.

خط الأساس للسلامة والاعتمادية

Baseline Safety and Reliability

مستوى متوقع ومعلل من خصائص السلامة والاعتمادية يُحدد وفق سياق استخدام التطبيق ومخاطره.

النموذج اللغوي الكبير

LLM

النموذج اللغوي الكبير (LLM) هو نموذج ذكاء اصطناعي مُدرَّب على كميات ضخمة من النصوص لفهم اللغة وتوليدها.

التأكيد المستمر

Continuous Assurance

نهج مستمر لجمع الأدلة ومراجعة فعالية الضوابط بدل الاعتماد على فحوص دورية منفصلة.

حزمة أدلة اختبار تطبيق LLM

LLM Testing Evidence Package

مجموعة السجلات والنتائج والإصدارات التي تسمح بتتبع اختبار التطبيق وإعادة تقييم قرار إطلاقه.

ضمان الذكاء الاصطناعي

AI Assurance

ضمان الذكاء الاصطناعي هو تقديم أدلة موضوعية ومستقلة على أن النظام يعمل وفق الغرض المُعلن ضمن حدود مخاطر مقبولة.

الإفراط في رفض الطلبات

LLM Over-Refusal

رفض النموذج أو التطبيق طلبات مشروعة وآمنة بسبب ضوابط مشددة أو تصنيف خاطئ للمخاطر.

الهلوسة

Hallucination

الهلوسة هي إنتاج نموذج توليدي لمحتوى يبدو معقولاً لكنه غير صحيح واقعياً أو مختلق.

اختبار الضوابط

Control Testing

تقييم منظم لتصميم الضابط وتنفيذه وفعاليته باستخدام أدلة ومعايير محددة.

حواجز الحماية

Guardrails

الحواجز (Guardrails) هي ضوابط تقنية تُقيّد سلوك نموذج الذكاء الاصطناعي وتمنعه من تجاوز حدود محددة.

الاختبار العدائي للمطالبات

Adversarial Prompt Testing

اختبار مقاومة التطبيق لمحاولات متعمدة لتغيير سلوكه أو تجاوز ضوابطه باستخدام مدخلات مصممة للهجوم.

تمثيلية مجموعة الاختبار المرجعية

Benchmark Representativeness

مدى تمثيل حالات الاختبار المرجعي لفئات الاستخدام والمخاطر واللغات والقرارات الفعلية للتطبيق.

اختبار الذكاء الاصطناعي قبل الإطلاق

Pre-Deployment AI Testing

عملية تقييم موثقة للنظام أو التطبيق قبل إتاحته للاستخدام التشغيلي، تشمل شروط القبول وسيناريوهات الفشل والأدلة.

الذكاء الاصطناعي التوليدي

Generative AI

الذكاء الاصطناعي التوليدي هو نماذج تُنتج محتوى جديداً (نص، صورة، صوت، كود) بناءً على أنماط تعلّمتها.

التحيز الضار

Harmful Bias

تحيز في البيانات أو النموذج يؤدي إلى ضرر أو تمييز غير مبرر. مفهوم أساسي في حوكمة الذكاء الاصطناعي يُستخدم داخل ضوابط ISO/IEC 42001 و NIST AI RMF لتحديد المسؤوليات وأدلة التدقيق المرتبطة بـ التحيز الضار.

انضم لمجتمع سيادة AI التفاعلي على واتساب

كن جزءًا من مجتمع المهتمين بحوكمة الذكاء الاصطناعي وسيادته، وتابع النقاشات والمستجدات.

انضم الآن