الأمن السيبراني والمرونة لأنظمة الذكاء الاصطناعي في البحرين: من حماية النموذج إلى استمرارية الخدمة

لماذا AI Security أوسع من حماية النموذج؟

AI system الحقيقي غالبًا لا يتكون من model واحد.

يتكون من:

User → Application → Identity → Model → Retrieval → Tools → APIs → Cloud → Logs → Vendors

كل مكوّن يمكن أن يصبح نقطة هجوم أو فشل.

موقع الاستراتيجية الوطنية للأمن السيبراني

استراتيجية البحرين الوطنية للأمن السيبراني 2025–2028 تمثل طبقة وطنية نهائية للأمن والمرونة.

وهي ليست AI regulation مستقلة.

لكنها مهمة لأنها توفر منطقًا مناسبًا لحوكمة الأنظمة الذكية:

• resilience.
• governance.
• cooperation.
• capability building.
• innovation.

Cyber Resilience

المرونة السيبرانية تعني أكثر من منع الاختراق.

تشمل قدرة المؤسسة على:

• الاستمرار.
• الاحتواء.
• الاستجابة.
• التعافي.
• التكيف.

AI Threat Surface

قد تشمل المخاطر:

• Prompt Injection.
• Jailbreaking.
• Model Endpoint Abuse.
• Data Leakage.
• Retrieval Poisoning.
• Tool Abuse.
• Agent Privilege Escalation.
• Credential Exposure.
• Model Supply-Chain Risk.
• Malicious Files.

Prompt Injection

Prompt Injection قد يبدأ كنص.

لكن في نظام مربوط بأدوات يمكن أن يتحول إلى:

• unauthorized retrieval.
• unsafe tool use.
• privilege abuse.
• data exposure.

Indirect Prompt Injection

المهاجم لا يحتاج دائمًا إلى التحدث مباشرة مع النظام.

قد يضع تعليمات خبيثة داخل:

• document.
• webpage.
• email.
• database record.

ثم يسترجعها النظام لاحقًا.

RAG Security

في RAG يجب حماية:

• ingestion.
• indexing.
• retrieval.
• authorization.
• document freshness.

Retrieval Poisoning

المحتوى الخبيث قد يؤثر في مخرجات model.

لذلك knowledge base نفسها أصل أمني.

Agentic AI

Agentic AI يضيف Action Risk.

النظام قد يمتلك صلاحيات على:

• APIs.
• files.
• messaging.
• workflows.
• business systems.

Machine Identity

يجب أن يكون لكل Agent أو workflow:

• identity.
• scoped permissions.
• rotation.
• logging.
• revocation.

Least Privilege

لا تمنح Agent أكثر مما يحتاج.

لا تعطه صلاحية:

Read + Write + Delete

إذا كان الغرض فقط:

Read.

Approval Gates

بعض الأفعال تحتاج موافقة بشرية قبل التنفيذ.

خصوصًا:

• financial action.
• account change.
• data deletion.
• sensitive communication.
• privilege escalation.

Kill Switch

الأنظمة autonomous تحتاج آلية إيقاف حقيقية.

يجب أن تستطيع:

• revoke tokens.
• disable tools.
• block outbound actions.
• isolate workflow.

AI Asset Inventory

أدرج في inventory:

• models.
• APIs.
• agents.
• vector stores.
• prompt templates.
• plugins.
• tool integrations.
• knowledge bases.
• fine-tuned models.

Threat Modeling

لكل نظام مهم، حدد:

• assets.
• trust boundaries.
• attack paths.
• threat actors.
• controls.
• residual risk.

Model Risk مقابل Cyber Risk

Model Risk:

• hallucination.
• drift.
• instability.
• bias.
• calibration issues.

Cyber Risk:

• compromise.
• exfiltration.
• unauthorized access.
• injection.
• privilege abuse.

يجب إدارة الاثنين معًا.

Third-Party AI Risk

المؤسسة قد تعتمد على:

• model provider.
• cloud provider.
• vector database.
• monitoring vendor.
• security vendor.

كل dependency تؤثر في resilience.

Concentration Risk

إذا اعتمدت عدة خدمات على provider واحد، فإن الخطر يتراكم.

قد يتوقف:

• customer chatbot.
• employee copilot.
• analytics.
• agent workflows.

معًا.

Vendor Resilience

العناية الواجبة يجب أن تشمل:

• uptime.
• recovery.
• regions.
• failover.
• incident response.
• portability.
• service termination.

Service Continuity

حدد لكل AI service:

• criticality.
• maximum tolerable downtime.
• fallback.
• recovery owner.
• alternate process.

Failure Modes

اختبر:

• model outage.
• degraded model quality.
• retrieval outage.
• identity outage.
• cloud region failure.
• vendor API failure.
• corrupted vector store.

Graceful Degradation

النظام الجيد لا ينتقل من:

Full AI Service

إلى:

No Service.

مثلاً:

إذا تعطل model، يمكن إبقاء الوظيفة الأساسية متاحة بدون AI.

Manual Fallback

في الأنظمة الحرجة يجب أن يوجد مسار بشري.

Incident Taxonomy

AI incident قد يكون:

• Cyber Incident.
• Privacy Incident.
• Model Incident.
• Operational Incident.
• Vendor Incident.

Detection

حدد مؤشرات مثل:

• anomalous prompts.
• unusual API use.
• excessive retrieval.
• unexpected model behavior.
• tool misuse.
• abnormal access.

Containment

آليات الاحتواء قد تشمل:

• revoke identity.
• disable tool.
• isolate service.
• block provider.
• stop workflow.

Evidence Preservation

أثناء incident احتفظ بـ:

• logs.
• model version.
• prompt.
• tool calls.
• identity.
• retrieved data.
• timestamps.

Logging

يجب أن يسمح logging بإعادة بناء ما حدث.

لكن لا تسجل بيانات حساسة بلا حاجة.

Sensitive Logging

وازن بين:

Observability

و:

Privacy.

Monitoring

راقب:

• availability.
• latency.
• failed requests.
• policy violations.
• privilege use.
• anomalous behavior.
• provider changes.

AI Red Teaming

للأنظمة عالية الأثر اختبر:

• prompt injection.
• data extraction.
• unsafe tool invocation.
• access bypass.
• malicious retrieval.
• agent escalation.

Security Testing

اختبر أيضًا:

• API security.
• authentication.
• authorization.
• secrets handling.
• storage.
• backup access.

Secure Development Lifecycle

أدخل AI في SDLC.

يشمل:

• design review.
• threat model.
• security testing.
• pre-production review.
• monitoring.

Model Supply Chain

إذا استخدمت model خارجيًا، اسأل:

• من يطوره؟
• كيف يتغير؟
• هل يتم إشعارك؟
• هل توجد provenance؟
• ما dependencies؟

Open Models

استخدام open model لا يلغي المخاطر.

قد تحتاج إلى تقييم:

• source.
• weights.
• dependencies.
• license.
• security.

Cloud Security

AI workloads غالبًا تعمل على cloud.

راجع:

• IAM.
• storage.
• networking.
• encryption.
• logging.
• key management.

Secrets Management

لا تضع API keys داخل prompts أو source code.

استخدم secret management مناسب.

Data Leakage

قد يحدث leakage عبر:

• prompt.
• output.
• logs.
• retrieval.
• monitoring.
• vendor support.

Privacy Integration

قانون حماية البيانات البحريني يجعل security controls جزءًا مهمًا من حماية البيانات.

الحادث قد يحتاج إشراك:

• Cybersecurity.
• Privacy.
• Legal.
• Business.

National Cyber Governance

الاستراتيجية الوطنية تركز على governance وrisk management والمرونة.

هذا يدعم نموذجًا تكون فيه AI Security جزءًا من Cyber Governance المؤسسية وليس برنامجًا منفصلًا بالكامل.

Policy Integration

اربط AI controls مع:

• Access Control.
• Incident Response.
• Third-Party Risk.
• Business Continuity.
• Data Protection.
• Secure Development.

Security Review Gate

قبل Go-Live يجب فحص:

• architecture.
• identities.
• tools.
• APIs.
• vendors.
• data.
• attack paths.
• fallback.

High-Impact AI

كلما ارتفع الأثر، زادت الحاجة إلى:

• stronger testing.
• red teaming.
• monitoring.
• recovery testing.
• independent review.

Recovery Testing

اختبر فعليًا:

• provider outage.
• lost credentials.
• compromised agent.
• corrupted retrieval.
• model endpoint failure.

Tabletop Exercise

مثال سيناريو:

Agent أرسل ملفًا حساسًا إلى جهة خارجية.

اختبر:

• من يكتشف؟
• من يوقف؟
• من يحقق؟
• من يبلغ؟
• كيف تعود الخدمة؟

Workforce

AI Security يحتاج تعاون:

• Cybersecurity.
• AI Engineering.
• Data.
• Privacy.
• Risk.
• Legal.
• Business.

Skills Gap

قد يفهم فريق AI النموذج ولا يفهم resilience.

وقد يفهم فريق Cyber الأمن ولا يفهم behavior models.

يجب سد الفجوة بين الفريقين.

Metrics

راقب:

• AI incidents.
• MTTD.
• MTTC.
• downtime.
• critical dependencies.
• unresolved findings.
• red-team issues.

Evidence Pack

احتفظ بـ:

• Asset Inventory.
• Threat Model.
• Security Review.
• Vendor Assessment.
• Red Team Results.
• Recovery Test.
• Incident Logs.
• Exceptions.

Priorities

الترتيب العملي:

1. AI Asset Inventory.
2. Threat Modeling.
3. Identity Review.
4. Vendor Risk.
5. Incident Taxonomy.
6. Fallback Design.
7. Red Teaming.
8. Recovery Testing.

الخلاصة

AI Security في البحرين يجب أن يُقرأ داخل منطق الأمن والمرونة الوطنية.

الهدف ليس فقط منع اختراق model.

الهدف أن تكون المؤسسة قادرة على الصمود إذا فشل model أو المورد أو agent أو البنية السحابية، وأن تستطيع احتواء الحادث وإثبات ما حدث واستعادة الخدمة.