الذكاء الاصطناعي التوليدي
Generative AI
الذكاء الاصطناعي التوليدي هو نماذج تُنتج محتوى جديداً (نص، صورة، صوت، كود) بناءً على أنماط تعلّمتها.
شرح تفصيلي
يفتح التوليد إمكانات كبيرة لكنه يُدخل مخاطر: هلوسة، انتحال، تسرب بيانات، تحيّز، حقن تعليمات، ومحتوى ضار. الحوكمة تشمل نطاق استخدام واضح، فلترة الإدخال والمخرجات، تسجيل، رقابة بشرية على القرارات الحساسة، واتفاقيات مع مزودي النماذج. مرجع أمني رئيسي: OWASP LLM Top 10.
مثال عملي
مساعد صياغة رسائل داخلية يُقيّد بفهارس داخلية عبر RAG، ويُلزم بمراجعة بشرية قبل إرسال أي رسالة للخارج.