الوكلاء الذكيون
AI Agents
وكلاء الذكاء الاصطناعي فئة من الأنظمة تُنفذ سلسلة قرارات لتحقيق هدف باستخدام أدوات وذاكرة وخطط.
شرح تفصيلي
تتطلب الأنظمة الوكيلة حوكمة إضافية مقارنة بالنماذج البسيطة: تعريف واضح لنطاق الاستخدام، قوائم بيضاء للأدوات، حدود إنفاق ومخاطر، آليات إيقاف طارئ، وسجلات كاملة للقرارات الوسيطة. من أطر التقييم ذات الصلة: OWASP LLM Top 10 (خصوصاً Excessive Agency) وMITRE ATLAS.
مثال عملي
وكيل مبيعات آلي يمتلك قائمة أدوات محددة، وحد أعلى لخصم لا يمكن تجاوزه، ويُلزم بمراجعة بشرية لأي عرض يتجاوز الحد.