كيف تُدخل وكلاء الذكاء الاصطناعي إلى شركتك: خطة عملية

يجيب روبوت المحادثة عن الأسئلة، أما وكيل الذكاء الاصطناعي فينجز العمل: يقرأ الطلب، ويقرر الخطوات، ويستخدم أدوات مثل نظام CRM أو نظام الطلبات، ويتحقق من النتيجة، ويواصل حتى تكتمل المهمة.

وفي هذه القدرة يكمن الخطر أيضًا. فالوكيل الذي يتصرف قد يخطئ، وبسرعة. توضح هذه المقالة العمليات التي تناسب الوكلاء، وكيفية إدخالهم بأمان، وما ينبغي التخطيط له مسبقًا.

بماذا يختلف الوكيل

	ماذا يفعل	من يقرر الخطوات
برنامج نصي أو أتمتة	يتبع قواعد ثابتة	المطور، مسبقًا
روبوت محادثة	يجيب نصًا	لا أحد: لا توجد إجراءات
وكيل ذكاء اصطناعي	يخطط ويتصرف بالأدوات	النموذج، ضمن حدود مرسومة

إذا كانت الخطوات هي نفسها دائمًا، فالبرنامج النصي أرخص وأسرع وأوثق. ويصبح الوكيل منطقيًا عندما تتغير المدخلات ويعتمد الطريق إلى النتيجة عليها.

ما العمليات التي تناسب الوكلاء

تتسم العملية الأولى الجيدة بما يلي:

• تتكرر كثيرًا. فالحجم كافٍ لتكون الوفورات مهمة.
• مدخلاتها غير منظمة. رسائل ووثائق وطلبات حرة الصياغة لا تتعامل معها القواعد جيدًا.
• يمكن التحقق من نتيجتها. يمكنك التمييز بين النتيجة الجيدة والسيئة، وبصورة آلية إن أمكن.
• يمكن تصحيح أخطائها. فالمسودة الخاطئة رخيصة، أما الدفعة الخاطئة فلا.

ومن الأمثلة النموذجية فرز طلبات الدعم والرد عليها، واستخراج البيانات من الوثائق، وإعداد التقارير الدورية، ومعالجة الطلبات الداخلية.

وتجنب البدء بعمليات يكون الخطأ فيها مكلفًا ولا رجعة فيه، أو لا يستطيع أحد فيها تحديد شكل النتيجة الصحيحة.

خطة الإدخال

1. قِس العملية كما هي

سجّل الوقت الذي يستغرقه العمل وتكلفته ومدى تكرار الأخطاء فيه. فبدون نقطة البداية هذه لن تستطيع لاحقًا أن تحدد هل ساعد الوكيل.

2. حدد المهمة وحدودها

صف ما يفعله الوكيل، وما يُمنع عليه، ومتى يحيل الحالة إلى شخص. فاختبار وكيل ضيق يتقن عملًا واحدًا أسهل بكثير من اختبار مساعد شامل.

3. امنحه الحد الأدنى من الصلاحيات

ابدأ بصلاحية القراءة فقط. وأضف إجراءات الكتابة واحدًا تلو الآخر، وما تتطلبه المهمة فقط. ويجب أن يكون للوكيل حسابه الخاص بأذوناته الخاصة، لتظهر إجراءاته ويمكن سحب وصوله. ويساعد ربط الأدوات عبر طبقة موحدة، مثل خادم MCP، على ضبط ذلك في مكان واحد.

4. أبقِ شخصًا في المسار

ينبغي أن يتطلب إرسال رسالة إلى عميل أو تغيير سجل أو إنفاق المال موافقة شخص في البداية. ولا تُزل هذه الخطوة إلا حيث تُظهر البيانات أن الوكيل يعمل بصورة موثوقة.

5. أنشئ مجموعة اختبار

اجمع حالات حقيقية ذات نتائج صحيحة معروفة، بما فيها الحالات الصعبة وغير المعتادة. وشغّلها بعد كل تغيير في النموذج أو التعليمات أو الأدوات، فقد يتغير السلوك بعد أي منها.

6. ابنِ البيئة المحيطة بالنموذج

ليس النموذج سوى جزء من النظام. ويوفر إطار تشغيل الوكلاء الأدوات والأذونات والذاكرة والفحوص والسجلات والحدود. وعمليًا، تعتمد الموثوقية على هذه الطبقة أكثر مما تعتمد على اختيار النموذج.

7. أجرِ تجربة في وضع الظل

دع الوكيل يعمل إلى جانب الأشخاص بدون التأثير في أي شيء، وقارن نتائجه بنتائجهم. ثم انتقل إلى العمل بالموافقة، وبعدها فقط إلى استقلالية محدودة.

8. سجّل وراجع

احتفظ بسجل لكل خطوة: ما رآه الوكيل وما قرره وما فعله. فعندما يقع خطأ، هذه هي الطريقة الوحيدة لفهم السبب. وعيّن مالكًا محددًا يراجع الجودة بانتظام.

المخاطر التي يجب التخطيط لها

• حقن الأوامر (prompt injection). يقرأ الوكيل نصوصًا خارجية قد تتضمن تعليمات موجهة إليه، كما في رسالة بريد أو صفحة ويب. تعامل مع كل محتوى وارد على أنه بيانات غير موثوقة، وقيّد ما يمكن للوكيل فعله حتى لو خُدع. وهذا هو الخطر الأول في قائمة OWASP Top 10 لتطبيقات LLM.
• صلاحيات مفرطة. كلما زاد ما يستطيع الوكيل فعله، زاد الضرر الناتج عن خطأ واحد.
• تسرب البيانات. قد تصل البيانات الشخصية والسرية إلى النموذج والخدمات الخارجية. حدد ما يجوز إرساله وإلى أين، واقرأ عن مكان تشغيل الذكاء الاصطناعي المؤسسي.
• تكاليف خارجة عن السيطرة. يواصل الوكيل العالق في حلقة الإنفاق. ضع حدودًا للخطوات والوقت والميزانية.
• الثقة العمياء. تجعل الإجابات الواثقة الناس يتوقفون عن التحقق. حافظ على الفحوص العشوائية حتى بعد البداية الجيدة.

ويعتمد الوكلاء على البيانات أيضًا: فإذا كانت السجلات خاطئة أو اختلفت التعريفات بين الأنظمة، فسيتصرف الوكيل بسرعة بناءً على معلومات خاطئة. وهنا أيضًا تؤتي حوكمة البيانات الأساسية ثمارها.

الخلاصة

ابدأ بعملية متكررة واحدة يمكن التحقق من نتيجتها. امنح الوكيل الحد الأدنى من الصلاحيات، وأبقِ القرار بيد شخص، واختبر على حالات حقيقية، وسجّل كل شيء. ولا توسّع استقلاليته إلا عندما تدعم الأرقام ذلك.

لدينا فريقنا الخاص من وكلاء الذكاء الاصطناعي، ينجز فيه وكيل العمل ويتحقق منه وكيل آخر، ولذلك نعرف هذه المسائل عمليًا. ولتطبيق ذلك في شركتك، اطّلع على خدمة وكلاء الذكاء الاصطناعي للأعمال.

المصادر

• OWASP Top 10 for LLM Applications، OWASP
• AI Risk Management Framework، NIST