تمنح فرق الذكاء الاصطناعي للمؤسسات الوكلاء مزيدًا من الحرية في نفس اللحظة التي تنهار فيها ثقتهم في الاختبار الآلي.
قامت نصف المؤسسات بنشر وكيل الذكاء الاصطناعي أو ميزة LLM التي اجتازت التقييمات الداخلية ومع ذلك تسببت في فشل في مواجهة العملاء – واحد من كل أربعة أكثر من مرة – وفقًا لاستطلاع VB Pulse في يونيو 2026 الذي شمل 157 مؤسسة مؤهلة في الشركات التي لديها 100 موظف أو أكثر.
يتم اختيار العينة ذاتيًا وليست عينة احتمالية، لذا يجب قراءة النتائج على أنها اتجاهية وليست دقيقة.
لكن الشركات لا تستجيب من خلال إبطاء الأتمتة: 66% من المشاركين يسمحون بالفعل بنشر بعض الإنتاج دون مراجعة بشرية أو يتم بناء أنظمة تهدف إلى القيام بذلك خلال الـ 12 شهرًا القادمة. قال 5% فقط أنهم يثقون تمامًا في التقييمات الآلية التي ستتخذ قرارات الإصدار هذه.
ويمثل عدم التطابق هذا فجوة التقييم: إذ إن سقف الاستقلالية يرتفع بسرعة أكبر من الضمانات التي تحته.
كما أنه يناسب أطروحة أوسع سيتم استكشافها في VB Transform 2026: تقوم المؤسسات بشحن الوكلاء أولاً، بينما تصل طبقات التحكم حول الهوية والتقييم والتكلفة والسياق والتنسيق لاحقًا. سيكون العام المقبل بمثابة دورة تحديثية، حيث يقوم المشترون بتحويل الميزانية نحو الأنظمة التي تجعل عمليات النشر الوكلاءية قابلة للتحكم ويمكن الاعتماد عليها.
لماذا لا يعتبر التقييم الناجح وكيلاً عاملاً
عادةً ما يسأل اختبار البرامج التقليدية ما إذا كان المدخل المحدد ينتج عنه مخرجات متوقعة. يعد اختبار الوكيل أكثر صعوبة لأن النظام قد يختار تسلسل الخطوات الخاص به وأدوات الاتصال واسترداد البيانات وتغيير الحالة والاستجابة بشكل مختلف من تشغيل إلى آخر.
يمكن للوكيل أن يتخذ عدة قرارات معقولة بشكل فردي ويصل إلى نتيجة خاطئة. قد يقوم باسترداد الحساب الصحيح ولكن يقوم بتحديث الحقل الخطأ. ويجوز لها صياغة طلب استرداد صالح ولكن إرساله دون موافقة. قد يستدعي خمس أدوات بنجاح قبل أن تؤدي الخطوة السادسة إلى تسرب معلومات حساسة أو ترك سير العمل غير مكتمل.
ويظهر الاستطلاع أن الشركات تدرك بالفعل هذا القيد. السبب الأكثر شيوعًا لعدم الثقة في التقييم الآلي هو ضعف التوافق مع نتائج العالم الحقيقي، حسبما ذكر 29% من المشاركين. ويتبع ذلك التحيز أو عدم الاتساق بنسبة 21%، وعدم وجود تفسير بنسبة 18%، وتسرب البيانات أو المخاوف المتعلقة بالخصوصية بنسبة 17%.
هذا التسلسل الهرمي مهم. تقول الشركات إن النتيجة في كثير من الأحيان لا تتنبأ بما يحدث عندما يواجه العميل أو الموظف أو العملية التجارية الوكيل في الإنتاج – وليس أن التسجيل الآلي بطيء جدًا أو مكلف.
تشير NIST إلى نقطة مماثلة في ملف تعريف الذكاء الاصطناعي التوليدي الخاص بها: قد لا يتم نقل القياسات المجمعة في بيئات خاضعة للرقابة بشكل نظيف إلى النشر لأن السلوك يتغير مع المطالبات والمستخدمين والسياق وظروف التشغيل. وتدعو توجيهاتها إلى إجراء اختبارات ميدانية ومراقبة ما بعد النشر وعمليات واضحة لتصعيد حالات الفشل.
القدرة ليست الاتساق
يثبت التشغيل الناجح أن الوكيل يمكنه إكمال المهمة. ولا يثبت أنه سيكمل المهمة بشكل موثوق.
تميز إرشادات الأنثروبيك بشأن تقييم الوكيل بين قياس ما إذا كان النظام ينجح مرة واحدة على الأقل عبر المحاولات المتكررة وما إذا كان ينجح في كل مرة. يعد هذا التمييز ضروريًا للتعامل مع العملاء أو سير العمل التشغيلي. قد يظل النموذج الذي ينتج أحيانًا إجابة ممتازة غير مقبول إذا فشلت نفس المهمة بشكل غير متوقع في المحاولة التالية.
ولذلك يجب على فرق المؤسسة التعامل مع التكرار كمقياس من الدرجة الأولى. وهذا يعني تشغيل نفس السيناريو عدة مرات، وتغيير الصياغة والسياق، واختبار فشل الأداة، وقياس ما إذا كانت نتيجة العمل النهائية تظل صحيحة حتى عندما يتغير المسار.
يجب أيضًا أن تتطور مجموعة التقييم. يجب أن يصبح كل حادث إنتاج بمثابة اختبار تراجع دائم. يجب أن يتم إرجاع عمليات تصعيد العملاء واستدعاءات الأدوات الفاشلة والموافقات غير الصحيحة وأخطاء معالجة البيانات إلى مجموعة ما قبل النشر بدلاً من حالات الدعم المعزولة المتبقية.
وينبغي للاستقلالية أن تتوسع من خلال المخاطرة، وليس من خلال الطموح
لا يعني الاستطلاع أن كل إجراء للوكيل يجب أن يتطلب شخصًا. لا يمكن للمراجعة البشرية أن تشمل ملايين القرارات ذات العواقب المنخفضة.
ولكن يجب أن يتم تحقيق العملية الخالية من البشر من خلال موثوقية مثبتة ومقيدة بعواقب الفشل.
يمكن للإجراءات منخفضة المخاطر مثل صياغة الملخصات الداخلية أو تصنيف المستندات أن تتحمل استقلالية أوسع. تحتاج المعاملات المالية واتصالات العملاء ونشر التعليمات البرمجية وتغييرات التحكم في الوصول وحذف البيانات إلى عتبات أكثر صرامة واختبارات اتساق متكررة وفحوصات السياسة وآليات التراجع ومسارات تصعيد بشرية واضحة.
ولا يتم توزيع المخاطر بالتساوي حسب حجم الشركة أيضًا. تتجه المؤسسات الأكبر حجمًا – تلك التي تضم 2500 موظف أو أكثر – نحو عدم استخدام أي موظف بشكل أسرع، بنسبة 70% مقابل 64% للشركات الأصغر، كما أنها تقوم أيضًا بشحن المزيد من الوكلاء الذين يستمرون في فشل العميل، بنسبة 54% مقابل 48%.
هذا هو التحذير لقادة الأعمال. إن إخراج الإنسان من الحلقة لا يزيل عدم اليقين. وبدون ضمان أقوى، فإنه يحول عدم اليقين إلى قرار إنتاج آلي.
وسوف تستمر السوق في الدفع نحو قدر أكبر من الاستقلالية لأن الحافز الاقتصادي حقيقي. لن تكون المؤسسات التي تتمتع بموقع أفضل هي تلك التي تزيل الأشخاص بشكل أسرع – بل ستكون هي التي تتعامل مع التكرار واختبار الانحدار بنفس القدر من الجدية مثل سرعة النشر.
