تم تقديمه بواسطة سبلانك
يعمل Agentic AI على جعل فرق تكنولوجيا المعلومات والأمن أكثر كفاءة بشكل كبير. ولكنه أيضًا يزيل التدريب المهني الذي أنتج منذ فترة طويلة مشغلين ذوي خبرة.
نظرًا لأن المؤسسات تقوم بأتمتة المزيد من العمل الذي كان يؤديه المحللون والمهندسون المبتدئون في السابق، فإنها تواجه تحديًا يتعلق بتصميم القوى العاملة بقدر ما يتعلق بالتصميم المعماري: كيفية بناء الجيل القادم من الخبراء عندما يتعامل الذكاء الاصطناعي مع العمل الذي دربهم في السابق.
ما كانت تفعله القوى العاملة المبتدئة
على مدار عقدين من الزمن، كان الطريق إلى أن تصبح محللًا عالميًا في SecOps، أو SRE، أو مهندس NetOps يمر عبر التكرار.
فرز الإيجابيات الكاذبة. البحث من خلال لوحات المعلومات عن السياق. قراءة السجلات في الساعة 2 صباحًا والتي تبين أنها حميدة. تعاملت الصناعة مع هذا العمل باعتباره عملاً شاقًا، وقد كان كذلك من نواحٍ عديدة.
لكنها كانت أيضًا بمثابة التدريب المهني.
إن آلاف الساعات التي قضاها المحلل في التحديق في أنماط حركة المرور قد بنت الحدس الذي جعلها لا تقدر بثمن عند وصول هجوم حقيقي. لم يتم تدريس هذا الحدس في دورة واحدة أو تم تسجيله في دليل التدريب. لقد تم تجميعها من خلال التعرض والتعرف على الأنماط والفشل والتصعيد. مع مرور الوقت، هذه هي الطريقة التي يكتسب بها الأشخاص خبرة تحليلية عميقة.
ومع ذلك، بدأ الذكاء الاصطناعي الوكيل الآن في أتمتة المهام ذاتها التي كانت في السابق بمثابة ساحة تدريب لتلك الخبرة. وهذا ليس سببا للتباطؤ. وكان الكدح مكلفا. كان الإرهاق حقيقيا. يجب على المنظمات استخدام وكلاء لتقليل الكدح حيثما أمكنهم ذلك.
وفي الوقت نفسه، بينما نقوم بإزالة حلقة التدريب المهني هذه، نحتاج إلى تزويد المشغلين بشيء أفضل في مكانه. إن الطريقة التي تتعامل بها المنظمات مع هذه القضية اليوم ستحدد الفائزين في المستقبل.
إن المنظمات التي تتعامل مع هذا الأمر بشكل متعمد ستنتج مشغلين ماهرين لتحقيق النجاح في العقد القادم. قد تجد المنظمات التي تعتمد على هذا الأمر نفسها لديها أنظمة أسرع اليوم، ولكن مع عدد أقل من الأشخاص الذين يفهمونها بعمق بما يكفي ليحكموها غدًا.
عندما تؤدي الأتمتة إلى إفراغ المساءلة
هناك أيضًا بُعد ثانٍ لهذه المحادثة يحظى باهتمام أقل مما ينبغي.
في البيئات المنظمة، يعتبر كدح التدريب المهني جزءًا من طبقة المساءلة. تفترض الأطر بدءًا من SOX إلى PCI DSS إلى HIPAA إلى NIS2 وجود سلسلة من الأحكام البشرية وراء قرار التحكم.
لا يقوم المدققون بإجراء مقابلات مع النماذج. إنهم يجرون مقابلات مع الأشخاص الذين يمكنهم شرح سبب قيام النظام بما فعله، ولماذا كان القرار سليما، وما إذا كانت الضوابط الصحيحة موجودة أم لا.
عندما يبدأ عدد المحترفين الذين يمكنهم شرح تلك السلسلة في التناقص، فقد لا يظهر الخطر على الفور. ربما لا يزال من الممكن تمرير عنصر التحكم. لا يزال من الممكن تنفيذ سير العمل. ربما لا تزال لوحة القيادة تبدو خضراء.
لكن الذاكرة التنظيمية الأساسية بدأت في التجويف.
هذه ليست مجرد مشكلة الأدوات. إنها أيضًا مشكلة تتعلق بمهارة القوى العاملة وتصميمها. وبالنسبة للمؤسسات التي تتحرك بسرعة نحو اعتماد الوكلاء، فإن الخطر أقرب مما يعتقده الكثيرون.
بناء الخبرة البشرية للتحكم في الذكاء الاصطناعي
عندما نفقد جزءًا من طبقة المساءلة لصالح الوكلاء، سينتقل البشر إلى نوع مختلف من دور الحوكمة. تعني إدارة النظام الوكيل تنفيذ حواجز حماية آلية تتكيف مع سلوك الوكيل غير الحتمي وتضمنق يتصرف الوكلاء بشكل مناسب في ظل ظروف لم يتوقعها أحد تمامًا. ويعني ذلك تصميم معايير تصعيد تلتقط الحالات الشاذة الصحيحة دون إرباك البشر بالحالات الخاطئة. ويعني ذلك تنفيذ أدوات وتنبيهات وعمليات ديناميكية لمراجعة قرارات الآلة لاكتشاف الانحراف والتحيز وفشل الاستدلال الذي لن تكشفه أي حالة فردية.
وتتطلب القدرة على تقييم هذه الاستثناءات والاستجابة لها حكمًا مبنيًا على سنوات من الخبرة، والتعرف على أنماط التعلم التي كان نموذج التدريب المهني القديم ينتجها.
ولهذا السبب فإن سؤال القوى العاملة وسؤال الهندسة المعمارية أصبحا الآن نفس السؤال. إذا كنا نتوقع من البشر أن يحكموا أنظمة مستقلة بشكل متزايد، فنحن بحاجة إلى مسارات مقصودة تساعد الناس على إدارة حجم وسرعة أنظمة الذكاء الاصطناعي مع بناء الحدس والحكم لدى المشغلين البشريين اللازمين للقيام بهذا العمل.
في عصر الذكاء الاصطناعي، لن تقوم المنصات الأكثر قيمة ببساطة بأتمتة معظم المهام. وسوف تساعد الناس على أن يصبحوا أكثر قدرة، وأكثر مصداقية، وأكثر أهمية حيث تصبح الأنظمة من حولهم أسرع وأكثر ذكاءً.
وهذا يعني أن المؤسسات بحاجة إلى الاستثمار في النظام البيئي الكامل للخبرة للمشغلين: المجتمعات التي تنشر الممارسات المشتركة أو الشهادات أو الأدلة الأخرى التي تجعل الخبرة مرئية، والتفسيرات والتحققات الموجهة نحو الإنسان في الذكاء الاصطناعي إلى جانب مسارات التعلم التي تبني القدرات. التمكين هو اختيار التصميم المعماري
يعد تمكين الإنسان جزءًا مهمًا من المحادثة حول الاستخدام العملي للذكاء الاصطناعي. ومع ذلك، بدون استراتيجية مقصودة لدعم هذا الأمر، فإنها تخاطر بأن تصبح عبارة من النوع الذي لا يعني شيئًا لأنه يمكن أن يعني أي شيء.
لا يمكن أن يكون تمكين الأنظمة الفاعلية مجرد مطلب مفاهيمي. يجب أن تكون عبارة عن مجموعة من خيارات التصميم المضمنة في كيفية تصرف الأنظمة. يقوم النظام الوكيل الذي يعمل على تمكين مشغليه البشريين وتنمية مهاراتهم المهنية بأربعة أشياء:
1. يكشف المنطق، مع نسب البيانات وراءه
يجب أن تكون كل توصية يقدمها الوكيل قابلة للتتبع من خلال البيانات التي أخذها في الاعتبار، والمنطق الذي طبقه، ومصدر المدخلات التي استخدمها. المشغلون الذين يمكنهم رؤية المنطق يطورون حكمًا حول متى يثقون به. مشغلي تسليم الاستنتاجات فقط لا.
2. مستويات السلطة بالثقة والتأثير
ويمكن التعامل مع الأنماط المألوفة ومنخفضة المخاطر بشكل مستقل. يجب أن تتصاعد المواقف أو الإجراءات الجديدة ذات نصف قطر الانفجار ذي المغزى بشكل افتراضي. يجب أن تكون الحدود واضحة وقابلة للتكوين من قبل الفرق التي تمتلك العواقب.
3. يتعامل مع الخلافات كإشارة تصحيحية
عندما يتفوق مهندس ذو خبرة على وكيل، فهو يفعل أكثر من مجرد الاختلاف. إنهم يصححون النظام بحكم لم يكن لدى النموذج: تبعية هشة، وخلل في البيئة، وقيد لم تره البيانات مطلقًا. إن النظام الذي يسجل التجاوز ولكنه يتجاهل الأسباب الكامنة وراءه لا يتعلم شيئًا من اللحظة التي يعرف فيها الإنسان شيئًا أفضل.
4. يلتقط القرارات كمعرفة عبر المجالات
إن كيفية حل حادث ما هو درس نادرًا ما يبقى في مسار واحد. قد يكشف حادث SecOps عن نقاط ضعف ITOps. قد تعود مشكلة الشبكة إلى تأثير الأعمال. عندما يكون هذا الاتصال موجودًا فقط داخل تذكرة مغلقة، فإن الفريق التالي الذي يصل إليه يبدأ من الصفر. يجب أن تنتقل القرارات عبر المجالات، ولا تموت حيث تم تقديمها.
هذه ليست صفات طموحة. إنها قدرات منتج قابلة للاختبار. يجب أن يكون القادة الذين يقومون بتقييم الأنظمة الوكيلة قادرين على تحديد مكان وجود هذه القدرات، وما يحدث عندما تفشل، وما إذا كانت مهارة المشغل تتحسن بعد النشر.
الميزة التالية هي عندما يتوسع الإنسان والذكاء الاصطناعي معًا
لكي تكون أنظمة الذكاء الاصطناعي عملية وموثوقة وتعمل على نطاق واسع، فإن نقطة التصميم الحاسمة هي أن يعمل الذكاء الاصطناعي بعمق جنبًا إلى جنب مع المشغلين البشريين وتمكينهم.
وعلى هذا النحو، فإن عصر الوكلاء ليس قصة استبدال البشر. إنها قصة حول إعادة تصميم الأنظمة التي يعمل بها البشر بحيث يمكن أن تتم هذه العمليات بسرعة الآلة وعلى نطاق واسع، بينما تنمو الخبرة البشرية في نفس الوقت. معا، وليس على حساب بعضنا البعض.
هذه النتيجة ليست أمرا مفروغا منه. ولن يحدث ذلك إلا عندما يتعامل القادة مع تطوير المشغلين كأولوية، وليس كفكرة لاحقة. ولتحقيق ذلك، يجب أن يتم تصميم الأنظمة الفاعلية بشكل مقصود لكشف المنطق، واستخلاص التعلم، وإعادة توجيه العمل إلى البشر بطرق تبني المهارات والمهنة بدلاً من تآكل كليهما.
سوف يستمر الوكلاء في أن يصبحوا أكثر ذكاءً وأسرع. إن قدرة المشغلين الذين يعملون جنبًا إلى جنب معهم على التعلم والنمو بوتيرة ثابتة، ستحدد ما إذا كان العقد القادم من المرونة الرقمية هو شيء تمتلكه المؤسسات حقًا، أم أنه شيء تستأجره من مجموعة الخبرات المتقلصة.
تعرف على المزيد حول كيفية القيام بذلك نسيج بيانات Cisco مدعوم من منصة Splunk يساعد الفرق على تسريع العمليات الوكيلة.
كمال هاثي هو نائب الرئيس الأول والمدير العام لشركة Splunk، إحدى شركات Cisco.
المقالات الدعائية هي محتوى تنتجه شركة تدفع مقابل المنشور أو لديها علاقة عمل مع VentureBeat، ويتم تمييزها دائمًا بشكل واضح. لمزيد من المعلومات، اتصل sales@venturebeat.com.
