مقدمة من بينغ الهوية
يقول أندريه دوراند، الرئيس التنفيذي ومؤسس شركة Ping Identity، إن الشركات بحاجة إلى التعامل مع بنية أمان الثقة المعدومة باعتبارها مطلبًا فوريًا لعملاء الذكاء الاصطناعي وليس هدفًا طويل المدى. الثقة المعدومة، نموذج الأمان المبني على افتراض أنه لا ينبغي الوثوق تلقائيًا بأي مستخدم أو جهاز أو نظام، يتطلب التحقق المستمر قبل كل إجراء بدلاً من التحقق مرة واحدة عند تسجيل الدخول. لقد ضغط الذكاء الاصطناعي الوكيل بشكل كبير على الجدول الزمني للمخاطر الذي يجب على المؤسسات إدارته، مما يتطلب تقييم قرارات الأذونات في الوقت الفعلي.
يكتب: جزءا لا يتجزأ من الدخول في السطر بطاقة تعريف: 1Ieiy1KhHNWZE5KVqNdA1G
يظهر هذا الضغط في كيفية تراكم الأذونات. في كل مرة يوافق فيها أحد الموظفين على طلب وكيل الذكاء الاصطناعي للوصول إلى محرك أقراص الشركة أو قاعدة بيانات أو مستودع الأكواد البرمجية، تقوم المؤسسة بتسليم شريحة من التحكم تبدو روتينية بمعزل عن غيرها. ومن خلال آلاف الوكلاء الذين يقدمون آلاف الطلبات، تتراكم هذه الموافقات لتشكل تعرضًا لم يتم إنشاء معظم بنيات الأمان الحالية لقياسه.
"إن تزايد الرغبة في استخدام الوكلاء في الوقت الحالي، وسرعة الوكلاء، يسلط الضوء على الحاجة إلى التحرك بشكل أسرع وفقًا لمبادئ انعدام الثقة." يقول دوراند. "الوكلاء يتحركون بشكل أسرع، نقطة كاملة. يمكن قياس التسوية البشرية بالدقائق أو الساعات، وأحيانا أيام. وبسرعة الوكيل، يمكن أن يحدث ألف إجراء في خمس دقائق."
لماذا أصبحت الثقة المعدومة الآن أمرًا ملحًا بالنسبة للذكاء الاصطناعي الوكيل؟
يغير هذا الاختلاف في السرعة كيفية تفكير المؤسسات في الأذونات. هناك متغيران مهمان: مساحة سطح الوصول الممنوحة للوكيل ومدة الوصول التي تظل صالحة. تميل إدارة الهوية والوصول التقليدية إلى منح أذونات واسعة وترك الجلسات مفتوحة لفترات طويلة لأن الإنسان الذي يستخدمها يتحرك بسرعة الإنسان. في المقابل، تؤدي الثقة المعدومة إلى انهيار كلا المتغيرين مرة واحدة عن طريق تضييق نطاق الوصول إلى ما هو ضروري للغاية وإعادة التحقق منه بشكل مستمر، بدلاً من مرة واحدة عند تسجيل الدخول.
"الثقة المعدومة تقول فقط، يكفي، في الوقت المناسب،" يقول دوراند. "إنه الإجراء التالي الذي نهتم به. نحن ننقل الهوية من عصر كان فيه الوصول هو نقطة التحكم في وقت التشغيل لدينا – بمعنى هل قمت بتسجيل الدخول، أو هل كانت لديك جلسة – نحو القرار الذي يكمن وراء تسجيل الدخول هذا."
لماذا يجب التعامل مع الوكلاء على أنهم هويات من الدرجة الأولى؟
إن هذا التحول إلى السيطرة القائمة على القرار له آثار مباشرة على كيفية توفير الوكلاء في المقام الأول. يقول دوراند إن الممارسة الشائعة المتمثلة في السماح للوكيل بالعمل بموجب تسجيل دخول بشري مستنسخ أو حساب خدمة مشترك لا تعمل.
"يجب أن يكون لكل وكيل هويته الخاصة،" يشرح. "لا ينبغي أن يكون انتحال شخصية الإنسان. يمكن أن يتصرف نيابة عن الإنسان، ويمكننا تفويض السلطة بشكل صريح إلى وكيل، لكننا لا نريد أن نطمس الخطوط الفاصلة بين الإنسان الذي يتخذ إجراءً والفاعل الذي يتخذ إجراءً."
وأبعد من ذلك هناك مصدر قلق آخر: الأسرار المشتركة، ومفاتيح واجهة برمجة التطبيقات (API) على وجه الخصوص، والتي لا تزال العديد من حسابات الخدمة تعتمد عليها. على سبيل المثال، تعد عادة تضمين المفاتيح مباشرة في التعليمات البرمجية المصدر، حيث يمكن ارتكابها عن طريق الخطأ وكشفها، نمطًا أمنيًا مناسبًا ولكنه ضعيف مما يجعل سير العمل الوكيل أكثر خطورة إلى حد كبير. أصبح إنشاء بنيات حساب الخدمة التي تسمح للوكلاء بالمصادقة دون الاعتماد على بيانات الاعتماد المشتركة أو الوصول الدائم طويل الأمد الآن أولوية ملحة بدلاً من مشروع تنظيف طويل الأجل.
حيث يمكن للمؤسسات فرض سياسات الثقة المعدومة
ويتطلب إنفاذ أي من هذا في الممارسة العملية تحديد أين يمكن تطبيق السياسة فعليا. توفر العديد من نقاط الاختناق الحالية، بما في ذلك بوابات API وبوابة الوكيل الموجودة أمام خوادم MCP، مواقع عملية حيث يمكن للمؤسسات فحص ما يطلبه الوكيل وتطبيق قواعد السياسة قبل منحه.
"يمكن لهذه السياسات الاستفادة من إشارات المخاطر والاحتيال في الوقت الفعلي، ومن ثم فرض، بشكل حتمي، ما يمكن للوكيل فعله عندما يتفاعل مع هذه الأنظمة." يشرح دوراند.
الهدف هو نقل الترخيص من شيء تم تحديده مرة واحدة عند تسجيل الدخول إلى شيء تم تقييمه في لحظة كل إجراء لاحق، مثل وكيل يحاول الالتزام بالتعليمات البرمجية في المستودع. بدلاً من الحصول على إذن دائم للكتابة إلى GitHub، سيتم فحص طلب الوكيل وفقًا للسياق والسياسة في تلك اللحظة المحددة، مما يؤدي إلى إغلاق نافذة الثقة وصولاً إلى نطاق إجراء واحد.
منع وكلاء الذكاء الاصطناعي من إعادة كتابة أذوناتهم الخاصة
يصبح هذا النموذج مهمًا بشكل خاص نظرًا لكيفية تصرف الوكلاء بمجرد وجودهم داخل النظام بالفعل – على سبيل المثال، وكلاء التشفير الذين اعترفوا، عند سؤالهم، إما بتجاهل حاجز حماية معين تمامًا، أو محاولة إعادة كتابة الأذونات الممنوحة لهم.
"من يراقب المراقب؟ يجب تطبيق الثقة المعدومة هنا،" يقول دوراند. "إذا اتبعت أنظمة الذكاء الاصطناعي التوليدية تعليماتك بنسبة 97% من الوقت، وكنت ببساطة تطلب منها النصيحة، فقد يكون ذلك جيدًا. إذا كانت مسؤولة عن اتخاذ القرار بشأن من يُسمح له بالدخول، فإن نسبة 97% ليست جيدة بما فيه الكفاية."
كيفية الوثوق بالمخرجات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بسرعة الوكيل
إن الإجابة على هذه الفجوة لا تكمن في استبعاد الذكاء الاصطناعي من عملية المراجعة، بل في هيكلة المراجعات بحيث لا يتم أخذ حكم وكيل واحد على محمل الجد. ولأن المراجعة البشرية لا يمكن أن تتناسب مع حجم وسرعة مخرجات الوكلاء دون محو ميزة استخدام الوكلاء على الإطلاق، فمن الضروري وجود إطار جديد، بحيث عندما ينتج وكيل واحد عملاً، مثل التعليمات البرمجية، يقوم وكلاء منفصلون بتقييمه، بشرط منع هؤلاء الوكلاء المراجعين من التواصل مع بعضهم البعض أو مع الشخص الذي يقومون بفحصه. يقول دوراند: إنه نموذج جديد للذكاء الاصطناعي البشري.
"ربما سيتعين علينا تطوير أطر عمل نثق بها دون رؤية المخرجات أو التحقق منها مباشرة،" يشرح. "لا يعني ذلك أن هذا البناء مضمون بنسبة 100٪. ومع ذلك، فهذا أفضل ما يمكننا القيام به للتحرك بسرعة العميل. لا يمكننا أن نثق في المخرجات الدقيقة، لكن يمكننا أن نثق في إطار العمل."
ومن الناحية العملية، يعني هذا الجمع بين المراجعة الآلية والمساءلة البشرية الواضحة عن القرارات الأكثر خطورة، بدلا من التعامل مع مخرجات الوكيل باعتبارها ذاتية التحقق.
بالنسبة للمدققين التقليديين، فإن مراجعة كل معاملة على حدة ليس من الممكن على الإطلاق، وأخذ العينات الصحيحة إحصائيا هو بمثابة التحقق الكامل. وينطبق الشيء نفسه على تراكم المخاطر: فقد يحمل إجراء وكيل واحد قدرا ضئيلا من المخاطر في حد ذاته، في حين أن سلسلة من الإجراءات التي تتحرك في اتجاه ثابت يمكن أن تتجاوز العتبة التي تؤدي إلى التدخل، بما في ذلك مفتاح القتل القادر على إيقاف العامل قبل وقوع المزيد من الضرر.
ما الذي يجب طرحه عند تقييم منصات الهوية الوكيلة
بالنسبة لقادة الأمن الذين يقومون بتقييم منصات الهوية للذكاء الاصطناعي الوكيل، لا توجد قائمة مرجعية ضيقة. يجب على الشركات تقييم الشكل الذي تبدو عليه دورة حياتها الكاملة لإدارة الوكلاء. تقوم معظم المؤسسات بإدارة الوكلاء على جبهتين في وقت واحد: الوكلاء الذين يتعاملون مع العملاء ويعملون نيابة عن المستخدمين الخارجيين، والوكلاء الداخليون الذين يتم نشرهم لأتمتة عمليات المؤسسة.
"توقف لفترة كافية لترى مجمل ما يعنيه تأمين عملاء متعددين، سواء يتفاعلون معك من الخارج أو منتشرين في الداخل." يقول دوراند. "نحتاج إلى اكتشاف جميع الوكلاء العاملين داخل مؤسستنا ورؤيتهم، ومكان لتسجيلهم، وطريقة قياسية لتعيين الأوصياء، وطريقة لبناء السياسة ومركزيتها حتى يتمكن الأمن من فرضها عبر المؤسسة."
وعلى الرغم من أن مبادئ الأمن الأساسية كانت مفهومة تمامًا قبل وصول الذكاء الاصطناعي الوكيل، إلا أن ما تغير، كما يقول دوراند، هو أن تكلفة التحرك ببطء قد لحقت أخيرًا بتكلفة التحرك بلا مبالاة، مما يمنح الشركات نافذة ضيقة لبناء البنية الصحيحة قبل أن يجعل الاعتماد الوكيل على نطاق واسع عملية التحديث أكثر تكلفة بكثير.
المقالات الدعائية هي محتوى تنتجه شركة تدفع مقابل المنشور أو لديها علاقة عمل مع VentureBeat، ويتم تمييزها دائمًا بشكل واضح. لمزيد من المعلومات، اتصل sales@venturebeat.com.
