قام بنك مورجان ستانلي بتقليص مهمة المصالحة الأكثر خطورة إلى النصف – من خلال جعل وكلائه أقل استقلالية

ركزت معظم عمليات نشر الذكاء الاصطناعي للمؤسسات حتى الآن على مساعدي البرمجة وروبوتات خدمة العملاء. قام مورجان ستانلي بنشر وكلاء في واحدة من أكثر عمليات سير العمل المصرفية دقة ودقة، والتي تعتمد على المواعيد النهائية بدلاً من ذلك – تسوية الأرباح والخسائر (P&L) – وخفض العمل إلى النصف. الجزء غير البديهي: لقد وصل إلى هناك من خلال جعل النظام أقل استقلالية، وليس أكثر.

يبقى البشر في الحلقة بإحكام، وتتحول قراراتهم بشكل متكرر إلى قواعد قابلة للتكرار يمكن للنظام تطبيقها من تلقاء نفسه.

قال تود جونسون، العضو المنتدب لشركة مورجان ستانلي، في حدث VB AI Impact الأخير: “إنه يشبه زميل العمل أكثر من كونه مساعدًا للطيار”. إن نظام وكيل الإنتاج الداخلي، المعروف باسم FIXR، يتجاوز البساطة والوضوح "الجيل AI 1.0" المهام. “نعتقد أن هذا هو المكان الذي تكمن فيه الفرصة لفتح المزيد من الأعمال المعقدة في المنظمة.”

FIXR خلف الكواليس

في كل يوم تداول، تتعامل المكاتب التجارية في مورجان ستانلي مع الأعمال المهمة المتعلقة بالمعاملات مثل الأسهم النقدية أو استثمارات الديون.

وفي نهاية كل يوم من تلك الأيام، يجب على المراقبين التوفيق بين الربح والخسارة عبر أنظمة التمويل والمخاطر والعمليات والاستيلاء على التجارة الخاصة بالعملاق المالي. يجب أن يتم تجميع كل هذه البيانات معًا، وربما ليس من المستغرب أن تفشل مئات الآلاف من السمات في كثير من الأحيان في المطابقة.

عادةً، يعني هذا أنه يجب على وحدات التحكم التحقيق يدويًا في كل عدم تطابق (أو “كسر”)، واتخاذ قرارات بشأن التعديلات، ثم التوقيع بشكل مثالي قبل أن يصل الرقم إلى المكتب. وكل هذا أثناء العمل في موعد نهائي صعب في الصباح.

في السابق، كان هذا قد يستغرق ما يصل إلى ست ساعات لكتاب واحد. وقال جونسون إن FIXR يقوم الآن بالمهمة خلال ساعتين إلى ثلاث ساعات. ومن خلال ما يقرب من 100 وحدة تحكم تقوم بهذا العمل، فإن ذلك يضيف ما يصل إلى حوالي 1500 ساعة يتم توفيرها أسبوعيًا.

بعد اكتمال حسابات الربح والخسارة الليلية، يقوم النظام تلقائيًا بتحليل “الفواصل” ويقترح الحلول بناءً على القواعد المستفادة. يعمل العديد من الوكلاء معًا:

• يفسر المرء التوجيهات السابقة لتطوير قرارات بداية اليوم.

• يتعلم المرء من سلوك المراقب ويوثق القواعد التي يطبقها.

• يقوم المرء بتحويل الأنماط المتكررة إلى منطق آلي متين.

وبمرور الوقت، يمكن للنظام أن يقوم تلقائيًا بمسح بعض الفواصل التي تمت مواجهتها من قبل، واقتراح حلول للآخرين التي قد تكون أقل شهرة، وطلب المساعدة عندما يكون غير متأكد، والإبلاغ عن التحقيق البشري. عندما يتم حل العناصر بشكل متكرر بنفس الطريقة، يمكن أن يؤدي ذلك إلى إنشاء قواعد ثابتة.

وقال إن الأهم من ذلك هو أن البشر لا يتركون الحلقة، بل يبقون فيها بالكامل. ويقومون بمراجعة كل توصية أو الموافقة عليها أو تصحيحها، ثم يقومون بتغذية تلك القرارات مرة أخرى لتحسين الجولة التالية. يتعلم الوكيل يوميًا من المتحكمين ما هو الصواب والخطأ ويقنن تلك المعرفة أثناء تكرارها.

قال جونسون: “لا تزال تحافظ على هذا العنصر من المساءلة البشرية حتى عندما تبدأ في التشغيل الآلي”. “بمرور الوقت، سترى المزيد والمزيد من هذه العناصر يتم حلها بطريقة تلقائية.”

وشدد على أن الحكم الذاتي يتطلب قدرا كبيرا من الثقة؛ لن ترى الشركات مكاسب في الكفاءة إذا قام الجميع بفحص كل ما يفعله الوكيل.

كانت حلقة ردود الفعل بين البشر والوكلاء حاسمة في مواجهة التحدي المتمثل في الأتمتة الخاضعة للرقابة والقياس والتكرار. وقال جونسون: “لقد أدركنا أن كل تلك المعلومات الاستخباراتية الموجودة في ذهن المتحكم سيكون من الصعب الحصول عليها كلها في العميل في اليوم الأول”.

التركيز على العملية أولاً، وقابلية التوسعة

وقال جونسون إنه كان من الضروري إنشاء العمليات أولاً، قبل إشراك أي ذكاء اصطناعي. أجرى فريقه تقييمًا “شاملًا للغاية” لذكاء العمليات، حيث قام بتخطيط مسارات العمل واستخراجها لتحديد المجالات التي ستكون فيها الأتمتة أكثر فائدة: هل كانت عوامل الإجابة، أو الأتمتة التقليدية، أو إعادة الهندسة البسيطة خطوة غير فعالة؟

وقال: “إذا تمكنا من إصلاح ذلك أولاً قبل أن نضيف وكلاء إلى المشكلة، فسنقوم بالفعل بتغيير الفرصة”.

وقال إن عملية تسجيل الأرباح والخسائر كانت مليئة بالخطوات اليدوية المناسبة للأتمتة، ويقوم الوكلاء الذين يتولون بعض هذه المهام التي تستغرق وقتًا طويلاً بتحرير وحدات التحكم من أجل “المزيد من تحليل القيمة المضافة” و”النظر بشكل أعمق في المخاطر”.

ومع ذلك، فإن قابلية التوسعة كانت لا تقل أهمية عن توفير الوقت. اختار فريق جونسون حالة استخدام تسوية الربح والخسارة هذه على وجه التحديد لأن مئات من المراقبين كانوا يقومون بهذا العمل على مستوى العالم عبر الأعمال (في الأمريكتين وأوروبا وآسيا).

لذا ابدأ بحالة الاستخدام، وأثبتها، ثم قم بتوسيع نطاقها، “وبعد ذلك سيتم التحول في نهاية المطاف مع طرح هذا الأمر أكثر فأكثر عبر المؤسسة”، كما قال جونسون.

حتمية حسب التصميم

وقال جونسون إن الفريق قام أيضًا عن عمد بتحديد مدى اعتماد سير العمل على حكم النموذج على الإطلاق. "إذا كانت لديك فرصة لجعل الأشياء موصوفة للغاية وقابلة للتكرار، فهذا أرخص من حيث استهلاك الرمز المميز، وأكثر قابلية للتكرار من حيث الضوابط – واطلب من LLM القيام بالأشياء التي لا تحتاج فيها إلى هذا النوع من سير العمل الحتمي،" قال.

نظرًا لأن النظام يرى المزيد من ردود فعل وحدة التحكم على نوع فاصل معين، يقوم مورجان ستانلي بتحويل هذا النمط إلى قاعدة ثابتة بدلاً من تركه للنموذج.

لا يزال البشر يملكون هذا السلوك

السؤال المثير للاهتمام (وربما الأساسي) الذي أثير في فجر عصر الوكلاء هو: هل الوكلاء هم رموز أم موظفون رقميون؟

ويزعم جونسون أنهما “ربما يكونان قليلاً من الاثنين معا”، وعلى هذا فإنهما يحتاجان إلى دقة دقيقة عندما يتعلق الأمر بالحوكمة والرقابة. يجب أن تظل الفرق الفنية مسؤولة عن الحفاظ على وسائل الحماية وحواجز الحماية مثل جدران الحماية أو التشفير، على سبيل المثال.

ولكن هناك ديناميكية جديدة حول “عنصر الأداء”: فالبشر الذين يستخدمون الوكلاء مسؤولون عنهم لأنه يساعدهم في أعمالهم. على سبيل المثال، إذا كان أحد كبار المراقبين يعمل مع مراقب مبتدئ، فإنه لا يتخلى عن المسؤولية فقط لأن هناك من يساعده، كما أشار جونسون.

وقال: “أحد مبادئنا القوية في حوكمة الذكاء الاصطناعي بشكل عام هو أنه يجب أن تكون هناك دائمًا مساءلة بشرية، حتى لو كانت هناك درجة من الأتمتة”.

ولكن عادةً لا يوجد “شخص واحد”، وتكون العملية مستمرة في النهاية. حتى هذه اللحظة، قال جونسون مازحًا إن أحد الأشياء “المحبطة” فيما يتعلق بالذكاء الاصطناعي الوكيل هو أنه سيتطلب تدريبًا مستمرًا لأن النماذج تتغير باستمرار.

“لن تتمكن أبدًا من القول: لقد قمنا بكل التقييمات والاختبارات التي يتعين علينا القيام بها. دعونا نترك الأمر جانبًا.” سيكون عليك أن يكون لديك رؤية ثابتة لأنها تتطور مع مرور الوقت.

يهدف مورجان ستانلي إلى معالجة نقاط الألم الحقيقية في المؤسسة

تعكس تجربة Morgan Stanley الأنماط التي كشفت عنها VentureBeat عبر عمليات نشر الذكاء الاصطناعي للمؤسسات.

في استطلاع VB Pulse الأخير الذي أجرته VentureBeat، أفاد ما يقرب من ثلاثة أرباع المشاركين في الاستطلاع أنهم لم يروا سوى القليل من عائد الاستثمار من الضبط الدقيق للنموذج المخصص، واصفين ذلك "مقبرة رمل" من مشاريع الذكاء الاصطناعي التي ثبت أن صيانتها مكلفة للغاية. ويشير هذا إلى أن نهج مورجان ستانلي القائم على العملية أولاً والشراء والمزج قد يكون أكثر استدامة من مطاردة النماذج المفصلة حسب الطلب. شمل الاستطلاع 87 مشاركًا وينبغي اعتبار النتائج اتجاهية.

ظهرت الحوكمة كتحدي مشترك آخر: أشار 38% من المشاركين إلى عدم وجود مالك واحد مسؤول باعتباره أكبر عائق أمام إنتاج الذكاء الاصطناعي، في حين أن اثنتين فقط من الشركات الـ 87 التي شملتها الدراسة لديها مراقبة وتنبيه نشط للكشف عن فشل النماذج.