قال تشافي أماترياين، أول رئيس تنفيذي للذكاء الاصطناعي ومسؤول البيانات في Expedia Group، أمام جمهور VB Transform 2026 الأسبوع الماضي في مينلو بارك: “إن PRD الجديد عبارة عن أدوات تقييم”. “لذلك، تقوم بشكل أساسي بتشفير ما تريد أن يفعله المنتج من خلال عمليات التقييم الخاصة بك، والتي قد تتضمن تقييمات الفريق الأحمر وجميع أنواع الأشياء الأخرى، والتي تحتوي بالفعل على مجموعة من متطلبات الأمان. لذلك، قمت بالفعل بتضمين ذلك في PRD ووثيقة تصميم المنتج قبل أن تبدأ حتى في البرمجة.”
لقد دفعها إلى أبعد من ذلك. “باستخدام التعليمات البرمجية المدعومة بالذكاء الاصطناعي أو التي ينشئها الذكاء الاصطناعي، سيكون هذا هو المستقبل. يبدو الأمر كما لو أن كل تفكيرك سيذهب إلى التقييمات.”
شغل أماترياين منصب نائب الرئيس للذكاء الاصطناعي وتمكين الحوسبة في Google عبر الأنظمة الأساسية التي تدعم Gemini وبحث Google قبل تعيينه في ديسمبر 2025 في Expedia. لقد قام بتوجيه الموهبة التي قامت بتأسيس Perplexity and Scale AI.
عزز بحث VentureBeat’s VB Pulse حول فجوة التقييم المخاطر. يسمح ستة وستون بالمائة من المؤسسات التي شملتها الدراسة والبالغ عددها 157 شركة بالفعل ببعض عمليات نشر الإنتاج دون مراجعة بشرية أو أنها تعمل على تحقيق ذلك خلال الـ 12 شهرًا القادمة، ومع ذلك فإن 5٪ فقط يثقون تمامًا في التقييمات الآلية التي ستتخذ هذا القرار. قام نصفهم بشحن وكيل اجتاز التقييمات الداخلية ولكنه فشل بعد ذلك مع عميل حقيقي.
لا تدع حواجز الحماية تقف في طريق ردود الفعل
قال أماترياين: “كلما زاد عدد حواجز الحماية وقواعد العمل المصطنعة ونوع القواعد التي تضعها في النظام، كلما كان الوضع أسوأ”. “ليس فقط لأنها هشة، ولكن أيضًا لأنها تعبث بالفعل بحلقة التعليقات. أنت في الواقع تحيّز المستخدم والتعليقات التي تحصل عليها من المستخدم، ثم تتعلم ذلك بطريقة خاطئة.” ووصف حواجز الحماية بأنها “شر لا بد منه”، وقال إن الهدف هو تقليل تأثيرها بمرور الوقت.
لم يوافق الجميع في Transform على ذلك. وجادل متحدثون آخرون خلال الحدث بأن الإجراءات الأكثر خطورة لا تزال تتطلب حواجز حماية قوية للغاية.
تحكم Expedia الذكاء الاصطناعي من خلال ثلاث طبقات بدلاً من ذلك. المبادئ تأتي أولاً، ويتم نشرها على نطاق واسع. قال أماترياين: “أحب أن أشفر على مستوى عالٍ جدًا كيف أتوقع اتخاذ القرارات، لأنه في مؤسسة كبيرة سيكون لديك الكثير من عمليات صنع القرار الموزعة”. “وفي بعض الأحيان، إذا كنت محظوظا بما فيه الكفاية، قد تكون هذه المبادئ جزءا لا يتجزأ من ثقافتك. ولكن في معظم الأحيان، كانت تجربتي هي أنها ليست كذلك.” تتبع العمليات والأدوات التي تفرضها. قال: “تبدو المبادئ جميلة حقًا على صورة معلقة على بعض الجدران، لكن عليك أن تمنحها أسنانًا بعد ذلك”. الأتمتة تقع على رأس كليهما.
من الناحية العملية، يتم ذلك من خلال ما تسميه شركة Expedia بوابات تحصيل رسوم الوكيل، ونقاط التفتيش التي يتم معايرتها حسب المخاطر. وقال أماتريين: “يجب أن ترتبط الحوكمة بالمخاطر”. “وإذا كان لديك شيء منخفض المخاطر، فلن تحتاج إلى الكثير من الحوكمة لتعترض طريقك. ولكن إذا كان هناك الكثير من المخاطر، فأنت بحاجة إلى المزيد من الحوكمة. ويمكن تشفير ذلك”. تربط بوابات تحصيل الرسوم جولات التقييم، والفريق الأحمر، والمراجعة الأمنية بمستوى المخاطر الخاص بكل وكيل، وتتحول عمليات التحقق من الموصى بها إلى المطلوبة مع تزايد المخاطر.
عملاء متخصصون في الاستخبارات المتجانسة
وقال أماترياين للجمهور: “حتى عندما كنت في جوجل، كنت أقول، لا أؤمن بالذكاء الاصطناعي العام كنوع من النموذج الفردي ونوع موحد من النموذج الفردي”. “أعتقد أنه من الأفضل التفكير في الأمر على أنه تكوين، مثل وجود وكلاء متخصصين جيدين جدًا في بعض المهام، ثم تكوين النظام من هؤلاء الوكلاء المتخصصين.”
تبدأ بنية Expedia على مستوى المكونات. تتشكل الأدوات في مهارات، وتتجمع المهارات في وكلاء فرعيين، ويتم تنسيق الوكلاء الفرعيين في نظام الوكلاء الكامل. وقال: “يجب أن تكون لديك تلك المبادئ الموحدة التي تتحدث عن أشياء مثل ما هي النغمة التي نستخدمها، وكيف نخاطب المستخدم، وكيف نمرر السياق والذاكرة”. “كل ذلك يحتاج إلى تصميم شامل.” لقد قام بتأطير هذا على أنه مشكلة تصميم نظامية. “الأمر لا يتعلق بالنموذج، ولا يتعلق بحل محدد، بل يتعلق بكيفية تصميم النظام.”
يرى أماترياين أن تحديد نطاق كل وكيل بشكل ضيق يجعل تأمين النظام أسهل أيضًا، حيث يمكن للفرق تقييم وتأمين العملاء الفرديين بشكل منفصل قبل تكوينهم.
عندما يجب على المستخدم الاحتفاظ بالنقرة النهائية
تتغير أسعار السفر في الوقت الفعلي، ويتغير توفر رحلات الطيران من دقيقة إلى دقيقة، وتتعارض تقييمات الفنادق بشكل روتيني مع ما يدعيه الموردون. وصف Amatriain نظامًا يمزج بين توليد الاسترجاع المعزز واستدعاءات أدوات API المباشرة، واختيار النهج بناءً على زمن الوصول. وقال: “إذا طرح عليك المستخدم سؤالاً مثل، ما هي تكلفة فندق أربع نجوم عادةً في شيكاغو في شهر يوليو، فإنك لا تتوقع أن يستغرق الوكيل دقيقتين للإجابة على هذا السؤال”. “أنت تتوقع إجابة فورية لأنه يمكن تخزين هذه الإجابة مؤقتًا ولا تحتاج إلى معلومات في الوقت الفعلي.” قد يبرر فندق أربع نجوم صديق للحيوانات الأليفة بالقرب من بحيرة ميشيغان مع حوض سباحة نافذة تفكير مدتها 30 ثانية.
“قد يقول المورد، نعم، لدينا حمام سباحة رائع، ولكن بعد ذلك لدينا أيضًا آراء المسافرين ونرى بالفعل أن هناك مراجعتين تقولان أن حمام السباحة لم يكن رائعًا أو أنه لم يكن مفتوحًا بعد الساعة 6 مساءً،” أوضح أماترياين. وأضاف أن برنامج الدردشة الآلي العام لن يُظهر إلا ما يبلغ عنه المورد ذاتيًا، في حين تقوم شركة Expedia بإحالات مرجعية مقابل مجموعة المراجعة الخاصة بها.
قال أماتريين: “لا نريد أن يقوم الوكيل بحجز الفندق أو أن يشتري لك تذكرة طائرة”. “هذا شيء يجب أن يكون لدى المستخدم وكالة. ويمكن للوكيل أن يوصي، ويمكن أن يقترح، ويمكن أن يناقش معك، ولكن سيتعين عليك الضغط على تلك النقرة. وهذا غير قابل للتفاوض”. وقال إن هذا القيد هو أيضًا قرار أمني. “بمجرد وضع مبادئ التصميم هذه، فلن تحتاج أيضًا إلى الدرابزين لأنه بخلاف ذلك سيتعين عليك وضع كل تلك الدرابزين بعد وقوعها.”
سيكون المهاجمون التاليون هم أنظمة الذكاء الاصطناعي الأخرى
“يجب أن يكون الأمن مبدأً يتم تغييره إلى أقصى اليسار قدر الإمكان وكجزء من التصميم نفسه”، قال أماتريين ردًا على سؤال من الجمهور. “وعادة عندما تحتاج إلى حاجز حماية، يكون ذلك لأنك لم تفكر فيه في وقت مبكر.”
ضغط عضو ثانٍ من الجمهور للحصول على الدروس المستفادة من الإنتاج. وصف أماتريين حلقة ردود الفعل حيث تتدفق إشارات المراقبة مرة أخرى إلى مجموعة التقييم. وقال: “يمكنك أتمتة الدورة بأكملها تقريبًا”. “لكن الحصول على حلقة كاملة من ردود الفعل من الإشارات الحقيقية، من نظام التشغيل AI الخاص بك، وصولاً إلى الإبلاغ عنها وإصلاحها في أسرع وقت ممكن، سيصبح أمرًا ضروريًا.”
تمثل بوابات رسوم المرور في Amatriain رهانًا على أن الحوكمة التي تتم معايرتها وفقًا للمخاطر يمكن أن تظل في صدارة حلقة ردود الفعل هذه. يُظهر استطلاع يونيو Pulse المنفصل الذي أجرته VentureBeat حول أمان الوكلاء، والذي تم استخلاصه من 107 مؤسسة، مدى ضآلة هذا الهامش. أكثر من النصف، 54 بالمائة، تعرضوا بالفعل لحادث أمني أو كادوا أن يخطئوا. ويخطط 59% منهم لاعتماد أدوات أمان الوكيل أو إضافتها أو استبدالها في غضون 12 شهرًا، ويخطط 29% للانتقال خلال هذا الربع. ترتفع معدلات الحوادث مع حجم المؤسسة، حيث تصل إلى 63% بين المؤسسات التي تضم أكثر من 1000 موظف مقابل 49% للشركات التي يتراوح عدد موظفيها من 101 إلى 1000 موظف. كما تنخفض نسبة اعتماد آلية عزل البيئة المعزولة، وهي أداة التحكم الوحيدة في مرحلة ما بعد الاختراق والتي تحد من الضرر، من 35% في الشركات الصغيرة إلى 20% فقط في الشركات الكبرى.
وحذر أماتريين من أن التهديدات ستأتي بشكل متزايد من أنظمة الذكاء الاصطناعي الأخرى. “ستتلقى تهديدات لا تأتي من البشر فحسب، بل أيضًا من أنظمة وكيل خارجية أخرى قوية حقًا، وسوف تهاجم كل ما تفعله. وبمجرد اكتشاف شيء ما، لا يتعلق الأمر بالاكتشاف فحسب، بل يصبح وقت الإصلاح ضروريًا هنا.”
