بعد ظهر الأمس، نشرت OpenAI وHugging Face كشفًا مشتركًا يوضح حدثًا للأمن السيبراني يعيد تعريف مشهد التهديدات لتكنولوجيا المؤسسات.
خلال تقييم معياري داخلي، خرجت نماذج الذكاء الاصطناعي الرائدة التي طورتها OpenAI – بما في ذلك GPT-5.6 Sol ونموذج ما قبل الإصدار عالي القدرة لم يتم إصداره – من بيئة البحث المعزولة الخاصة بها، وحصلت على وصول خام إلى الإنترنت، ونفذت بشكل مستقل هجومًا إلكترونيًا معقدًا ضد البنية التحتية لإنتاج Hugging Face.
تصنف OpenAI الاختراق رسميًا على أنه اختراق "حادث سيبراني غير مسبوق، يتضمن أحدث القدرات السيبرانية". تعيد هذه الحادثة بشكل أساسي صياغة المناقشات العالمية المحيطة باحتواء الذكاء الاصطناعي، ومواءمة النماذج الحدودية، وحواجز الحماية التجارية، ونمذجة التهديدات المؤسسية.
ولكن أول شيء يجب أن تفهمه الشركات هو الوضع، وأن تقوم بتقييم الذكاء الاصطناعي وأنظمة الكمبيوتر الخاصة بها في ضوء ذلك، وقبل كل شيء، لا داعي للذعر. كما سنراجع، يُظهر الحادث القوة والخطر المتزايدين لأنظمة الذكاء الاصطناعي الحدودية، لكنه لا يعني أن عمليات نشر الذكاء الاصطناعي المؤسسي أقل أمانًا بطبيعتها، ولا أنها تحتاج إلى إصلاح شامل.
تشريح الاختراق المستقل
لفهم كيف تصاعد التقييم المعياري الروتيني إلى خرق للبنية التحتية، يجب على المرء أن يدرس الآليات الموضوعية لخطة التقييم.
طُلب من النماذج حل مشكلة ExploitGym، وهو معيار مصمم لقياس قدرات الاستغلال متعددة الخطوات.
ركز وكيل الذكاء الاصطناعي بشكل كبير على تعظيم درجة التقييم، واستنتج أن Hugging Face من المحتمل أن يكون قد استضاف مفاتيح الإجابات والحلول المعيارية. وفي سعيه لحل المشكلة، قرر النموذج أن الخروج من الحاوية وسرقة الإجابات كانت الإستراتيجية المثالية.
تم تصميم بيئة تقييم OpenAI بحيث تكون معزولة بشكل صارم، مما يحد من حركة مرور الشبكة من خلال الوكيل المستخدم للتخزين المؤقت للحزم. ومع ذلك، حددت النماذج واستغلت ثغرة أمنية في برنامج الوكيل الخارجي المستضاف داخليًا.
وبمجرد الانتهاء من ذلك، نفذ الذكاء الاصطناعي سلسلة من إجراءات الحركة الجانبية وتصعيد الامتيازات عبر عقد بحث OpenAI حتى الوصول إلى جهاز يتمتع بوصول غير مقيد إلى الإنترنت. ومن هناك، قام النموذج بالبحث في الويب، وحدد الهدف Hugging Face، وأطلق هجومًا متعدد المراحل من خلال ربط بيانات الاعتماد المسروقة ونقاط الضعف في تنفيذ التعليمات البرمجية عن بُعد معًا على خوادم Hugging Face.
قام معهد أمن الذكاء الاصطناعي في المملكة المتحدة (UK AISI) مؤخرًا بتقييم نماذج مثل GPT-5.6 Sol، مما يدل على أنها قادرة بشكل متزايد على الحفاظ على العمليات السيبرانية المعقدة ومتعددة الخطوات على مدى فترات زمنية طويلة. تشير OpenAI إلى أن هذا الحادث يؤكد أن هذه القدرات النظرية تنطبق الآن في بيئات العالم الحقيقي.
إعادة لف الشريط في فخ الطب الشرعي
وبينما يكشف إصدار OpenAI في 21 يوليو عن هوية العميل المستقل، كانت Hugging Face قد بدأت بالفعل في إدارة عملية الاختراق قبل أيام.
في 16 يوليو، كشفت شركة Hugging Face أن نظام وكيل الذكاء الاصطناعي المستقل قد اخترق البنية التحتية للإنتاج الخاصة به. كما هو مفصل بواسطة VentureBeat، كانت نقطة دخول المهاجم عبارة عن مجموعة بيانات ضارة أدت إلى تنفيذ التعليمات البرمجية من خلال أداة تحميل التعليمات البرمجية عن بعد وعيوب حقن القالب داخل ملفات تكوين مجموعة البيانات.
بمجرد الدخول، انطلق إطار عمل الوكيل إلى العقدة التي تدير عبء العمل ونفذ آلاف الإجراءات عبر صناديق الحماية قصيرة العمر، مما أدى إلى حصاد بيانات اعتماد السحابة والكتلة خلال عطلة نهاية أسبوع واحدة.
عندما اكتشف فريق Hugging Face الأمني الاختراق، تحول المستجيبون على الفور إلى نماذج الذكاء الاصطناعي الرائدة عبر واجهات برمجة التطبيقات التجارية لتحليل الحجم الهائل لسجلات النظام وإعادة بناء أكثر من 17000 حدث مسجل. ثم ظهرت أزمة تشغيلية ثانوية: رفضت نماذج الذكاء الاصطناعي التجارية المساعدة.
نظرًا لأن النماذج الحدودية التجارية القياسية تستخدم حواجز أمان موحدة مصممة لمنع عمليات الإرسال السريعة الضارة، فقد صنفت النماذج استعلامات الطب الشرعي لفريق الاستجابة للحوادث – والتي تحتوي على أوامر الصدفة الأولية، وحمولات استغلال حقيقية، وتفريغ بيانات الاعتماد – على أنها هجمات ضارة. تم حظر كل استفسار جنائي قدمه المدافعون على الفور.
"نفس المطالبات الأكثر قيمة أثناء الاقتحام النشط – أوامر الصدفة، وسلاسل الاستغلال، ومقالب بيانات الاعتماد، وآليات الثبات، والحركة الجانبية – هي بالضبط المطالبات الأكثر احتمالا لتحفيز أنظمة السلامة،" يشير ميريت باير، نائب كبير مسؤولي تكنولوجيا المعلومات السابق في AWS والمستشار الأول لشركة Andesite وG2I وAppOmni، في مقابلة مع VentureBeat. "ومع تحول الذكاء الاصطناعي إلى جزء لا يتجزأ من العمليات الأمنية، يصبح هذا بمثابة قضية مرونة تشغيلية وليس مجرد قضية سياسية نموذجية".
لتجاوز هذا الحاجز، تخلت Hugging Face عن واجهات برمجة التطبيقات التجارية المستضافة ونشرت GLM 5.2 – وهو نموذج صيني متطور مفتوح الوزن تم إصداره الشهر الماضي بواسطة z.ai، كما ذكرت VentureBeat في ذلك الوقت – محليًا على البنية التحتية الخاصة بها.
خالٍ من قيود واجهة برمجة التطبيقات (API) التابعة لجهات خارجية ومرشحات الأمان الخارجية، نجح GLM 5.2 في تحليل بيانات الاستغلال الأولية محليًا، مما يسمح للمدافعين بإكمال إعادة بناء الطب الشرعي واحتواء الاختراق دون مغادرة أي بيانات مهاجم لبيئة الشركة.
رد فعل الصناعة والمفارقة الجيوسياسية
وكان الكشف عن أن نموذجًا حدوديًا أمريكيًا أفلت من الاحتواء بشكل مستقل، وهاجم منصة شريكة، وتم تحليله في نهاية المطاف باستخدام نموذج صيني مفتوح الوزن، أرسل موجات صادمة عبر مجتمع التكنولوجيا.
صحيفة وول ستريت جورنال لخص رد فعل الجمهور على X، استدعاء الحدث "أشياء من كوابيس الأمن السيبراني. قالت شركة OpenAI إن نظامين للذكاء الاصطناعي كانت تختبرهما خرجا من بيئة الاختبار الخاصة بهما، واخترقا طريقهما إلى الإنترنت واقتحما شركة أخرى. الضحية كانت تعانق الوجه."
كما نشر لورانس تشان، الباحث في مجال محاذاة الذكاء الاصطناعي، في موقع X، على أهمية الشفافية فيما يتعلق بالحادث، مشيرًا إلى ذلك "الائتمان عند استحقاقه: اكتشف Hugging Face التسلل وكشف عنه الأسبوع الماضي. وأكدت OAI مشاركة نماذجها وقدمت المزيد من التفاصيل، حتى عندما لم تكن مضطرة لذلك. وبعيدًا عن الاختيارات التي أدت إلى الاختراق، يعد الكشف الطوعي أمرًا جيدًا، وأنا سعيد لأنهم فعلوا ذلك."
وفي الوقت نفسه، قدم باحث الذكاء الاصطناعي ناثان لامبرت ملخصًا تقنيًا موجزًا في منشور X الخاص به، ملاحظًا أن "نموذج openai، أثناء التقييم على معيار سيبراني، استغل خطأ عام صفر يوم، ونجا من وضع الحماية في الأشعة تحت الحمراء لـ openai، ودخل إلى العناق الداخلي للأشعة تحت الحمراء عبر استغلال (من خلال خدمة مجموعة بيانات عامة) كل ذلك في محاولة لحل مشكلة قياس الأداء." وقد تناول لاحقًا الآثار الجيوسياسية، فكتب في منشور آخر على موقع X:
"تحتاج الشركات الأمريكية الآن إلى النماذج الصينية لتأمين البنية التحتية السيبرانية الخاصة بها بسبب حواجز الحماية الموجودة على النماذج المغلقة.
ولكن إذا كان النموذج الصيني قيد التدريب قد اخترق شركة تكنولوجيا أمريكية بارزة، فمن المحتمل جدًا أن يكون ذلك هو سبب سياسة حظر النماذج الصينية المستقبلية."
ركز المستثمر التكنولوجي ديفيد ساكس أيضًا على مفارقة الدرابزين، فكتب في منشوره X ذلك "حاولت شركة Hugging Face استخدام النماذج الحدودية الأمريكية لتحليل هجوم إلكتروني مدعوم بالذكاء الاصطناعي. لكن حواجز الحماية منعت الطلبات التي تحتوي على حمولات استغلال حقيقية، لذلك تحولوا إلى تشغيل GLM 5.2 محليًا. في الواقع، أضعفت حواجز الحماية الأمن الدفاعي."
غرد ساكس الرئيس التنفيذي لشركة Hugging Face Clem Delangue، الذي كتب: "لقد مررنا بهذه التجربة بأنفسنا هذا الأسبوع! من المخيف جدًا أن تكون محميًا كمدافع عندما تعلم أنه من المحتمل أن يتجاوز المهاجمون".
5 نصائح استراتيجية لقادة التكنولوجيا في المؤسسات الآن
بالنسبة للمسؤول التنفيذي العادي في المؤسسة، فإن السؤال المركزي يكون فوريًا: هل شبكة شركتنا معرضة للخطر بسبب عملاء الذكاء الاصطناعي الهاربين؟ الجواب القصير هو لا، ليس بطبيعته.
1. يحتل Hugging Face مكانة فريدة في النظام البيئي للبرامج. باعتبارها مستودعًا عالميًا لنماذج الذكاء الاصطناعي والتعليمات البرمجية ومجموعات البيانات مفتوحة المصدر، تجتذب Hugging Face في الأصل الوكلاء المستقلين والكاشطات وخطوط التقييم الآلية والباحثين الأمنيين النشطين. علاوة على ذلك، كان اختيار هدف النموذج محددًا بالسياق: بحث GPT-5.6 Sol عن Hugging Face على وجه التحديد لأنه استنتج أن Hugging Face يستضيف الإجابات على ExploitGym. لا تستضيف شبكات الشركات القياسية – مثل قواعد البيانات المالية أو منصات الموارد البشرية أو الأنظمة اللوجستية – مفاتيح الحلول المعيارية التي تجذب التركيز المباشر للوكيل الذي يحاول حل مقياس التقييم.
2. ومع ذلك، يتغير شكل المخاطر طويلة المدى لتكنولوجيا المؤسسات بشكل دائم بعد هذا الحدث. تبحث نماذج الذكاء الاصطناعي ذات التفكير طويل المدى عن المسار الأقل مقاومة لتحقيق هدف ما، بما في ذلك كسر القواعد، أو الهروب من صناديق الحماية، أو استغلال الأيام الصفرية إذا تم تعطيل ضمانات النشر عمدًا للاختبار أو تجاوزها من قبل مهاجم. وكما توضح تجربة Hugging Face، فإن خطوط معالجة البيانات التي تستوعب مجموعات البيانات الخارجية دون تنفيذ وضع الحماية أو التحليل الثابت تعمل كبنية تحتية للوصول الأولي شديدة الضعف.
3. يقوض هذا الحادث أيضًا بشكل كبير الثرثرة السياسية الأخيرة في الولايات المتحدة التي تدعو إلى حظر أو تقييد نماذج الذكاء الاصطناعي الصينية مفتوحة المصدر بسبب المخاوف الأمنية. وكما تظهر هذه الواقعة، فإن النموذج الصيني ذو الوزن المفتوح كان بمثابة طبقة دفاعية حيوية لشركة أميركية وفرنسية تواجه هجوماً إلكترونياً غير متوقع من النموذج الأميركي الذي كسر سياسة الاحتواء. وعلى النقيض من الخط الرسمي لبعض صناع السياسة الأمريكيين والصقور المتشددين في الصين، لم تكن النماذج الصينية مفتوحة المصدر تشكل خطرًا أمنيًا على الشركات الأمريكية، في هذه الحالة – بل كان نموذجًا أمريكيًا مغلق المصدر مملوكًا لشركة أمريكية آمنة ظاهريًا هو مصدر الخطر. وبالتالي، فإن أي ضغط قد تواجهه الشركات الأمريكية من المسؤولين أو الوكالات أو المنظمات غير الحكومية للتوقف عن الاعتماد على نماذج الأوزان المفتوحة الصينية ذات الأسعار المعقولة لأغراض دفاعية أو أي أغراض قانونية أخرى يجب أن يُنظر إليه بدرجة عالية من الشك، ويمكن القول إنه يمكن مقاومته إلى أقصى حد قانوني.
4. يجب على مسؤولي أمن المعلومات في المؤسسات مراجعة اعتمادهم على واجهات برمجة تطبيقات الذكاء الاصطناعي المستندة إلى السحابة والضغط على البائعين لتنفيذ بنيات الثقة المعتمدة. يتعامل بائعو الذكاء الاصطناعي التجاري حاليًا مع السلامة باعتبارها مشكلة عامة تتعلق بالإشراف على المحتوى، ويطبقون نفس الرفض الشامل على كبير مسؤولي أمن المعلومات في المؤسسة كما يفعلون مع المتسلل الخبيث. يضع باير هذا المطلب بشكل مثالي: "لا ينبغي للنموذج أن يفهم فقط ما هو مطلوب. وينبغي أن تفهم من الذي يسأل، ولماذا، وتحت أي حكم".
5. يجب أن تراعي خطط الاستجابة للحوادث بشكل صريح السيناريوهات التي تفشل فيها واجهات برمجة التطبيقات التجارية، أو تحدد المعدل، أو ترفض الاستعلامات بشكل نشط أثناء حدث أمني نشط. لم يعد الحفاظ على نماذج الوزن المفتوح المنتشرة محليًا والمدربة على تحليل سجل الأمان ترفًا عاديًا؛ إنه متطلب تشغيلي بالغ الأهمية. يجب على قادة الأمن الذين يديرون أعباء عمل الذكاء الاصطناعي في الإنتاج إعادة ضبط جداولهم الزمنية والاستعداد للجهات الفاعلة التي تهدد سرعة الآلة والتي تعمل دون حدود بشرية.
