لم يتم التحقق من النسب وراء 69% من النماذج المفتوحة. قامت شركة Cisco بأخذ بصمات أصابع ما يقرب من 900 شخص مجانًا

يبدأ فريق الأمان الذي يوافق على نموذج مفتوح المصدر للإنتاج اليوم بصفحة المستودع. تسرد الصفحة اسم النموذج والترخيص وعلامة تحدد النموذج الأساسي الذي ينحدر منه. هذه العلامة عبارة عن سلسلة كتبها القائم بالتحميل. لا يتطلب Hugging Face من القائمين بالتحميل إثبات الادعاء من خلال تحليل مستوى الوزن.

تتبع تقرير ATOM، الذي نشره ناثان لامبرت وفلوريان براند في Interconnects AI في أبريل 2026، ما يقرب من 1500 نموذج مفتوح رئيسي. تحدد ATOM المشتقات من خلال علامة Hugging Face base_model، وهو حقل يملأه القائم بالتحميل، ويصفي النماذج التي يظهر نموذجها الأساسي في القائمة المتعقبة والتي تحتوي على أكثر من خمس تنزيلات مدى الحياة باستثناء عمليات إعادة التحميل GGUF وMLX. وبهذا المقياس، فإن عائلة كوين التابعة لشركة علي بابا هي الوالد المعلن لنحو 69% من المشتقات ذات النموذج المفتوح الجديدة اعتبارا من فبراير/شباط 2026، ارتفاعا من 1% في يناير/كانون الثاني 2024. وتمثل المختبرات الصينية في الإجمال 70%. أوروبا تبلغ 4%. وصلت التنزيلات التراكمية المتعقبة عبر المناطق الثلاث إلى 2.04 مليار حتى مارس 2026.

تمتد فجوة التحقق إلى تغطية المسح. يقوم Cisco Foundation AI بفحص كل ملف عام يتم تحميله على Hugging Face من خلال محرك ClamAV المحدث، وتظهر المنصة شارة على مستوى الملف لكل ملف. تشير وثائق فحص البرامج الضارة الخاصة بـ Hugging Face إلى أن الملف الذي لا يحتوي على شارة موافق أو مصابة قد يكون في قائمة الانتظار، أو لا يزال يتم فحصه، أو يحدث خطأ فيه. عند نقطة مراجعة معينة، قد يحتوي المستودع على ملفات بدون نتائج فحص مكتملة. لقد كانت التغطية بمثابة افتراض، وليست سمة يمكن لأي شخص قراءتها قبل الموافقة على النموذج.

من سطر الأوامر إلى البحث العام

نشرت شركة Cisco يوم الخميس AI Supply Chain Provenance Explorer، وهي قاعدة بيانات عامة مجانية تغطي ما يقرب من 900 نموذج مفتوح. يمكن أن يحمل كل إدخال المقر الرئيسي للموفر، ورسمًا بيانيًا لنسب بصمات الأصابع، وقيود الترخيص، وعدد الملفات الممسوحة ضوئيًا. تعمل هذه الأداة على توسيع نطاق مجموعة Cisco Model Provenance Kit، وهي مجموعة أدوات Python مفتوحة المصدر تم إصدارها في أبريل والتي أخذت بصمات ما يقرب من 150 نموذجًا أساسيًا عبر أكثر من 45 عائلة وأكثر من 20 ناشرًا. نمت التغطية ما يقرب من ستة أضعاف في الربع.

كان إصدار أبريل عبارة عن أداة لسطر الأوامر. كان تشغيله يعني بيئة بايثون محلية، وتنزيل أوزان النماذج التي تصل إلى عشرات الجيجابايت، وتخصيص ساعات مهندس لكل نموذج. يستعلم Explorer عن النتائج التي قامت Cisco بحسابها بالفعل. في يوم الخميس، يبدأ التحقق من النسب باستخدام شريط بحث، والتكلفة هي السبب وراء قيام الشركات بتشغيل الأوزان المفتوحة في المقام الأول.

تعمل إيمي تشانغ، رئيسة قسم استخبارات تهديدات الذكاء الاصطناعي والأبحاث الأمنية في شركة Cisco، على توضيح سبب أهمية فجوات التحقق. خلال لوحة الأمان الوكيل VB Transform 2026، قدم تشانغ نتائج من 6,986 هجومًا متعدد المنعطفات ضد 15 نموذجًا رئيسيًا، مع معدلات نجاح تصل إلى 88.3%. "إذا كنت لا تفهم كيف تكون النماذج عرضة لأنواع مختلفة من الهجمات، فأنت غير قادر على حساب كيفية قيام هذا النموذج الذي يزود وكيلك بالطاقة، والذي يغذي تطبيقك، بفهم مكان نقاط الفشل هذه،" وقال تشانغ للجمهور. يبدأ فهم نقاط الفشل بمعرفة النموذج الذي تقوم بتشغيله.

يعرض Explorer أيضًا البيانات التي تستخدمها Cisco بالفعل من الناحية التشغيلية. يقوم نظام Cerberus الخاص بالشركة بفحص النماذج التي تدخل Hugging Face ويغذي سياسات الوصول الآمن التي يتم حظرها بموجب ترخيص محفوف بالمخاطر أو منطقة المنشأ. يجعل Explorer هذه الفئة من المعلومات مجانية وقابلة للبحث بدون منتج Cisco.

كيف تحل البصمات محل العلامة

يبني Explorer العلاقات النموذجية على درجات التشابه بدلاً من البيانات الوصفية المبلغ عنها ذاتيًا. تعمل مجموعة أدوات مصدر النماذج من Cisco على مرحلتين مسجلتين. تقوم المرحلة الأولى بمقارنة البيانات التعريفية للهندسة المعمارية قبل تحميل أي أوزان. عندما تكون البيانات الوصفية غامضة، تستخرج المرحلة الثانية خمس إشارات لمستوى الوزن. يلتقط تضمين تشابه المرساة العلاقات الهندسية التي تظل قابلة للضبط الدقيق. يقوم تضمين التوزيع المعياري بتشفير أنماط تكرار الكلمات. تقرأ بصمة الطبقة العادية الطبقات المستقرة عبر الضبط الدقيق. يقوم ملف تعريف طاقة الطبقة بمقارنة التوزيعات عبر عمق الشبكة. يقارن جيب التمام لقيمة الوزن قيم الوزن بشكل مباشر، وتظهر النماذج المدربة بشكل مستقل ارتباطًا صفريًا على هذه الإشارة. أعلنت Cisco عن دقة بنسبة 96.4% وفقًا لمعيارها القياسي المكون من 111 زوجًا عند عتبة 0.70، مع F1 يبلغ 0.963. تم تصنيف أربعة أزواج بشكل خاطئ، وكلها تتضمن تحولًا معماريًا شديدًا تسميه Cisco حدًا أساسيًا لمقارنة الوزن الزوجي.

يتم حساب إشارات الرمز المميز لأغراض التشخيص ولكن يتم استبعادها عمدًا من درجة المصدر. يستخدم كل من StableLM وPythia رمز GPT-NeoX وسيسجلان على أنهما مرتبطان على الرغم من عدم مشاركة أي نسب للوزن. استبعاد بيانات الرمز المميز يمنع النتائج الإيجابية الخاطئة.

تضيف البصمات السلوكية نهجًا ثانيًا. نشر جونا ليشين ومانيش شاه وإيان تيميس في مشروع VAIL، الذين يعملون مع دانييل كانغ في UIUC، عملاً حول استقرار نقطة النهاية السلوكية يوضح أن نقطة النهاية النموذجية يمكن أن تظل سليمة بينما تتغير هويتها الفعالة من خلال تحديثات الوزن أو التكميم أو التوجيه. تنص مدونة إطلاق Cisco على أن Explorer يدمج كلاً من البصمات الثابتة وتحليل التشابه السلوكي لتأسيس الرسم البياني للنسب. يوفر التحليل الثابت أدلة على مستوى الوزن لاشتقاق وقت التدريب. يلتقط التحليل السلوكي انحراف هوية وقت التشغيل.

حيث تكون الأدوات الموجودة قصيرة

يحمل المستكشف حدودًا حقيقية. يعد ما يقرب من 900 نموذج بداية ذات معنى، لكن Hugging Face تستضيف أكثر من 2 مليون اعتبارًا من ربيع عام 2026. ولا تزال العارضات خارج الحدود تعتمد على العلامة التي يتم الإبلاغ عنها ذاتيًا. لم تذكر Cisco ما إذا كان Explorer يكشف عن واجهة برمجة التطبيقات (API)، وبدونها، يمكن للفريق البحث عن النماذج يدويًا ولكن لا يمكنه توصيل الشيك إلى بوابة CI. هذا هو الخط الفاصل بين أداة الحكم والسيطرة.

تواجه أدوات SCA التقليدية عدم تطابق بنيوي لأنها تم تصميمها لبيانات التبعية وصور الحاوية. قال ساكشي جروفر، كبير مديري الأبحاث للأمن السيبراني في IDC، في CSO Online إن SCA التقليدي "تم تصميمه لفحص بيانات التبعية والمكتبات وصور الحاويات" و "أقل فعالية بكثير في تحديد الهوية" المخاطر المرتبطة بسير عمل الذكاء الاصطناعي. وقال جايشيف براكاش، مدير مؤسسة جارتنر، للمنفذ نفسه الذي تحتاجه الشركات "عناصر تحكم مخصصة لمصادر النماذج والإصدارات المعتمدة والوصول والتحقق من صحة وقت التشغيل في طبقة التسجيل." كان كلاهما يعلقان على مخاطر سلسلة التوريد الأوسع، لكن الفجوة التي وصفاها هي التي يستهدفها Explorer.

يحدد دستور مصدر النموذج الخاص بشركة Cisco مكان اعتبار أحد النماذج مشتقًا من نموذج آخر. يلتزم الدستور بتصنيف الأزواج الغامضة على أنها مستقلة، لأن النتيجة الإيجابية الكاذبة تؤدي إلى اتهام بالترخيص بينما يتم اكتشاف النتيجة السلبية الكاذبة أثناء المراجعة اليدوية. تدعم هذه النزعة المحافظة المتعمدة نسبة الدقة البالغة 96.4%. الاشتقاق ليس ثنائيًا، وبصمات الأصابع هي أحد أشكال الأدلة إلى جانب التوثيق والتحقق من نقاط التفتيش.

ما يدور في سجل الموافقة

في الثاني من أغسطس، حصلت المفوضية الأوروبية على صلاحيات إنفاذ قانون الذكاء الاصطناعي على موفري نماذج GPAI، مع فرض غرامات تصل إلى 15 مليون يورو أو 3% من إجمالي المبيعات العالمية، أيهما أعلى. يمكن للمنظمات التي تقوم بتعديل نموذج مفتوح بشكل كبير ووضعه في سوق الاتحاد الأوروبي أن تحصل على حالة المزود، مع توجيهات اللجنة التي تعالج حساب التعديل الذي يتجاوز ثلث النموذج الأصلي. يتطلب إعفاء القانون مفتوح المصدر بموجب المادة 53 (2) ترخيصًا مجانيًا ومفتوح المصدر يسمح بالوصول والاستخدام والتعديل وإعادة التوزيع، مع الأوزان والهندسة المعمارية ومعلومات الاستخدام كلها عامة. الأوزان العامة وحدها ليست مؤهلة. يحمل ترخيص مجتمع Llama حدًا لعدد المستخدمين النشطين شهريًا وإلغاء الأهلية كما ورد في إرشادات اللجنة بشكل صريح. يمثل اللاما وجيما معًا ما يقرب من خمس المشتقات الجديدة في حسابات ATOM، وكلاهما يحمل تراخيص من المرجح أن تؤدي معايير اللجنة إلى استبعادها. يصبح تصنيف الترخيص جزءًا من مراجعة المصدر، وهذا هو بالضبط ما يظهره Explorer.

إن سؤال مجلس الإدارة الذي يصل أولاً بعد الكشف عن الثغرات الأمنية في النموذج الأساسي هو سؤال مباشر ومباشر: "أي من نماذج الإنتاج لدينا يرث هذا الضعف، وكيف نعرف ذلك؟" تتطلب الإجابة اليوم بحثًا يدويًا عبر صفحات المستودع، وتتبع العلامات المبلغ عنها ذاتيًا والتي لم يؤكدها أي تحليل على مستوى الوزن. يقوم Explorer بتحويل هذا البحث إلى بحث عن النماذج التي يغطيها.

تنتمي أربعة حقول إلى سجل الموافقة الذي لا تحمله معظم المؤسسات اليوم. الاشتقاق المدعوم ببصمات الأصابع يرتكز على تحليل الوزن بدلاً من العلامة المبلغ عنها ذاتيًا. عدد الملفات الممسوحة ضوئيًا يستبدل افتراض التغطية بعدد مسح قابل للقياس. مقر مقدم الخدمة كحقل قابل للتصفية، مع إدراك أن المقر الرئيسي وحده لا يحل مشكلة التعرض لضوابط التصدير، حيث أن الملكية وموقع النشر يحكمان أيضًا عملية الفحص. وظهرت نسب الترخيص حتى تتمكن الفرق القانونية من تحديد الشروط الأولية المحتملة قبل أن يصل النموذج إلى مرحلة الإنتاج.

أصدرت شركة Cisco اليوم مستكشف مصادر سلسلة التوريد، وهو متاح على موقعprovenance.aidefense.cisco.com. قاعدة البيانات مجانية وعامة ولا تتطلب منتجًا أو حسابًا من Cisco.

ما التغييرات بالنسبة لفريق الأمن في 30 يوليو؟