يمثل Slopsquatting تهديدًا ناشئًا لسلسلة التوريد أصبح ممكنًا بفضل هلوسة الذكاء الاصطناعي. مع اعتماد المطورين بشكل متزايد على مساعدي التشفير بالذكاء الاصطناعي، فإنهم يمنحون مجرمي الإنترنت، دون قصد، إمكانية الوصول إلى برامجهم منذ اليوم الأول.
فهم ما هو القرفصاء المنحدر
Slopsquatting هو نوع جديد من هجمات سلسلة التوريد التي تستخدم نموذج اللغة الكبير (LLM) الهلوسة لحقن التعليمات البرمجية الضارة في سير العمل التطويري. يجمع المصطلح "منظمة العفو الدولية منحدر" و "القرفصاء المطبعي," ممارسة خادعة حيث يقوم المهاجمون بتسجيل إصدارات بها أخطاء إملائية أو مشابهة للنطاقات الشائعة لاصطياد المستخدمين الذين يدخلون عناوين URL بشكل غير صحيح.
يستغل ناقل الهجوم الجديد هذا ميل حاملي شهادات الماجستير في إنشاء أسماء حزم برمجية وهمية، والتي يمكن للجهات الفاعلة في مجال التهديد بعد ذلك تسجيلها وتعبئتها باستخدام تعليمات برمجية ضارة.
أثناء البرمجة بمساعدة الذكاء الاصطناعي، قد يقوم النموذج بإنشاء حزم وهمية مفتوحة المصدر – مجموعات مجمعة من الملفات والبرامج وأدوات التثبيت. وهذا وحده ليس ضارًا بالضرورة. ومع ذلك، إذا سجل أحد المهاجمين اسم الحزمة المزيف هذا، فيمكنه حقن برامج ضارة يتم دمجها مباشرة في قاعدة التعليمات البرمجية الخاصة بالمطور.
كيف يخلق الذكاء الاصطناعي مخاطر سلسلة التوريد
تقليديا، الذكاء الاصطناعي مخاطر السلامة تنبع من الهلوسة، مما قد يؤثر سلبًا على المستخدمين الذين يتعاملون مع المعلومات الخاطئة على أنها صحيحة. ومع ذلك، فقد تطورت تلك الهلوسة نفسها إلى ثغرات أمنية قابلة للاستغلال.
Typosquatting هي ممارسة خادعة حيث يقوم أحد المجرمين الإلكترونيين بتسجيل نسخة بها أخطاء إملائية من حزمة شائعة لخداع المطورين. لقد كان موجودًا منذ عقود، لذا قامت السجلات ببناء وسائل حماية ضده.
ومع ذلك، فقد غيّر الذكاء الاصطناعي نموذج التهديد. وتوصي بالحزم الوهمية التي تبدو معقولة بدلاً من ارتكاب أخطاء إملائية بسيطة. بمجرد أن يعرف المهاجمون الحزم المهلوسة التي تميل نماذج الحزم إلى اختراعها، يمكنهم تسجيل الحزم المليئة بالبرامج الضارة تحت تلك الأسماء.
وبما أن الحزم المهلوسة ليست مجرد نسخ مطبوعة من المكتبات الشعبية، فلا توجد حماية ضد هذه الممارسة على نطاق واسع. على سبيل المثال، يحمي السجل من مهاجم ينشر "كروسينف," القرفصاء من الشعبية "عبر البيئة" طَرد. ومع ذلك، فإنه لن تحديد "mpn تثبيت ملف cross-env" أو "عبر البيئة الموسعة" كتهديدات.
الهلوسة مستمرة وشديدة
حتى لو أوصى العديد من حاملي الماجستير في القانون بنفس الحزمة المهلوسة، فإن التسوية واسعة النطاق لا تزال ممكنة. يمكن أن تظل الحزم الضارة غير مكتشفة أثناء الإنتاج لعدة أشهر أو حتى سنوات، مما يسمح للجهات الفاعلة في مجال التهديد بحقن البرامج الضارة بشكل سلبي عبر بيئات لا حصر لها.
بحث واحد قام الفريق بتحليل 31,267 نقطة ضعف تنتمي إلى 14,675 حزمة عبر 10 لغات برمجة. واكتشفوا أن نقاط الضعف المبلغ عنها تتزايد بمعدل سنوي قدره 98%، وهو نمو أسرع من الزيادة السنوية البالغة 25% في عدد حزم البرامج مفتوحة المصدر. ولاحظ الفريق أيضًا زيادة بنسبة 85% في متوسط عمر الثغرات الأمنية، مما يشير إلى تراجع الأمان.
المخاطر الواقعية لهلوسة الذكاء الاصطناعي
يمكن للجهات الخبيثة إنشاء حزم ذات وصول مفتوح تحت نفس اسم المكتبات المهلوسة بشكل شائع. بدلاً من التعليمات البرمجية القياسية، فهي مليئة بالبرامج الضارة. تعتقد العارضات أنهن يشيرن إلى حزم موجودة، لذلك غالبًا ما يكررن نفس الأسماء المهلوسة. ونظرًا لأن الهلوسة ليست عشوائية، فيمكن للمهاجمين نظريًا تسجيل الحزم التي تخدع عشرات الآلاف من المطورين.
تبدو هذه الحزم شرعية. إن تشابه السلسلة مع المكتبات الحقيقية يجعل التعرف عليها ممكنًا. تشير الأخطاء المطبعية المكونة من حرف واحد إلى أخطاء بسيطة وليس نية خبيثة. حتى الأسماء الملفقة بالكامل تظل قابلة للتصديق عندما يقدمها الذكاء الاصطناعي في السياق المناسب. يمثل الاكتشاف تحديًا كبيرًا، حيث يثق المطورون في مساعدي الترميز لديهم للتوصية بالتبعيات الصالحة.
لماذا تهلوس LLM الحزم؟
تقوم LLMs بإنشاء الإجابة الأكثر ترجيحًا إحصائيًا بدلاً من إعطاء الأولوية للدقة. ونتيجة لذلك، أصبحت الهلوسة شائعة نسبيًا. وجدت إحدى الدراسات معدلات الهلوسة تتراوح من 50% إلى 82%، اعتمادا على النموذج وطريقة المطالبة. وحتى GPT-4o، النموذج الأفضل أداءً، لا يقل تأثيره عن 23%، حتى مع إجراءات التخفيف السريعة.
وقد تؤدي هجمات الهلوسة العدائية إلى تفاقم هذه المشكلة. يمكن للجهات التهديدية الاستفادة من التلاعب على مستوى الرمز المميز أو التسمم بالاسترجاع لإجبار النماذج على الهلوسة بالطرق التي تريدها، مما يزيد من احتمالية توصية النماذج بحزمها الضارة.
ما هي LLMs المعرضة للانحناء؟
في حين أن جميع حاملي شهادة LLM معرضون للإنحراف، إلا أن بعضهم أكثر عرضة للخطر من غيرهم. تعتمد احتمالية إنتاج حزم مهلوسة أثناء إنشاء التعليمات البرمجية على النموذج. النماذج الاحتكارية أقل احتمالية لتوليد حزم مهلوسة بأربع مرات مقارنة بالنماذج مفتوحة المصدر.
وقد أثبتت إحدى المجموعات البحثية ذلك من خلال إجراء 30 اختبارًا عبر 30 نظامًا مختلفًا. خارج 576000 عينة من التعليمات البرمجية و2.23 مليون عبوة أنتجتها، 19.7% منها هلاوس. حقق GPT-4.0 Turbo معدل هلوسة بنسبة 3.59%، في حين وصل معدل الهلوسة في DeepSeek 1B، وهو أفضل نموذج مفتوح المصدر أداءً، إلى 13.63%.
يشير هذا البحث إلى أن المؤسسات التي تعتمد على أدوات الذكاء الاصطناعي مفتوحة المصدر لتوليد التعليمات البرمجية تكون أكثر عرضة لهجمات السطو العشوائي بأربع مرات تقريبًا. لكن هذا لا يعني بالضرورة أن الأدوات الاحتكارية ستظل دائمًا أكثر أمانًا. بمجرد أن يدرك المهاجمون هذا التفاوت، فقد يتلاعبون بحاملي شهادات الماجستير للاستفادة من الأمان المتصور.
يساهم ترميز Vibe في المشكلة
يقدر مطورو البرامج الذين يستخدمون أدوات الذكاء الاصطناعي ذلك أكثر من 40 بالمائة من الكود يتضمن التزامهم مساعدة الذكاء الاصطناعي. ويتوقعون أن ترتفع هذه النسبة بشكل كبير خلال السنوات القليلة المقبلة. بالفعل، 72% ممن جربوا الذكاء الاصطناعي يستخدمونه يوميًا.
يؤدي الارتفاع في الترميز الحيوي والتشفير بمساعدة الذكاء الاصطناعي إلى تضخيم سطح التهديد. مع قيام المزيد من المطورين بدمج أدوات الذكاء الاصطناعي في سير عملهم دون تنفيذ عمليات التحقق المناسبة، يستمر سطح الهجوم في التوسع.
بالنسبة لأولئك الذين يستخدمون الذكاء الاصطناعي للمساعدة في البرمجة، يعد التحقق المزدوج من المخرجات أمرًا ضروريًا. إن التحقق من وجود الحزم الموصى بها بالفعل في المستودعات الرسمية قبل دمجها في المشاريع يقلل من المخاطر.
التنقل في التطوير بمساعدة الذكاء الاصطناعي
يمكن أن يساعد تنفيذ عمليات الفحص الآلي التي تتحقق من صحة أسماء الحزم مقابل السجلات المعروفة في اكتشاف الحزم المهلوسة قبل إدخال رمز الإنتاج. يجب على فرق الأمان أيضًا مراقبة عمليات تثبيت الحزم غير العادية والحفاظ على معلومات استخباراتية محدثة عن التهديدات المتعلقة بحملات السطو العشوائية المعروفة.
زاك آموس هو محرر الميزات في إعادة الاختراق.
