في العامين الماضيين، حاولت الشركات دمج نماذج اللغات الكبيرة (LLMs) في الدعم والتحليلات والتطوير والأتمتة الداخلية بشكل لم يسبق له مثيل.
إلى جانب الاعتماد المتزايد على تكنولوجيا الذكاء الاصطناعي، هناك اتجاه آخر يكتسب زخمًا – حيث يستغل مجرمو الإنترنت الانفصال بين الافتراضات حول ماجستير إدارة الأعمال وخصائصها الفعلية.
في عامي 2025 و2026، سلطت عدة مصادر مستقلة الضوء على نفس الاتجاه: يظل الحقن الفوري واحدًا من أكثر نواقل الهجوم تأثيرًا وإظهارًا على نطاق واسع ضد أنظمة LLM. يسرد OWASP LLM Top 10 (2025) الحقن الفوري تحت اسم LLM01، ويحدده على أنه الفئة الأكثر أهمية من الثغرات الأمنية الخاصة بـ LLM، للإصدار الثاني على التوالي. يعكس تصنيف OWASP حقيقة أن الحاصلين على ماجستير إدارة الأعمال ما زالوا يكافحون من أجل فصل التعليمات عن البيانات بشكل موثوق، مما يجعلها عرضة للتلاعب من خلال المدخلات المعدة.
وثق تقرير التهديدات العالمية لعام 2026 الصادر عن CrowdStrike – المبني على معلومات استخباراتية في الخطوط الأمامية عبر أكثر من 280 خصمًا متعقبًا – أن الجهات الفاعلة في مجال التهديد حقنت مطالبات ضارة في أدوات الذكاء الاصطناعي التوليدية المشروعة في أكثر من 90 مؤسسة في عام 2025. ثم استخدموا تلك الحقن لإنشاء أوامر تسرق بيانات الاعتماد والعملات المشفرة. وجاء في التقرير بوضوح: "المطالبات هي البرمجيات الخبيثة الجديدة." زاد الخصوم الذين يدعمون الذكاء الاصطناعي من حجم هجومهم الإجمالي بنسبة 89% على أساس سنوي، مع عمل الحقن الفوري كنقطة دخول ومضاعف للقوة.
وتوضح حوادث العالم الحقيقي التأثير التشغيلي. في أغسطس 2024، كشف الباحثون في PromptArmor عن ثغرة أمنية في الحقن الفوري في Slack AI والتي سمحت للمهاجم بسحب البيانات من قنوات Slack الخاصة التي لم يكن بإمكانه الوصول إليها – بما في ذلك مفاتيح واجهة برمجة التطبيقات المشتركة في قنوات المطورين الخاصة – عن طريق وضع تعليمات ضارة في قناة عامة أو تضمينها في مستند تم تحميله.
في يونيو 2025، كشف الباحثون في Aim Security عن EchoLeak (CVE-2025-32711، CVSS 9.3)، وهو أول استغلال موثق للحقن الفوري بدون نقرة ضد نظام الذكاء الاصطناعي الإنتاجي، والذي يستهدف Microsoft 365 Copilot. من خلال إرسال بريد إلكتروني واحد معد، دون الحاجة إلى تفاعل المستخدم، يمكن للمهاجم أن يتسبب في وصول Copilot إلى الملفات الداخلية ونقل محتوياتها إلى خادم يتحكم فيه المهاجم.
تم تصحيح كلا الثغرات الأمنية. تؤكد هذه الحوادث حقيقة أن الحقن الفوري ليس نقطة ضعف نظرية، بل هو تهديد عملي ومتكرر يجب على المؤسسات معالجته أثناء نشر أنظمة الذكاء الاصطناعي على نطاق واسع.
شهدت تقنيات الحقن الفوري تطورات كبيرة خلال السنوات الأخيرة، وهي تستهدف الآن البنية متعددة الوكلاء، وخطوط أنابيب توليد الاسترجاع المعزز (RAG)، وأجهزة التوجيه النموذجية، وقدرات الذاكرة طويلة المدى.
هتحدي nterprise: الثقة الزائدة
تقوم الشركات بنشر LLMs لمعالجة التعليمات، وتلخيص المعلومات، وتشغيل سير العمل الآلي، ولكن من الصعب على LLMs معرفة ما يلي:
-
أناتعليمات من البيانات
-
أناالمعلومات من السياق
-
جontext من البيانات الوصفية
-
شنية السر من البيانات الوصفية
وهذا يخلق فرصة للمهاجمين للتلاعب بسلوك النموذج والتأثير عليه، سواء بشكل مباشر أو غير مباشر.
الحقن السريع الحديث
الحقن الفوري عبر النموذج
يعد استخدام LLM ممارسة شائعة بين المؤسسات. يقوم المهاجمون بإفساد مخرجات نموذج معين، مع العلم جيدًا أن النماذج الأخرى ستقوم بمعالجة المحتوى. ومن ثم، ينتشر الفساد عبر جميع أنظمة الذكاء الاصطناعي.
تسمم سلسلة التوريد RAG
أيقوم المتطفلون بإنشاء معلومات ضارة — الوثائق، ومقالات المدونات، وملفات القراءة والكتابة على GitHub. ثم ينتظرون حتى يتم استيعاب هذه المعلومات الضارة في خطوط أنابيب RAG الخاصة بالمؤسسات، ثم يستخدمونها كوسيلة للهجوم.
اختطاف الوكيل
لقد تطور وكلاء الذكاء الاصطناعي إلى الحد الذي يمكنهم من خلاله إرسال رسائل البريد الإلكتروني، وتعديل البنية التحتية السحابية، وتنفيذ مقتطفات من التعليمات البرمجية، والتفاعل مع أنظمة الشركة الداخلية. لا يتطلب الأمر سوى تعليمات واحدة لجعل العملاء يتصرفون بشكل مختلف وبطريقة ضارة.
هجمات تجاوز السياق
بمساعدة نوافذ سياقية تحتوي على مليون رمز مميز، يضع المهاجمون تعليمات برمجية ضارة داخل المستند ويأملون أن يعثر عليها ماجستير إدارة الأعمال (LLM) وينفذها، وبالتالي يتجاوز جميع التعليمات السابقة.
تسمم الذاكرة
نظرًا لتطبيق الذاكرة طويلة المدى في LLMs، يمكن للمهاجمين إدخال تعليمات تعيد تكوين حالتهم بشكل دائم.
التلاعب بجهاز التوجيه النموذجي
تستخدم الشركات بشكل متزايد أجهزة التوجيه النموذجية للاختيار بين عدة LLMs. يقوم المهاجمون بصياغة المطالبات التي تفرض التوجيه إلى النموذج الأضعف أو الأقل حراسة.
لماذا هذا مهم لقادة الأعمال
الحقن الفوري ليس مشكلة نظرية. يؤثر بشكل مباشر على:
-
جالأنظمة التي تتعامل مع العملاء (روبوتات الدردشة، وكلاء الدعم)
-
أنامساعدو الطيارين الداخليين (أدوات المطورين ومساعدي الأمن)
-
أسير عمل التشغيل الآلي (التذاكر، العمليات السحابية، عمليات الموارد البشرية)
-
دحوكمة ATA (خطوط أنابيب RAG، قواعد المعرفة)
ولم يعد الخطر يقتصر على "قال النموذج شيئًا لا ينبغي له."
في عام 2026، يمكن للحقن الفوري أن:
-
تتزوير الإجراءات غير المصرح بها
-
لبيانات حساسة للغاية
-
جسير العمل الداخلي الفاسد
-
متحليلات التلاعب
-
ألتر منطق الأعمال
-
جتقويض الأنظمة متعددة الوكلاء
توسع سطح الهجوم بشكل كبير.
ما الذي يجب على الشركات فعله الآن
1. تقييد أذونات النموذج
حدد ما يمكن أن يفعله النموذج، وليس فقط ما يجب أن يفعله.
2. قم بتقسيم المحتوى غير الموثوق به
تعامل مع كافة البيانات الخارجية، بما في ذلك مصادر RAG، باعتبارها معادية محتملة.
3. استدعاء أداة المراقبة
تتطلب موافقة الإنسان على الإجراءات عالية التأثير.
4. التحقق من مصدر المحتوى
تأكد من أن خطوط أنابيب RAG لا تستوعب محتوى خارجيًا مسمومًا.
5. أجهزة التوجيه ذات الطراز الصلب
منع المهاجمين من فرض التوجيه على النماذج الأضعف.
6. تعامل مع LLMs كمكونات غير موثوقة
هذا التحول في العقلية هو أساس أمن الذكاء الاصطناعي الحديث.
خلاصة القول
يظل الحقن الفوري هو الطريقة الأكثر فعالية لاختراق أنظمة الذكاء الاصطناعي الخاصة بالمؤسسة لأنه يستغل الطريقة الأساسية لتفسير النص من قبل حاملي شهادة LLM. وإلى أن تتعامل المؤسسات مع حاملي شهادة الماجستير في القانون باعتبارهم مترجمين فوريين غير موثوقين – وليسوا صانعي قرار مستقلين – فإن الحقن الفوري سيستمر في السيطرة على مشهد تهديدات الذكاء الاصطناعي.
جولي برونياس هي مهندسة أمن الذكاء الاصطناعي.
