يواجه الذكاء الاصطناعي المؤسسي مفارقة عائد الاستثمار. في حين أن استخدام المزيد من الحوسبة في أقوى نموذج أساسي يعمل بشكل جيد في تجارب المنتج، إلا أن التكاليف تصبح غير محتملة عند نشر المنتج في الإنتاج.
توفر ورقة جديدة من الباحثين في Writer حلاً يمكن للفرق الهندسية الوصول إليه. تلقي الدراسة نظرة منهجية على تحسين المكونات المختلفة لطبقة التنسيق التي تلتف حول النموذج الأساسي، المعروف أيضًا باسم أداة الذكاء الاصطناعي.
من خلال تحسين الحزام، أظهر الباحثون تخفيضات كبيرة في الرموز المميزة لكل مهمة، وانخفاض في التكلفة لكل مهمة ناجحة بنسبة تصل إلى 61%، وثبات الجودة، كل ذلك دون تغيير النموذج الأساسي الأساسي.
نظرًا لأن الحزام يخضع بالكامل لسيطرة المطور ولا يتطلب أي ضبط دقيق للنموذج، يمكن للفرق الهندسية تطبيق هذه النتائج لبناء تطبيقات ذكاء اصطناعي فعالة من حيث التكلفة.
أزمة عائد الاستثمار في tokenmaxxing
إن الوضع الحالي لهندسة الذكاء الاصطناعي مبتلى "," اتجاه صناعي يعتمد فيه المطورون على نوافذ السياق الضخمة واستهلاك الرموز المميزة للقوة الغاشمة كبديل لتصميم النظام الجيد.
بدلاً من هندسة مسارات عمل أنيقة، استورد المطورون رد فعل من تطوير البرامج التقليدية: إنشاء، تشغيل، فشل، حشو الخطأ والمزيد من السياق مرة أخرى في النافذة، ثم إعادة المحاولة.
"Teams tokenmaxx لأنه أرخص إصلاح في الوقت الحالي، ولأنه حرفيًا الطريقة التي يعمل بها معظم المهندسين اليوم،" صرح وسيم الشيخ، المدير التنفيذي للتكنولوجيا والمؤسس المشارك لـ Writer، لـ VentureBeat. نظرًا لأن هذا الأسلوب ينجح في كثير من الأحيان في مهام البرمجة، فقد أصبح بمثابة رد الفعل الافتراضي لكل عبء عمل آخر للوكيل. ويكمن الخطر في أن انخفاض سعر كل رمز يخفي عدم الكفاءة الأساسية.
"فاتورتك عبارة عن رموز مميزة لكل مهمة مضروبة في السعر لكل رمز مميز، ومعظم الفرق تشاهد الرقم الثاني فقط،" قال آل الشيخ. "في أحمال العمل الوكيل، تعمل مركبات الرموز المميزة لكل مهمة – كل تكرار حلقة على إعادة إرسال السياق المتنامي – وتتضاعف بشكل أسرع من انخفاض الأسعار. تخفيض الأسعار يصبح مخدرا. إنه يخفي حقيقة أن الحلقة نفسها تنزف."
يؤدي Tokenmaxxing إلى العديد من أوضاع فشل المؤسسة. تقوم الفرق بتوجيه المهام البسيطة إلى النماذج الرائدة بشكل افتراضي. إنهم يستخدمون LLM كفهرس بحث بطيء، حيث يملأون نافذة السياق بالمستندات الأولية بدلاً من استرجاع الإجابات الدقيقة. والأمر الأكثر تدميراً هو أنهم يبنون حلقات وكيلة غير مقيدة تخرج عن نطاق السيطرة عندما يواجه النموذج خطأً. نظرًا لأن الرموز المميزة للمخرجات تكلف أكثر بكثير من الرموز المميزة للإدخال عبر جميع موفري النماذج الرئيسيين، فإن التنفيذ غير الفعال للمهام يعمل كقاتل صامت للميزانية.
وقد أدخلت الصناعة العديد من تقنيات الكفاءة للحد من هذه التكاليف، لكنها غير كافية إلى حد كبير لأنها تتعامل مع النموذج بمعزل عن الآخر:
-
الضغط الفوري يكثف النص المدخل لتوفير المساحة، لكنه يتجاهل كيفية قيام النظام بتسلسل تلك المدخلات عبر مسارات العمل المعقدة.
-
المنطق المدرج في الميزانية يحدد الخطوات الحسابية التي يمكن أن يتخذها النموذج، والتي غالبًا ما تؤدي إلى انخفاض جودة الإخراج إذا لم يتم توجيه سير العمل بذكاء.
-
ترميز مقتضب يفرض على النماذج إخراج الحد الأدنى من التعليمات البرمجية لحفظ رموز الإخراج، لكنه لا يفعل شيئًا لحل مشكلة استدعاء الأدوات غير الفعالة.
-
فك التشفير التخميني يستخدم نموذج مسودة أصغر لتسريع عملية إنشاء نص النموذج الأكبر، مما يؤدي إلى تحسين سرعة الاستدلال مع الفشل في معالجة بنيات الوكيل المتضخمة.
تفشل هذه الجهود لأنها تعمل على تحسين المحرك مع تجاهل ناقل الحركة. إنهم لا ينظرون إلى طبقة التزامن، تاركين أوجه القصور المعمارية الأساسية دون حل.
تفريغ الحزام: أدوات الكفاءة
الحزام هو طبقة التنسيق التي تقوم بتوجيه وتنسيق وتحويل LLM الأساسي إلى نظام عمل.
تشتمل الروافع الأساسية لتحسين تسخير النظام على التخزين المؤقت الفوري للنظام، وضغط سجل التفاعل، وإدارة الأدوات، واستراتيجيات الاسترجاع، وإدارة الأخطاء. هذه هي نقاط التدخل الأكثر سهولة بالنسبة للفرق الهندسية التي تتطلع إلى تحسين أداء الذكاء الاصطناعي.
كما لاحظ الباحثون في الدراسة: “إذا كان الحزام هو الطبقة التي تشكل استدعاءات النموذج للعمل، فهي أيضًا الطبقة التي تحدد سعر العمل”.
تاريخيًا، تعامل المطورون مع الحزام على أنه رمز غراء يمكن التخلص منه مصمم ببساطة لتوصيل واجهة برمجة التطبيقات (API) بواجهة مستخدم. تشير الدراسة إلى أنه يجب الآن التعامل مع هذا الحزام كشيء من الدرجة الأولى: قطعة أثرية برمجية أساسية تتطلب اختبارها وإصدارها وتصميمها الصارم.
بالنسبة للمؤسسات، هذا يعيد صياغة "الخاصة مقابل الإيجار" قرار.
"تقضي الشركات شهورًا في تقييمات النماذج ثم تستأجر تنسيقها من الرفوف – مما يعني أنها تعمل على تحسين الرافعة الأصغر والاستعانة بمصادر خارجية للرافعة الأكبر." قال آل الشيخ. "من يملك الأداة يمتلك اقتصاديات الوحدة الخاصة بك، والإطار المفتوح المخصص للعروض التوضيحية لا يتم ضبطه على فاتورتك."
داخل التجارب
لعزل تأثير طبقة التنسيق، أجرى الباحثون تجارب على ستة نماذج أساسية تغطي العديد من البائعين وفئات الوزن: Claude Sonnet 4.6، وGemini 3.1، وGemini Flash 3.5، وQwen 3.6، وGLM 5.1، ونموذج الكاتب الخاص، Palmyra X6.
قارنت تجاربهم بين حلقة وكيل الإنتاج التقليدية المجمدة وأداة Writer Agent Harness النهائية في نفس المهام المؤسسية المقفلة البالغ عددها 22 مهمة، والتي تشمل إمكانات مثل التأريض والاسترجاع، وسير العمل متعدد الخطوات، واستخدام الأدوات، وإنشاء المحتوى. ومن خلال الحفاظ على ثبات النماذج والمهام، يمكنهم عزل تأثيرات طبقة التنسيق نفسها.
أدى الحزام المُحسّن إلى انخفاض كبير في التكاليف، مما أدى إلى خفض التكلفة المدمجة لكل مهمة بنسبة 41%، من 21 سنتًا إلى 12 سنتًا. وقد تم تحقيق ذلك إلى حد كبير من خلال خفض استهلاك الرموز المميزة، حيث انخفض عدد الرموز المميزة لكل مهمة بنسبة 38%، من 14.2 ألفًا إلى 8.8 ألفًا.
تم تصميم الحزام لتفويض المهام مثل البحث إلى وكلاء فرعيين متخصصين. يتلقى الوكيل الفرعي فقط الأداة والاستعلام المحدد الذي يحتاجه، ويسترد البيانات الدقيقة، ويعيد ملخصًا نظيفًا ومحددًا إلى الوكيل الرئيسي – مما يمنع نافذة السياق الأساسية من الامتلاء بنتائج البحث الأولية.
ظلت معدلات نجاح المهام ثابتة حتى مع انخفاض استخدام الرموز المميزة، حيث انتقلت من 78% إلى 81%، وهو مكسب وصفه الباحثون بأنه اتجاهي وليس ذو دلالة إحصائية على حجم العينة، مما يعني أن الجودة لم تتأثر حتى مع انخفاض التكاليف.
كما انخفض زمن الاستجابة للمهام من النهاية إلى النهاية بشكل ملحوظ، مما أدى إلى تقليل متوسط وقت ساعة الحائط بنسبة 44%، من 48 ثانية إلى 27 ثانية، وذلك بسبب التخزين المؤقت السريع وإزالة حلقات الاستدلال ذات النهاية المسدودة.
ومع ذلك، وجد الباحثون أيضًا حدودًا للتنسيق بين الوكلاء المتعددين. سجلت النماذج الأصغر مثل Gemini Flash 3.5 وQwen 3.6 نتائج أقل بكثير من عتبة الموثوقية القابلة للاستخدام في مهام تفويض الوكيل الفرعي (0.45 و0.42، على التوالي) – القدرة ببساطة لا يمكن الاعتماد عليها حتى الآن في النماذج الأخف وزنًا.
تجاوز تنسيق الوكيل الفرعي عتبة الموثوقية القابلة للاستخدام فقط في أقوى نموذجين تم اختبارهما: Palmyra X6 الخاص بالكاتب (0.86) وClaude Sonnet 4.6 (0.85).
قواعد اللعبة الخاصة بالمطور: الوجبات السريعة والمقايضات القابلة للتنفيذ
تُترجم نتائج الدراسة إلى دليل إرشادي لمطوري المؤسسات الذين يقومون ببناء مسارات عمل وكيلة على نطاق واسع. الخطوة الأولى هي تنفيذ ما يسميه آل الشيخ "موجه ذو منطقتين" و "تفريغ السياق."
هيكل التخزين المؤقت لموجه النظام (الموجه ثنائي المنطقة): توفر واجهات برمجة تطبيقات LLM الحديثة تخزينًا مؤقتًا سريعًا، ولكن يجب على المطورين هيكلة حمولاتهم بشكل صحيح لتشغيلها. يجب على المطورين فصل "منطقة مستقرة" من "منطقة متقلبة." ضع عناصر ثابتة وغير متغيرة (على سبيل المثال، القواعد الأساسية، ومخططات الأدوات الكبيرة، وإجراءات التشغيل القياسية) في الجزء العلوي من الموجه. يجب إلحاق العناصر الديناميكية، مثل استعلام المستخدم المحدد أو حالة مهمة المحادثة الأخيرة، في الأسفل. يسمح هذا الترتيب للنظام بإعادة استخدام البادئة المخزنة مؤقتًا عبر مئات المكالمات. "هذا الفصل الفردي يجعل التخزين المؤقت الفوري يعمل فعليًا ويمنعك من إعادة الدفع مقابل نفس التعليمات في كل خطوة من خطوات الوكيل الثلاثين،" قال آل الشيخ.
إدارة السياق باستخدام تفريغ السياق: تجنب حشو السياق، حيث يتم إلحاق كل دورة في الحلقة بموجه متجانس حتى تصل النافذة إلى الحد الأقصى. بدلاً من ذلك، انقل التاريخ والعناصر الوسيطة من النافذة إلى وحدة تخزين قابلة للاسترداد، واسحب فقط ما تحتاجه الخطوة الحالية. إذا أمكن، قم بتفويض المهام إلى وكلاء فرعيين ذوي غرض واحد لتجنب تضخم السياق. كما يشير آل الشيخ. "أكبر بند في إنفاق الوكيل ليس التفكير – إنه إعادة إرسال الأشياء التي رآها النموذج بالفعل."
بناء حلقات مرنة وإعادة تعريف مؤشرات الأداء الرئيسية: تستنزف حلقات الوكيل غير المُدارة ميزانيات واجهة برمجة التطبيقات (API) بسرعة. يجب أن تبدأ الفرق في تتبع عدد مرات الإكمال لكل مليون رمز (CPM) لفهم تكاليف المهمة الحقيقية، ولكن يجب أن يحتوي الحزام نفسه على حواجز حماية مادية. "المبدأ الأساسي هو أنك لا تطلب أبدًا من النموذج مراقبة إنفاقه،" قال آل الشيخ. "يجب أن يكون السياج أسفل النموذج، في الكود، على الجانب الخاص بك من واجهة برمجة التطبيقات." وهذا يتطلب ثلاثة اختبارات صارمة:
-
ميزانيات الرموز المميزة لكل مهمة: ينتهي التشغيل عند إنفاق الميزانية، بدون استثناءات.
-
سياج الجيل: أحرف استهلالية للخطوات واستدعاءات الأدوات وعمق التكرار لإيقاف العوامل غير المتقاربة.
-
حوكمة الفشل في الإنفاق: قم بوضع حد أقصى لما يمكن أن تنفقه عملية التشغيل بعد أول عملية تحقق فاشلة، حتى لا تصبح المهمة الفاشلة هي المهمة الأكثر تكلفة لديك.
تجنب التعقيد غير الضروري: يأتي تحسين طبقة التنسيق مع الحمل الهندسي. إذا كنت في مرحلة إنشاء النماذج الأولية والاستكشاف، فهذا الحمل غير مبرر – قم بالتكرار بسرعة باستخدام نموذج قوي وأداة خفيفة الوزن. بمجرد التوسع في تلبية ملايين الطلبات يوميًا، يصبح التوفير الناتج عن تحسين الحزام كبيرًا.
ومع ذلك، يجب على الفرق أن تكون على علم بذلك "النفوذ تسخير." تتطلب إضافة السقالات الهيكلية أن يحافظ النموذج على هذا السياق ويلتزم به. إذا كان النموذج صغيرًا جدًا، فسوف يستهلك قدرته المحدودة في تحليل السقالات بدلاً من القيام بالمهمة، مما يتسبب في انخفاض الدقة وارتفاع الرموز المميزة. قاعدة إضافة ميزات التنسيق المعقدة هي قاعدة رياضية بحتة: "إذا أضافت إحدى الميزات المزيد من الرموز المميزة للتنسيق بدلاً من إزالة الرموز المميزة للمهام لهذا النموذج المحدد، فقم بقطعها،" قال آل الشيخ. "لا شيء في الحزام مجاني."
مستقبل تسخير المؤسسة
لقد وصل عصر استخدام الرموز المميزة والتعامل مع نوافذ السياق مثل الدلاء التي لا نهاية لها إلى نهايته. إن استخدام المزيد من الحوسبة في الأنظمة سيئة التصميم ليس استراتيجية قابلة للتطبيق بالنسبة للشركات التي تحتاج إلى إثبات عائد على استثماراتها في الذكاء الاصطناعي.
مع تطور النماذج الأساسية لاستيعاب التخطيط واختيار الأدوات والتفكير متعدد الخطوات في أوزانها، سيتحول دور الحزام من التعويض عن ضعف النموذج إلى فرض سياسة المؤسسة.
"ما لا ينتقل أبدًا إلى النموذج هو “المسموح به”: الميزانيات، والأذونات، وحدود البيانات، ومسارات التدقيق، ومفاتيح التوقف الحتمية،" قال آل الشيخ. "وبعد خمس سنوات من الآن، سيكون الحزام أرق ولكنه أكثر أهمية. سيكون هناك سقالات أقل ومزيد من الحوكمة. ومهما كان مدى قدرة النموذج، فلا يزال يتعين على شخص خارجي عنه تحديد ما يمكن أن ينفقه وما يراه وما يلمسه. تنتمي هذه الطبقة إلى المؤسسة، ولا ينبغي تأجيرها أبدًا."
