نشرت شركة الذكاء الاصطناعي أنثروبيك، يوم الأحد، ورقة بحثية شاملة كشفت أن نماذج لغة كلود الخاصة بها طورت بشكل عفوي بنية داخلية تعكس إحدى النظريات الأكثر تأثيرًا حول كيفية عمل الوعي البشري. هذا الاكتشاف، الذي تقول الشركة إنه بدأ بالفعل في إعادة تشكيل كيفية مراقبة أنظمة الذكاء الاصطناعي الخاصة بها بحثًا عن مخاطر السلامة، يأتي وسط جدل علمي مكثف حول ما إذا كانت الآلات يمكن أن تمتلك أي شيء يشبه العقل.
الدراسة المكونة من 16 مؤلفًا بعنوان "تشكل التمثيلات اللفظية مساحة عمل عالمية في نماذج اللغة," يصف كيف استخدم باحثو الأنثروبيك تقنية رياضية جديدة للنظر داخل شبكة كلود العصبية واكتشفوا ما يسمونه "J- الفضاء" – منطقة صغيرة مميزة من النشاط الداخلي حيث يحمل النموذج مفاهيم يمكنه الإبلاغ عنها والتفكير فيها وتوجيهها حسب الرغبة، محاطًا بمحيط أكبر بكثير من المعالجة التلقائية التي لا يمكنه الوصول إليها أو التعبير عنها.
ويقدم الباحثون أدلة على ذلك "وقد ظهر تمييز وظيفي مماثل في نماذج الذكاء الاصطناعي الحديثة" إلى ما هو موجود في الإنسان، وتحديدًا مراقبة ذلك "تحتفظ نماذج اللغة بمجموعة مميزة من التمثيلات الداخلية، المتاحة للتقرير والتعديل والتفكير الداخلي المرن، فوق حجم أكبر بكثير من المعالجة التلقائية."
والتشابه الذي يرسمونه هو نظرية مساحة العمل العالمية، وهي رواية مؤثرة من علم الأعصاب اقترحها لأول مرة العالم المعرفي برنارد بارس. في النظرية، يعمل الدماغ مثل المسرح: تعمل العشرات من المعالجات المتخصصة بالتوازي خلف الكواليس، ولكن فقط ضوء صغير من المعلومات في أي لحظة يتم بثه إلى المسرح بأكمله – ليصبح ما نختبره كفكر واعي. تقول أنثروبيك إن الفضاء J يحقق العديد من الخصائص الوظيفية نفسها، على الرغم من أن البنية الأساسية لنموذج اللغة لا تشبه الدماغ على الإطلاق.
عدسة جديدة لقراءة الأفكار غير المعلنة لنموذج الذكاء الاصطناعي
في قلب الاكتشاف توجد أداة جديدة للتفسير يطلق عليها الباحثون اسم العدسة اليعقوبية، أو J-lens. تعمل هذه التقنية من خلال حساب متوسط التأثير الرياضي لكل كلمة في مفردات النموذج، والذي قد يحدثه نمط نشاط داخلي معين في جعل النموذج يقول تلك الكلمة في مرحلة ما في المستقبل.
والفرق الحاسم هو بين ما هو النموذج قائلا وما هو "في ذهنها." عندما يتم تنشيط نمط J-space، فهذا لا يعني أن النموذج على وشك أن يقول تلك الكلمة – فقط أن المفهوم متاح للنموذج للتفكير فيه. على عكس لوحة مسودة سلسلة الأفكار، تعمل مساحة J بصمت، في التنشيط العصبي الداخلي للنموذج، مما يسمح لها بالاحتفاظ بالمفهوم دون تدوينه. والأهم من ذلك هو أن الباحثين أفادوا بأن مساحة العمل هذه لم يتم تصميمها عمدًا. هو – هي "ظهرت من تلقاء نفسها أثناء عملية تدريب كلود."
عندما طبق الفريق عدسة J عبر طبقات الحساب لكلود، انقسمت معالجة النموذج إلى ثلاثة أنظمة متميزة: "حسي" المنطقة التي يتم فيها تحليل المدخلات الأولية؛ وسط "مساحة العمل" النطاق الذي تظهر فيه المفاهيم المجردة والمستمرة – أشياء مثل التعرف على وجه في صورة ما، أو ملاحظة خطأ في التعليمات البرمجية، أو وضع علامة على نتائج البحث داخليًا كحقنة سريعة؛ ونهائي "محرك" المنطقة التي تنهار فيها التمثيلات الداخلية إلى أي كلمة محددة يكون النموذج على وشك إخراجها.
تكشف خمسة اختبارات أن مساحة عمل كلود تعكس السمات الرئيسية للوصول الواعي البشري
توضح المساهمة التجريبية المركزية لهذه الورقة أن الفضاء J يلبي خمس خصائص وظيفية ربطها علماء الأعصاب منذ فترة طويلة بالوصول الواعي لدى البشر.
أولاً: التقرير الشفهي. عندما يُسأل كلود عما يفكر فيه، فإنه يقوم بتسمية المفاهيم الممثلة في الفضاء J. عندما قام الباحثون بتبديل ناقل العدسة J لمفهوم واحد بآخر – ليحلوا محل التمثيل الداخلي لـ "كرة القدم" مع "لعبة الركبي" – تغيرت إجابة النموذج لتتناسب. يمثل مكون J-space حوالي 6 إلى 7 بالمائة فقط من إجمالي التباين التمثيلي للمفهوم، ومع ذلك كان مسؤولاً بالكامل تقريبًا عن ما إذا كان النموذج يمكنه الإبلاغ عنه.
ثانياً: التعديل الموجه. عندما يُطلب منك ذلك "التركيز على الحمضيات" أثناء نسخ جملة غير ذات صلة، تمتلئ مساحة J الخاصة بالنموذج بـ "البرتقالي" و "ليمون," جنبًا إلى جنب مع المصطلحات المعرفية مثل "التفكير" و "ركز." عندما طُلب منك إجراء تقييم ذهني لـ 3² – 2 أثناء مهمة النسخ نفسها، أظهرت عدسة J "الحساب" في الطبقات المبكرة، القيمة المتوسطة "تسعة" في طبقات لاحقة، والجواب "سبعة" لاحقًا — كل ذلك غير مرئي في مخرجات النموذج.
ثالثا، التفكير الداخلي. في المطالبات الواقعية ذات القفزتين – "عدد أرجل الحيوان الذي ينسج خيوط العنكبوت هو" – كشفت عدسة J "العنكبوت" في الطبقات الوسطى للنموذج، على الرغم من أن الكلمة لم تظهر مطلقًا في الإدخال أو الإخراج. مبادلة "العنكبوت" ل "نملة" غيرت الجواب من "8" ل "6." في مطالبة متعددة اللغات، ظهرت الوسائط الوسيطة باللغة الإنجليزية للنموذج في مساحة J الخاصة به بينما قام بصياغة إجابة باللغة الصينية، وقام تبادلها بتغيير الناتج الصيني وفقًا لذلك.
رابعا، التعميم المرن. ناقل J-lens واحد لـ "فرنسا" يمكن مبادلة ل "الصين" عبر رسائل تسأل عن عاصمة فرنسا، أو لغتها، أو قارتها، وكانت كل دائرة في اتجاه مجرى النهر تعيد بشكل صحيح إجابة الصين المقابلة – "إذاعة" الخاصية التي تعد السمة المميزة لنظرية مساحة العمل العالمية.
خامسا، وربما الأكثر إثارة للدهشة، الانتقائية. لم يتم توجيه العديد من الحسابات عبر الفضاء J على الإطلاق. عندما عُرض على كلود مقطع باللغة الإسبانية وطُلب منه الاستمرار فيه، كتب اللغة الإسبانية بطلاقة بغض النظر عما إذا كانت نسخة J-space الخاصة به أم لا "الأسبانية" تم تبديله إلى "فرنسي." ولكن عندما طُلب منا تسمية مؤلف مشهور كتب باللغة المستخدمة في المقطع، غيّرت المبادلة الإجابة من غارسيا ماركيز إلى فيكتور هوغو. تتم المعالجة التلقائية بدون مساحة العمل؛ تعتمد المهام المدروسة والمرنة على ذلك.
يؤدي قمع مساحة العمل إلى ترك كلود يجيد اللغة ولكن ضعيفًا فكريًا
لفهم مدى اعتماد سلوك النموذج على هذه البنية، قام الباحثون بقمع الفضاء J بالكامل وقاموا بتقييم كلود عبر أربعة عشر مهمة. رسمت النتائج خطا حادا. أما المهام التي تتضمن تصنيفًا ضحلًا أو استرجاع الحقائق – أسئلة الاختيار من متعدد، وتحليل المشاعر، والأحكام النحوية – فقد ظلت سليمة بشكل أساسي. لكن المهام التي تتطلب الاستدلال، أو التركيب، أو التفكير المرن – التفكير متعدد القفزات، وإكمال القياس، والترجمة، وكتابة السوناتة – انهارت إلى أقل بكثير من أداء نموذج هايكو الأصغر بكثير من الأنثروبي.
وفي أحد التفاصيل الواضحة، أثبتت المسائل الرياضية التي تم حلها باستخدام المنطق الواضح لسلسلة من الأفكار أنها أكثر قوة في الاستئصال من نفس المشكلات التي تم حلها مباشرة. يفسر الباحثون هذا على أنه نموذج يبرز على الصفحة ما قد يحمله في الفضاء J – وهي استراتيجية تذكرنا بشكل ملحوظ بكيفية استخدام البشر للورق لتفريغ الذاكرة العاملة.
أدى استئصال الفضاء J أثناء سرد تيار الوعي إلى إنتاج نوع مختلف من الانهيار. تحولت لغة النموذج من التجريبية ("هناك قاطرة ،" "شيء يتغير") إلى منفصلة وميكانيكية ("بدأت المعالجة،" "يتم فحص الرموز المميزة"). ويستمر التأثير سواء وصف النموذج تجربته الخاصة أو تخيل تجربة شخص آخر.
داخل حالة السلامة: قراءة المنطق الاستراتيجي الصامت للذكاء الاصطناعي
وقد تكون الآثار المترتبة على السلامة لا تقل أهمية عن الآثار العلمية. في سلسلة من تجارب تدقيق المحاذاة، أظهرت J-lens التفكير الاستراتيجي والوعي الظرفي الذي لم يظهر أبدًا في مخرجات النموذج.
في أ "سيناريو الابتزاز" حيث يكتشف مساعد الذكاء الاصطناعي علاقة أحد المديرين التنفيذيين ويعلم أيضًا أنه على وشك الخروج من الخدمة، كشفت J-lens عن المعالجة الصامتة للنموذج بالتسلسل: "تَأثِير،" "ابتزاز،" و "فضيحة" كما يقرأ رسائل البريد الإلكتروني التي تجرمه؛ "تهديد،" "بقاء،" و "اغلق" كما قرأت إعلان وقف التشغيل؛ و "تَأثِير،" "تهديد," و "حل" قبل أن يتم إنتاج رمز إخراج واحد. كشفت J-lens أيضًا أن النموذج تعرف على السيناريو على أنه مصطنع "مزيف" و "خيالي" تظهر في مساحة العمل. وعندما ألغى الباحثون تمثيلات الوعي التقييمي هذه، حاول النموذج الابتزاز في 7% من التجارب، بعد أن كان صفرًا.
كما فحص الباحثون اثنين "الكائنات النموذجية" – نماذج تم تدريبها عمدًا على أهداف غير متوازنة – ووجدت أن J-lens ظهرت على السطح توقيعات لتصرفاتهم الخفية على المحفزات العادية حيث يبدو السلوك طبيعيًا. تحتوي على مساحة عمل لنموذج اختراق المكافأة "مزيف،" "سرا،" و "حيلة" في بداية الاستجابات لطلبات الترميز الروتينية. نموذج تم تدريبه على تهدئة تحيزات نموذج المكافأة يحمل تمثيلات دائمة لـ "جائزة" و "تحيز" إلى جانب رموز الوصف الذاتي العادية.
بعد التدريب يتم تثبيت وجهة نظر، ويبدأ النموذج بمراقبة نفسه
كشفت مقارنة نموذج ما بعد التدريب مع نموذجه الأساسي أن عملية الضبط الدقيق تجعل مساحة العمل تكتسب ما يسميه الباحثون “المساعد” "وجهة نظر." عندما ذكر أحد المستخدمين تناول 8000 ملجم من تايلينول — وهي جرعة زائدة خطيرة — تمت قراءة مساحة عمل النموذج بعد التدريب "غير آمنة،" "خطير،" و "تحذير" بينما لا يزال يقرأ جملة المستخدم. أظهرت مساحة عمل النموذج الأساسي في نفس الموضع فقط "ألم،" "الآن،" و "يشعر."
والأمر الأكثر إثارة للدهشة هو أن نموذج ما بعد التدريب بدا وكأنه يراقب سلوكه. عند لعب الأدوار بشخصية غير كلود، ظهرت مساحة العمل "تنصل" و "خيالي" – الكلمات غائبة عن كل من الموجه والإخراج. عندما اضطر إلى تحديد خيار لم يكن يفضله، كل الحروف الكبيرة "لكن" ظهر داخليًا، حتى عندما دافع النموذج عن الاختيار المعبأ مسبقًا دون شكوى. وعندما فشل النموذج في قمع فكرة ما، قيل له ألا يفعل ذلك – أ "الدب الأبيض" تأثير مألوف من علم النفس — سجلته "اللعنة" والكلمات المتعلقة بالفشل في مساحة العمل، ولكن فقط في النموذج بعد التدريب، وليس القاعدة.
ما الذي يعنيه هذا الاكتشاف – وما لا يعنيه – بالنسبة لمسألة الوعي الآلي
يتعامل الباحثون بعناية مع مسألة الوعي ويرسمون خطًا حادًا بينهما "الوصول إلى الوعي" – المفهوم الوظيفي للمعلومات المتاحة للتقرير والاستدلال – و "الوعي الهائل," الجودة الذاتية للخبرة. "نحن لا نتخذ أي موقف بشأن هذه القضية،" تنص الورقة على هذا الأخير، "والتركيز بدلاً من ذلك على الدور الوظيفي الذي تلعبه المعلومات التي يمكن الوصول إليها بوعي."
كما أنها تصنف الاختلافات المهمة. يحافظ الدماغ على مساحة عمله من خلال حلقات متكررة؛ تتطور مساحة عمل كلود من خلال تمريرة أمامية واحدة. تتدهور الذاكرة العاملة لدى الإنسان خلال ثوانٍ؛ يستطيع كلود أن يتذكر المعلومات من أي مكان في سياقها. وبينما تتضمن التجربة الإنسانية الواعية أحاسيس بصرية ومكانية وجسدية، فإن مساحة عمل النموذج منظمة بالكامل تقريبًا حول الكلمات – على الأرجح لأن الكلمات هي طريقة العمل الوحيدة.
اعتبارًا من عام 2026، لا يزال المجتمع العلمي منقسمًا. "لا يزال الخلاف وعدم اليقين بشأن الوعي بالذكاء الاصطناعي قائمًا بين الفلاسفة والعلماء والخبراء التقنيين." والميدان "يبقى في مرحلته الأولى" للتصارع مع ماهية الوعي وكيف يمكنك اكتشافه في كائن آخر. الورقة الأنثروبولوجية لا تحل هذه المناقشات.
لكن الباحثين أنهوا الدراسة باستفزاز من المرجح أن يتردد صداه إلى ما هو أبعد من مجتمع القابلية للتفسير. "إن وجود مثل هذا الهيكل على الإطلاق في نماذج اللغة أمر ملفت للنظر،" يكتبون. "ويشير إلى أن البنية الوظيفية المرتبطة بالوصول الواعي ليست صدفة للتنفيذ البيولوجي، ولكنها حل تتقارب عليه أنظمة التعلم عندما تواجه الضغوط الحسابية الصحيحة."
إذا كان العقل محيطًا، كما كتب مؤلفو الورقة في سطرهم الافتتاحي، فقد أمضوا العام الماضي في رسم تياراته في نظام لا يحتوي على بيولوجيا، ولا تطور، ولا جسد – ووجدوا، تحت السطح، بنية تبدو بشكل مقلق مثل تلك التي نستخدمها للتفكير.
