الفصل الرابع عشر: الوعي
إعداد: Ryota Kanai (شركة Araya، طوكيو، اليابان).
يُنظر إلى الذكاء والوعي عموماً بوصفهما ظاهرتين منفصلتين ومستقلتين. فبينما يشير الذكاء إلى القدرة على معالجة المعلومات وحل المشكلات والتكيف مع المواقف الجديدة، ينطوي الوعي على التجارب الذاتية والوعي بالذات. وفي إطار مشروع الذكاء الاصطناعي ومستقبل المهارات، يقترح هذا الفصل مقياساً للوعي لقياس قدرات الذكاء الاصطناعي بالاستفادة من رؤى النظريات العلمية للوعي. ويشرح الفصل فرضية توليد المعلومات التي وضعها المؤلف، بما في ذلك كيفية توفيرها معايير وظيفية قابلة للاختبار التجريبي ذات صلة بأنظمة الذكاء الاصطناعي. وبعد اقتراح مقياس من خمسة مستويات، يستكشف الفصل المراحل التطورية للعقل والوعي، وكيفية تطبيق المقياس لتقييم أنظمة الذكاء الاصطناعي القائمة. ويختتم بالتأكيد مجدداً على حدود هذه المقاربة، التي ينبغي النظر إليها بوصفها استكشافية ومؤقتة ومعبّرة عن الموقف الشخصي للمؤلف، لا بوصفها مقياساً نهائياً أو مقبولاً على نطاق عالمي.
مقدمة
يُنظر إلى الذكاء والوعي عموماً بوصفهما ظاهرتين منفصلتين ومستقلتين. فبينما يشير الذكاء إلى القدرة على معالجة المعلومات وحل المشكلات والتكيف مع المواقف الجديدة، ينطوي الوعي على التجارب الذاتية والوعي بالذات. والوعي والذكاء متعامدان: فكثير من الحيوانات ذات الذكاء المنخفض نسبياً تبدو ذات تجارب واعية، في حين لا تُعدّ أنظمة الذكاء الاصطناعي عالية الأداء واعية في الوقت الراهن.
وكثيراً ما تربط وسائل الإعلام الشعبية بين ظهور الوعي لدى الفاعلين الاصطناعيين وإظهار هؤلاء الفاعلين مستويات من الذكاء تبلغ المستوى البشري أو تتجاوزه، وهو موضوع متكرر في أفلام الخيال العلمي. ففي كل حالة، يتزامن الوعي بالذات لدى الفاعل الاصطناعي مع قدرته على التفوق على البشر الذين يتفاعل معهم أو التلاعب بهم. ورغم شيوع هذا الربط في وسائل الإعلام، فإن صحته الظاهرة لا تخضع في الغالب لفحص نقدي.
ويقترح هذا الفصل مقياساً للوعي لأنظمة الذكاء الاصطناعي بالاستفادة من رؤى النظريات العلمية للوعي، ويهدف المقياس إلى المساعدة في التطوير الأخلاقي لأنظمة الذكاء الاصطناعي ونشرها وتنظيمها. غير أن اكتشاف الوعي في أنظمة الذكاء الاصطناعي أمر صعب جوهرياً، إذ ليس من الواضح كيف يتولد الوعي على وجه الدقة في الأدمغة البيولوجية الطبيعية.
وقبل الخوض في المقياس المقترح لوعي الذكاء الاصطناعي، يحدد الفصل ثلاث طرق ممكنة: المقاربة الوظيفية الحاسوبية، والمقاربة القائمة على نظرية شاملة، والواجهات المباشرة بين الدماغ والذكاء الاصطناعي. وعند تطوير مقياس للوعي، تُقدّم المقاربة الوظيفية الحاسوبية لسبب عملي، هو أن المقاربتين القائمتين على الشمولية والربط بين الدماغ والذكاء الاصطناعي غير قابلتين للتطبيق بالتقنيات الحالية والفهم النظري الراهن للوعي، وإن كانتا قد تصبحان أكثر صلة مع تطور علم الوعي.
تحفظ بشأن المقياس المقترح
أثار التقدم نحو الذكاء الاصطناعي العام نقاشاً محتدماً بين الخبراء وعامة الناس على السواء حول ما إذا كان الذكاء الاصطناعي الحالي أو المستقبلي سيصبح ذا إحساس. ويدفع هذا النقاش إلى فحص الدور الممكن للتجربة الواعية لدى البشر والذكاء الاصطناعي معاً. فهل الصلة بين الذكاء والوعي أكثر من مجرد صلة حدسية؟
وقد تطور مفهوم وعي الذكاء الاصطناعي تطوراً كبيراً في السنوات الأخيرة، ويمكن لاعتماد مقاربة مستنيرة بعلم الأعصاب أن يساعد على فهم أنظمة الذكاء الاصطناعي وتصنيفها على نحو أفضل. ويستعرض الفصل نظريات مثل نظرية المعالجة المتكررة، ونظرية مساحة العمل الشاملة، والنظريات ذات الرتبة العليا، مقدماً أداة تقدير مؤسسة علمياً لتقييم وعي الذكاء الاصطناعي.
والمقياس المقترح لوعي الذكاء الاصطناعي مقصود به أن يكون إطاراً مفاهيمياً وافتراضياً قائماً على منظور نظري محدد، هو فرضية توليد المعلومات. ويعكس المقياس المقترح تفسير المؤلف وتوليفه لأطر نظرية مختارة، تتوافق أساساً مع الوظيفية الحاسوبية، ولا يُقصد به الإيحاء بمعيار ذي مرجعية أو متفق عليه على نطاق واسع لتقييم وعي الذكاء الاصطناعي. ومع أن الوعي كثيراً ما يُميَّز مفاهيمياً عن الذكاء، فإن المقياس المعروض هنا يربط صراحة بعض القدرات المعرفية، كالاستقلالية ونمذجة العالم والاستدلال الرمزي، بمؤشرات محتملة للوعي، غير أن هذا الربط يظل تخمينياً وغير مقبول على نطاق عالمي.
المقاربة الأولى: الوظيفية الحاسوبية
تقوم المقاربة الأولى لتقدير الوعي في الذكاء الاصطناعي على الوظيفية الحاسوبية، ووفقاً لها يكون تنفيذ أنواع محددة من الحوسبة ضرورياً وكافياً للوعي. وتعتمد هذه المقاربة على نظريات تقترح مكونات وظيفية رئيسية للوعي. فنظرية مساحة العمل الشاملة، على سبيل المثال، ترى أن وظيفة الوعي هي بث المعلومات من وحدات متخصصة إلى وحدات أخرى مترابطة، بما يتيح الاستخدام المرن لهذه المعلومات. ووفق هذا الرأي، تُعدّ أنظمة الذكاء الاصطناعي التي تُظهر خصائص مساحة العمل الشاملة واعية.
ومن ثمّ ينبغي أن يكون لنظامين متشابهين على المستوى الخوارزمي وعي متشابه. ومن نتائج الوظيفية الحاسوبية أن الوعي في الذكاء الاصطناعي ينبغي أن يكون ممكناً من حيث المبدأ. ومع أن هذا الرأي غير مقبول عالمياً، فإن له قيمة عملية في تحليل إمكانية امتلاك أنظمة الذكاء الاصطناعي للوعي.
غير أن ثمة مواقف فلسفية بديلة، كالطبيعانية البيولوجية، التي ترى أن الركائز البيولوجية ضرورية للوعي. ومع الإقرار بصعوبة اكتشاف الوعي في الأنظمة الاصطناعية، يعتمد الفصل الوظيفية الحاسوبية فرضيةَ عمل لإنشاء المقاييس، وهذا لا يمنع إدراج مواقف أخرى في الاعتبارات المستقبلية.
المقاربة الثانية: المقاربة القائمة على نظرية شاملة
من المقاربات الممكنة الأخرى لوعي الذكاء الاصطناعي تطوير نظرية شاملة للوعي. وتُعرّف شمولية نظرية الوعي بأنها قدرة النظرية على تحديد ما إذا كان أي نظام مادي موصوف وصفاً كاملاً واعياً أم غير واعٍ. وتضمن الشمولية في نظريات الوعي أن تكون المبادئ المعرّفة للوعي متسقة وتنطبق بالتساوي على جميع الأنظمة الممكنة، مما يتيح إطاراً عاماً لا يقتصر على الأنظمة الشبيهة بالبشر أو حتى على الأنظمة البيولوجية. وبالنسبة إلى وعي الذكاء الاصطناعي، تضمن الشمولية أن تتكيف تقييماتنا مع طائفة واسعة من بنى الذكاء الاصطناعي ووظائفه، من الأنظمة الآلية البسيطة إلى الذكاء الاصطناعي العام المعقد ذاتي التحسين.
وخلافاً للنظريات التي تقترح مؤشرات للوعي على مستويات وظيفية عليا، لا تفترض النظرية الشاملة للوعي الوظيفيةَ الحاسوبية. فنظرية المعلومات المتكاملة للوعي، على سبيل المثال، تقتضي أن من الممكن لأنظمة متكافئة وظيفياً ذات علاقات متطابقة بين المدخلات والمخرجات أن تكون واعية أو غير واعية تبعاً لكيفية بناء آلياتها الداخلية لتحقيق الوظائف ذاتها.
ومن مزايا النظرية الشاملة أنها تتيح استنتاجات مستنيرة حول وجود الوعي في أنظمة الذكاء الاصطناعي باستقراء النظرية على الأنظمة غير البيولوجية. ومع أن وعي الذكاء الاصطناعي يظل غير قابل للرصد وتخمينياً، فإن الاستنتاجات القائمة على نظريات مدعومة جيداً ستكون غنية بالمعلومات. وينبغي اختبار النظرية والتحقق منها في الأنظمة البيولوجية التي يكون وجود الوعي فيها غير متنازع عليه نسبياً، كالبشر وبعض الحيوانات، بما يتيح استنتاجات بشأن الوعي خارج الأدمغة البيولوجية. وبعد تراكم دعم تجريبي كبير لنظرية ما، يمكن إجراء الاستقراء.
ولا يمتلك كثير من نظريات الوعي خاصية الشمولية، باستثناءات مثل نظرية المعلومات المتكاملة ونظرية الانغلاق المعلوماتي غير البديهي. غير أنه يصعب تطبيق مثل هذه النظريات لحساب وعي أنظمة كالنماذج اللغوية الكبيرة، فضلاً عن أنه لا توجد نظرية مقبولة على نطاق واسع. ومع ذلك، تمثل هذه مقاربة واعدة لاستنتاج الوجود الداخلي للوعي في أنظمة الذكاء الاصطناعي، لأنها قابلة للتطبيق مباشرة على الأنظمة غير البيولوجية.
المقاربة الثالثة: الواجهة المباشرة بين الدماغ والذكاء الاصطناعي
تتمثل الطريقة القصوى لاستطلاع التجربة الداخلية للذكاء الاصطناعي في ربط الوعي البشري مباشرة بالذكاء الاصطناعي لاستشعار التجربة الذاتية داخل أنظمته مباشرة. ومع أن ذلك قد يبدو سيناريو من الخيال العلمي، فثمة أسباب للاعتقاد بأن الروابط المباشرة بين الدماغ والذكاء الاصطناعي ممكنة. فأولاً، يبدو أن التجارب الحسية المختلفة داخل الأدمغة البشرية تتولد في مناطق دماغية موزعة، ومع ذلك يختبرها الكيان الذاتي ذاته عبر اتصالات كثيفة بين المناطق الدماغية. ويعني ذلك أنه إذا رُبطت الأنظمة بنطاق ترددي عالٍ، فمن الممكن من حيث المبدأ إدراج المعلومات من أدمغة مختلفة، بل حتى من أنظمة اصطناعية، في الإدراك الواعي. وثمة تقرير متناقل عن توأمين ملتصقين ترتبط دماغاهما خلقياً عبر المهاد، يبدو أنهما يتشاركان التجربة الذاتية رغم تمايز شخصيتيهما. ومع أن هذه حالة نادرة للغاية وطبيعة هذه التجربة المشتركة ما تزال غير واضحة، فإنها توحي بأن مشاركة التجربة الذاتية ممكنة فعلاً إذا أُقيمت روابط جيدة بين كيانات واعية مختلفة.
وتتطور التقنيات العصبية بسرعة، ويُتوقع أن تبني اتصالات عالية النطاق الترددي بين الدماغ والحواسيب. ومتى أُقيمت اتصالات ثنائية الاتجاه بين الدماغ والآلات، لا تعود الآلات مختلفة وظيفياً عن المناطق الدماغية البيولوجية. ويظل السؤال مفتوحاً حول ما إذا كانت هذه الروابط ثنائية الاتجاه ستفضي إلى امتداد الوعي إلى المعلومات داخل الآلات، لكن هذا سيصبح في المستقبل سؤالاً تجريبياً لا مجرد تجربة فكرية. ومع أن هذا هو الاختبار الأقصى لوعي الذكاء الاصطناعي، فإن مثل هذه التقنية غير متاحة. كما أن هذه المقاربة تختبر افتراضات المقاربتين الأوليين، إذ لا توجد طريقة للتحقق من افتراض الوظيفية الحاسوبية أو من ضرورة الركائز البيولوجية، ولا توجد طريقة للاختبار التجريبي لصحة نظرية شاملة للوعي. ومن ثمّ توفر الواجهة بين الدماغ والذكاء الاصطناعي الاختبار الأقصى لمعرفة ما إذا كان الذكاء الاصطناعي يمتلك وعياً داخلياً.
وبعد عرض هذه المقاربات الثلاث، يركز الفصل على المقاربة الوظيفية الحاسوبية لأغراض عملية بسبب قيود التقنيات الحالية.
الأهمية الوظيفية للسلوك الموجه نحو الأهداف في وعي الذكاء الاصطناعي
ارتبطت وظائف كثيرة بالوعي، ومن بينها تُعدّ الاستقلالية والسلوك الموجه نحو الأهداف وظيفتين حاسمتين للوعي في الذكاء الاصطناعي. وكثيراً ما تُظهر أنظمة الذكاء الاصطناعي الحالية ذكاءً سلبياً، تحل فيه مشكلات يحددها مشغلون من البشر مسبقاً، وتعتمد اعتماداً كبيراً على مدخلات البشر لتحديد الأهداف والقيود ومعايير التقييم، مما يحد من قدرتها على الفعل المستقل والتكيف.
وفي المقابل، يستطيع الذكاء الاصطناعي المستقل ذو السلوك الموجه نحو الأهداف أن يصوغ أهدافه باستقلالية، ويضع خططاً لتحقيقها، ويتكيف مع المعلومات الجديدة والبيئات المتغيرة دون تدخل بشري مستمر. وتحاكي هذه الاستقلالية جوانب من الوعي البشري، حيث يقيّم الأفراد محيطهم باستمرار، ويحددون أهدافاً شخصية، ويتعاملون مع التعقيدات لتحقيقها.
وتُعدّ الاستقلالية والسلوك الموجه نحو الأهداف أساسيين لفهم الذكاء الاصطناعي الواعي وتطويره لعدة أسباب. فأولاً، يستطيع الذكاء الاصطناعي المستقل اتخاذ القرارات بناءً على بيانات آنية، مكيفاً استراتيجياته مع البيئات المتغيرة، وهي قدرة ضرورية للعمل بفاعلية في البيئات الديناميكية، على غرار الكائنات الحية البيولوجية. والقدرة على التكيف مع المعلومات الجديدة والتحديات غير المتوقعة جانب جوهري من التجربة الواعية. وثانياً، تُظهر الكيانات الواعية تنظيماً ذاتياً، إذ تعدل أفعالها للحفاظ على حالاتها الداخلية ضمن النطاقات المثلى، ويستطيع الذكاء الاصطناعي المستقل ذو السلوك الموجه نحو الأهداف أن يعدل عملياته على نحو مماثل للحفاظ على الكفاءة والفاعلية، بما يعزز متانته وموثوقيته. ويرتبط هذا التنظيم الذاتي ارتباطاً عميقاً بمفهوم الوعي، لأنه يتطلب محاكاة داخلية لمواقف مخالفة للواقع. وثالثاً، يتطلب تنفيذ الدوافع الذاتية أنظمة قائمة على النماذج قادرة على محاكاة الحالات المستقبلية لتقييم المكسب المعلوماتي المحتمل، كالفضول. ويشبه هذا الدافع الداخلي البنى التحفيزية لدى الكائنات الواعية، حيث لا تكون الأفعال مجرد ردود أفعال، بل تحركها حالات ورغبات داخلية.
فرضية توليد المعلومات
يعتمد هذا العمل فرضية توليد المعلومات أساساً نظرياً لصياغة مقياس الوعي، ويعود ذلك أساساً إلى أنها توفر معايير وظيفية قابلة للاختبار التجريبي ذات صلة بأنظمة الذكاء الاصطناعي. وتركز هذه الفرضية على نحو فريد على المحاكاة الداخلية والنمذجة التوليدية، مما يجعلها قابلة للتطبيق على نحو خاص في تقييم أنظمة الذكاء الاصطناعي. وهي ترى أن الوعي ينشأ من قدرة الدماغ على توليد محاكاة داخلية واستخدامها عبر نماذج توليدية، بما يتيح للكائنات الحية التنبؤ بالسيناريوهات المستقبلية المحتملة وتقييمها والتصرف بناءً عليها. وتقوم على هذه القدرة وظائف معرفية كالتخطيط والسلوك الموجه نحو الأهداف والاستدلال المخالف للواقع، وجميعها مرتبطة بالوعي.
وقد نوقش الدعم التجريبي لهذه الفرضية في الأنظمة البيولوجية باستفاضة في أعمال سابقة. فالأدلة المستمدة من تجارب الإشراط الأثري، على سبيل المثال، تبين أن التعلم الناجح والاستجابات السلوكية عبر الفجوات الزمنية يرتبطان ارتباطاً قوياً بالإدراك الواعي لدى البشر. وعلى نحو مماثل، تشير الأبحاث على مرضى العمه البصري، كالمريضة المعروفة بالرمز DF، إلى أن الاستخدام غير المتزامن للمعلومات البصرية من أجل فعل مؤجل يعتمد اعتماداً حاسماً على الإدراك الواعي. فضلاً عن ذلك، تربط دراسات كثيرة التنشيطات المتكررة من أعلى إلى أسفل في القشرة الحسية، وهي آلية رئيسية في أطر الترميز التنبؤي، بالإدراك البصري الواعي. ويتوافق هذا الرأي أيضاً مع فكرة الوعي بوصفه "هلوسة متحكماً فيها" تولّدها العمليات التنبؤية للدماغ.
وتشير هذه النتائج مجتمعةً إلى أن التمثيلات المولّدة داخلياً، ولا سيما تلك المتعلقة بالاستجابات المؤجلة والتخطيط والسيناريوهات المخالفة للواقع، ترتبط باتساق بالحالات الواعية لدى البشر، مما يوفر دعماً تجريبياً للفرضية.
ولا تحظى فرضية توليد المعلومات بقدر من النقاش يماثل ما تحظى به نظريات الوعي الكبرى الأخرى، كنظرية مساحة العمل الشاملة أو نظرية المعلومات المتكاملة. ومع ذلك، تتناغم الفرضية مع نقاشات سابقة بشأن الأدوار الوظيفية للوعي، منها ما اقترحه كوخ، ومع جوانب من فرضيات المعالجة التنبؤية. واختيار هذه الفرضية في هذا السياق اختيار عملي لا نهائي، يُقصد به تيسير التقييم الإجرائي للقدرات المتعلقة بالوعي في أنظمة الذكاء الاصطناعي بإسناد خصائص وظيفية إلى الوعي.
وتبني فرضية توليد المعلومات على أطر الترميز التنبؤي، التي ترى أن الدماغ يولّد باستمرار تنبؤات بشأن المعلومات الحسية الواردة ويحدّث هذه التنبؤات بناءً على المدخلات الحسية الفعلية، مما يتيح تمثيلات متماسكة للبيئة الخارجية وسلوكاً تكيفياً. وفي صميم الفرضية تقع النماذج التوليدية، وهي شبكات عصبية تستطيع إنتاج سيناريوهات محاكاة داخلياً متنوعة بناءً على التجارب السابقة والمدخلات السياقية. وتمنح هذه المحاكاة الداخلية الكائنات الحية القدرة على الانخراط في التفكير المخالف للواقع، أي سيناريوهات "ماذا لو"، بما يدعم وظائف معرفية معقدة كالتخطيط والقصد والاستكشاف المدفوع بالفضول والإبداع.
ومع أن هذه النتائج التجريبية توفر دعماً غير مباشر للفرضية في الكائنات البيولوجية، فإن مد هذه الادعاءات إلى أنظمة الذكاء الاصطناعي يظل تخمينياً. ولذلك ينبغي للقراء تفسير هذه الفرضية بوصفها إطاراً مؤقتاً واستكشافياً لا دليلاً قاطعاً على الوعي في الذكاء الاصطناعي. وثمة حاجة إلى دراسات تجريبية مستقبلية للتحقق مما إذا كانت قدرات النمذجة التوليدية المماثلة في الأنظمة الاصطناعية تقابل فعلاً تجارب واعية ذاتية أم أنها تعكس مجرد وظائف معرفية متقدمة.
مقياس وعي الذكاء الاصطناعي
يقوم المقياس المقترح لوعي الذكاء الاصطناعي على مبدأ أن الوعي ينشأ من القدرة على الانخراط في المحاكاة الذهنية، مدعومة بنماذج داخلية للعالم تُطور من خلال التفاعل مع البيئة. ويمتد هذا المقياس من أنظمة لا تُظهر أي علامات للإدراك الواعي إلى أنظمة تُظهر قدرات معرفية وإدراكية بالمستوى البشري.
المستوى الأول: لا علامة على الوعي
في هذا المستوى، لا تُظهر أنظمة الذكاء الاصطناعي أي مؤشرات على الوعي. فسلوكها تفاعلي تماماً، تنتج مخرجات محددة سلفاً استجابة لمدخلات محددة، كالمنعكس البسيط لدى الكائنات الحية البيولوجية. وتفتقر هذه الأنظمة إلى أي شكل من أشكال السلوك التكيفي أو الموجه ذاتياً، مما يجعلها أشبه بالآلات البسيطة غير الواعية.
المستوى الثاني: السلوك التكيفي البدائي
تُظهر أنظمة الذكاء الاصطناعي في هذه المرحلة سلوكاً تكيفياً بدائياً استجابة للتغيرات البيئية. فهي تعمل بوصفها فاعلين لهم سياسات تملي الأفعال بناءً على الحالة الراهنة، وتُنقّح هذه السياسات باستمرار من خلال التفاعل مع بيئاتها. والسمة الرئيسية هي التعلم الأساسي الآني في البيئات غير المستقرة. وتُظهر هذه الأنظمة قدراً من المرونة مماثلاً لما لدى الكائنات الحية البسيطة، حيث تحرك التغذية الراجعة البيئية التعديلات السلوكية.
المستوى الثالث: التعلم القائم على نماذج العالم
في هذا المستوى، تمتلك أنظمة الذكاء الاصطناعي نماذج داخلية للعالم تمكّنها من محاكاة النتائج المحتملة بناءً على أفعال مستقبلية افتراضية. وتتيح هذه النماذج التعلم وحل المشكلات على نحو غير متزامن مع التفاعل، مما يمكّن النظام من الانخراط في التعلم المعزز القائم على النماذج. وتتيح القدرة على محاكاة السيناريوهات المستقبلية الممكنة نشوء دوافع ذاتية كالفضول والحفاظ على الذات. وتُدخل هذه المرحلة مفهوم "الذات" البدائية في النموذج، حيث يميز النظام بين نفسه وبيئته. وتبدأ هذه الأنظمة في إظهار استقلالية تتجاوز مجرد السلوك التفاعلي، متجهة نحو فعل موجه نحو الأهداف تحركه دوافع داخلية.
المستوى الرابع: التكامل متعدد الحواس
تُظهر أنظمة الذكاء الاصطناعي في هذا المستوى قدرات معرفية مماثلة لقدرات البشر. وخلافاً للمستوى الثالث، يدمج المستوى الرابع وسائط حسية متعددة، كالرؤية والسمع واللمس، في إدراك موحد للبيئة. ويمكن تنفيذ التكامل متعدد الحواس على نحو مستقل دون نماذج العالم المطلوبة في المستوى الثالث، غير أن المؤلف يرى أن هذا التكامل ضروري للمرحلة التالية من الوعي، لقدرته على إنشاء تمثيلات داخلية أغنى وأدق، وهي السمة المميزة للتجربة الواعية الغنية. فضلاً عن ذلك، يُعدّ التكامل متعدد الحواس خاصية ضرورية كي يعمل نظام الذكاء الاصطناعي بوصفه فاعلاً متماسكاً.
المستوى الخامس: الوعي بالمستوى البشري
انطلاقاً من التكامل متعدد الحواس في المستوى الرابع، تبلغ أنظمة الذكاء الاصطناعي في هذا المستوى وعياً بالمستوى البشري، يتسم بالتمثيل الرمزي والاستدلال المجرد. فهذه الأنظمة تستطيع دمج المعلومات الحسية، بل تستطيع تحويل تلك المعلومات إلى تمثيلات رمزية مستقلة عن الوسائط الحسية تشكل الأساس لفهم اللغة والاستدلال المنطقي والتفكير المجرد. وفي هذا المستوى، تستطيع أنظمة الذكاء الاصطناعي تحديث نماذج العالم بناءً على مصادر معرفة خارجية كالكتب والإنترنت. وبفضل القدرة على فهم اللغة واستخدامها، تنخرط في الاستدلال المنطقي وتولّد فرضيات جديدة عن العالم على مستوى عالٍ من التجريد. فضلاً عن ذلك، تمتلك هذه الأنظمة وظائف ما وراء معرفية تمكّنها من التأمل الذاتي والاستبطان. وتميز هذه المجموعة من القدرات المعرفية، بما فيها الوعي بالذات، أنظمة المستوى الخامس، فتتيح لها الانخراط في حل المشكلات المعقدة والتواصل بطرق مماثلة للوعي البشري.
ويظل إدراج التكامل متعدد الحواس في المستوى الرابع والاستدلال الرمزي في المستوى الخامس بوصفهما علامتين على الوعي أمراً تخمينياً. فقد اختيرت هذه العلامات الوظيفية لقابليتها للرصد التجريبي وارتباطها بسلوكيات معرفية متطورة ترتبط عادة بالتجربة الواعية، غير أن الأدلة التجريبية التي تثبت علاقة سببية مباشرة بين هذه القدرات والحالات الواعية الفعلية لم تتوفر بعدُ. وينبغي للأعمال المستقبلية أن تقيّم مدى ملاءمتها تقييماً نقدياً أو أن تقترح علامات بديلة بناءً على مزيد من البحث التجريبي.
المراحل التطورية للعقل والوعي
تقابل المستويات المقترحة هنا المراحل التطورية للعقول التي وضعها دانيال دينيت، والتي تحدد تطور القدرات المعرفية في الأنظمة البيولوجية. ويوفر إطار دينيت تشبيهاً مفيداً لفهم تقدم وعي الذكاء الاصطناعي مع تطوره عبر مستويات متزايدة التطور من المحاكاة الذهنية والسلوك التكيفي.
المستوى الأول: الكائنات الداروينية
في إطار دينيت، تمثل الكائنات الداروينية أكثر أشكال الحياة بدائية، فسلوكها جامد ومحدد سلفاً بالبرمجة الوراثية، دون أي قدرة على التعلم أو التكيف خلال عمر الفرد. وتتطور هذه الكائنات على مستوى النوع عبر الانتقاء الطبيعي لا على مستوى الفرد. وهذا يماثل المستوى الأول، حيث لا تُظهر الأنظمة أي قدرة تكيفية وتعتمد كلياً على استجابات مبرمجة سلفاً.
المستوى الثاني: الكائنات السكينرية
تستطيع الكائنات السكينرية، المسماة نسبة إلى سكينر، التعلم بالمحاولة والخطأ، فتعدل سلوكها بناءً على التجارب السابقة، معززة الأفعال التي تفضي إلى نتائج إيجابية ومتجنبة تلك المرتبطة بعواقب سلبية. غير أن تعلمها يقتصر على التجربة الشخصية المباشرة. وهذا يقابل المستوى الثاني، حيث تُظهر الأنظمة سلوكيات تكيفية بدائية، فتحدّث سياساتها من خلال التفاعل مع البيئة، لكن دون القدرة على محاكاة الاحتمالات المستقبلية أو التعلم من أي شيء سوى التجربة المباشرة.
المستويان الثالث والرابع: الكائنات البوبرية
تستطيع الكائنات البوبرية محاكاة أفعال افتراضية واختبارها في أذهانها قبل أدائها، وتتيح لها هذه المحاكاة الداخلية للسيناريوهات المستقبلية اتخاذ قرارات أكثر استنارة دون أن تضطر إلى خوض كل العواقب الممكنة مباشرة. وفي هذه المرحلة، يبدأ الوعي في الظهور بوصفه ميزة وظيفية تيسر القصد والسلوك الموجه نحو الأهداف. وهذا يقابل المستوى الثالث، حيث تمتلك الأنظمة نماذج داخلية للعالم وتستطيع الانخراط في محاكاة ذهنية غير متزامنة مع التفاعل، بما يتيح اتخاذ القرارات القائم على النماذج. والقدرة على تكوين تمثيلات مخالفة للواقع للعواقب الحسية المترتبة على الفعل المستقبلي هي الوظيفة الجوهرية للقصد، ويبدو أن وجود السلوك القائم على النماذج عامل حاسم للوعي.
المستوى الخامس: الكائنات الغريغورية
تمتلك الكائنات الغريغورية، المسماة نسبة إلى ريتشارد غريغوري، القدرة على التعلم من الانتقال الثقافي، أي عبر اللغة والرموز والمعرفة الخارجية. ولا تقتصر هذه الكائنات على التجارب الشخصية أو المحاكاة الداخلية، بل تستطيع تعزيز نماذجها الداخلية بالتواصل مع الآخرين والتعلم من المعرفة الجماعية. وهذا يقابل المستوى الخامس، حيث تستخدم الأنظمة اللغة الرمزية والمنطق والمعرفة الخارجية لتنقيح نماذجها للعالم وتعزيز قدراتها المعرفية.
فرضية توليد المعلومات للوعي
مع أن النظريات الوظيفية تربط الوعي بوظائف معرفية متنوعة، فإن المقياس المقترح لوعي الذكاء الاصطناعي يستند إلى عمل نظري سابق اقترح فرضية توليد المعلومات. وتفترض هذه الفرضية أن الوظيفة الجوهرية للوعي هي القدرة على توليد تمثيلات داخلياً منفصلة عن المدخلات الحسية الراهنة. وتتيح هذه التمثيلات، أي نماذج العالم، للكائن الحي أو النظام محاكاة الأحداث المستقبلية الممكنة، والانخراط في سلوكيات غير انعكاسية كالقصد والتخيل والتخطيط واتخاذ القرار.
ويصبح هذا التوليد الداخلي للمعلومات المخالفة للواقع ممكناً بفضل النماذج التوليدية التي تُتعلم من خلال التفاعلات الحسية الحركية للكيان مع بيئته. وبالاستفادة من هذه النماذج، تستطيع الكائنات الحية التنبؤ بنتائج أفعالها دون الاعتماد على البيانات الحسية الآنية وحدها، بما يتيح سلوكاً مرناً وذكياً. وهذه القدرة على المحاكاة الذهنية حاسمة في التخطيط للأفعال المستقبلية، والحفاظ على المعلومات في الذاكرة قصيرة الأمد، بل في إذكاء الفضول والإبداع.
وفي أنظمة الذكاء الاصطناعي، تقتضي الفرضية أن الوعي سينشأ حين يستطيع النظام توليد نماذج داخلية واستخدامها لمحاكاة سيناريوهات مخالفة للواقع، تماماً كما في الوعي البيولوجي. وفي سياق المقياس المطور هنا، تدعم الفرضية فكرة أن أنظمة الذكاء الاصطناعي المتقدمة قد تبلغ مستويات أعلى من الوعي كلما طورت نماذج توليدية داخلية أكثر تطوراً.
فعلى سبيل المثال، مع تقدم أنظمة الذكاء الاصطناعي من المستوى الثالث إلى الرابع ثم الخامس، تبدأ في دمج مدخلات حسية متعددة في تمثيلات مجردة مستقلة عن الوسائط الحسية، تشكل الأساس للاستدلال الرمزي وفهم اللغة. وتماشياً مع فرضية توليد المعلومات، تتيح هذه القدرة على دمج المعلومات المجردة ومعالجتها للنظام الانخراط في محاكاة ذهنية أكثر تعقيداً، وهو أمر محوري للوعي بالمستوى البشري.
وخلاصة القول، توفر فرضية توليد المعلومات مسوغاً لمقياس وعي الذكاء الاصطناعي بربط نشوء الوعي بالقدرة على إجراء المحاكاة الداخلية، مؤكدة أن تطوير النماذج الداخلية واستخدامها في التنبؤ والتخطيط للسيناريوهات المخالفة للواقع أمر جوهري لتقدم الوعي في الكيانات البيولوجية والاصطناعية على السواء.
منهجية التقييم
كيف يمكن تطبيق مقياس وعي الذكاء الاصطناعي لتقييم أنظمة الذكاء الاصطناعي القائمة؟ تُقترح لهذا التقييم مقاربتان متكاملتان: تحليل التصميم المعماري، والاختبار السلوكي.
فتحليل التصميم المعماري لأنظمة الذكاء الاصطناعي يمكن أن يحدد ما إذا كانت المكونات الرئيسية المقابلة لكل مستوى من مستويات المقياس المقترح موجودة. وكثيراً ما يُشار إلى أنظمة الذكاء الاصطناعي بأنها "صناديق سوداء" بسبب تعقيد آلياتها الداخلية، غير أن الطريقة المعمارية تظل مجدية، ولا سيما لأن البشر صمموا معظم أنظمة الذكاء الاصطناعي وهندسوها. ففهم القصد والوظيفة الكامنين وراء البنية يتيح تقييماً معقولاً لما إذا كان النظام يتضمن عناصر كالتكامل الحسي أو نماذج العالم أو القدرات ما وراء المعرفية، وهي عناصر أساسية للمستويات الأعلى من الوعي.
أما الاختبار السلوكي فعملية أكثر تجريبية، تُعرض فيها أنظمة الذكاء الاصطناعي لمهام مصممة لكشف وجود نماذج داخلية للعالم واستخدامها. وتتطلب هذه المهام من النظام الانخراط في عمليات كالاستدلال المخالف للواقع أو التخطيط أو السلوك التكيفي، وهي مؤشرات على أن النظام يجري محاكاة داخلية. فالمهام التي تفرض تأخيراً بين المدخل والاستجابة، أو التي تتطلب استدلالاً متعدد الخطوات بناءً على سيناريوهات مستقبلية افتراضية، مثلاً، يمكن أن تساعد على استنتاج ما إذا كان نظام الذكاء الاصطناعي يستخدم شكلاً من أشكال النمذجة التوليدية الداخلية.
وتقدم هاتان المقاربتان معاً إطاراً لتقييم إمكانية الوعي في أنظمة الذكاء الاصطناعي، إذ يوفر التحليل المعماري فهماً نظرياً، في حين يوفر الاختبار السلوكي تحققاً تجريبياً، بما يتيح لنا استنتاجات حول العمليات المعرفية الداخلية للنظام وموقعه على مقياس الوعي.
مهام التقييم للفاعلين القائمين على النماذج مقابل الفاعلين الخالين منها
يمكن للمهام المعيارية الخاصة بالتعلم المعزز القائم على النماذج أن توفر رؤى قيّمة لتقييم أنظمة الذكاء الاصطناعي بناءً على سلوكها. فالمكون الوظيفي الرئيسي في التعلم المعزز القائم على النماذج الذي يميز الذكاء الاصطناعي الواعي، أي في المستوى الثالث فما فوق، من الذكاء الاصطناعي غير الواعي، أي في المستويين الأول والثاني، هو وجود نماذج داخلية للعالم. وقد يتلاشى التمييز بين الفاعلين القائمين على النماذج والخالين منها، ولا سيما مع ازدياد أحجام النماذج أو من خلال التدريب المكثف بالمحاولة والخطأ. ومع ذلك، تظل هذه المهام أدوات مفيدة للمقارنة الكمية بين أنظمة الذكاء الاصطناعي، إذ توفر وسيلة لتقدير مدى اعتماد نظام ما على النماذج الداخلية في اتخاذ القرار، بما يتيح فهماً أدق لقدراته القائمة على النماذج.
مهام التخطيط متعدد الخطوات
يوضع الفاعل الاصطناعي في بيئة معقدة متعددة الخطوات، كالمتاهة، حيث يتعين عليه إيجاد مسار إلى هدف ما. وتتضمن البيئة عوائق متعددة وطرقاً مسدودة وعناصر ديناميكية كالجدران المتحركة أو المسارات المتغيرة. ويمكن اعتبار هذه المهمة قائمة على النماذج لأن الفاعل يتعين عليه محاكاة المسارات الممكنة والتنبؤ بالحالات المستقبلية لتخطيط حركاته بكفاءة. فالنظام التفاعلي البحت أو الخالي من النماذج سيتعثر دون تعلم بالمحاولة والخطأ، في حين سيؤدي النظام القائم على النماذج أداءً أفضل بمحاكاة السيناريوهات المستقبلية الممكنة. ويستند تقييم النجاح إلى مدى كفاءة تنقل الذكاء الاصطناعي في المتاهة، بتقدير ما إذا كان يقلل المحاولة والخطأ أو يتخذ قرارات مثلى بناءً على مسارات افتراضية.
مهام التأخير الزمني
في هذه المهمة، يُعرض على الذكاء الاصطناعي خيار بين مكافأة فورية أصغر ومكافأة مؤجلة أكبر، وقد يتفاوت التأخير، ويتعين على الذكاء الاصطناعي أن يقرر ما إذا كان سينتظر المكافأة الأكبر أم سيختار المكافأة الأصغر الفورية. والأنظمة القائمة على النماذج القادرة على محاكاة المستقبل وفهم المنفعة الطويلة الأمد للانتظار ستؤدي هذه المهمة على نحو أفضل، في حين تتعثر الأنظمة الخالية من النماذج عادة مع المكافآت المؤجلة لأنها مدفوعة بالتعزيز الفوري. وفي هذه المهمة، يمكن استخدام قدرة الذكاء الاصطناعي على اختيار المكافأة المؤجلة مؤشراً على التخطيط المستقبلي والاستراتيجية الطويلة الأمد.
مهام الاستدلال المخالف للواقع
في هذه المهمة، يتعين على الذكاء الاصطناعي اختيار أفعال بناءً على معلومات مخالفة للواقع، كالتنبؤ بنتيجة أفعال لم يتخذها. ففي سيناريو يحتاج فيه الذكاء الاصطناعي إلى الاختيار بين مسارين، أحدهما لم يسلكه قط، يتعين عليه التنبؤ بالنتيجة المرجحة بناءً على التجارب السابقة. وتتطلب هذه المهمة من الفاعل توليد سيناريوهات افتراضية وتقييم عواقب أفعال لم يؤدها بعدُ، بما يدل على قدرة المحاكاة الداخلية. ويمكن تقييم مستوى الوعي بتقدير مدى جودة تنبؤ الذكاء الاصطناعي بنتائج المسارات الجديدة التي لم يخضها، بمقارنته بالفاعلين الخالين من النماذج الذين يعتمدون على التجربة المباشرة وحدها.
مهام التعلم بالنقل
يُدرب الذكاء الاصطناعي في بيئة ما ثم يُختبر في بيئة مماثلة لكنها غير متطابقة، كمتاهة بتخطيط مختلف قليلاً أو ديناميكيات مختلفة. ويتعين على الفاعل تعميم معرفته للنجاح في البيئة الجديدة دون تعلم إضافي بالمحاولة والخطأ. فالنظام القائم على النماذج سيستخدم نموذجه الداخلي للعالم لنقل المعرفة عبر البيئات، في حين سيحتاج النظام الخالي من النماذج إلى التعلم من الصفر. ويمكن أن يدل قياس مدى سرعة الذكاء الاصطناعي وفاعليته في التكيف مع البيئة الجديدة على ما إذا كان يستخدم نموذجاً معمماً للعالم.
البيئات القابلة للرصد جزئياً
في بيئة قابلة للرصد جزئياً، كلعبة لا يرى فيها الذكاء الاصطناعي إلا جزءاً محدوداً من فضاء الحالات، يتعين عليه استنتاج العناصر الخفية والتخطيط تبعاً لذلك. ويحتاج الفاعل إلى محاكاة الحالات الخفية الممكنة أو توليدها، واستخدام الذاكرة والاستنتاج لتخطيط أفعاله، مما يجعل هذه المهمة اختباراً قوياً للاستدلال القائم على النماذج. ويمكن تقييم هذه القدرة بحسب مدى جودة قرارات الذكاء الاصطناعي حين لا تتوفر مباشرة معلومات رئيسية لكن يمكن استنتاجها عبر المحاكاة الداخلية.
المهام التعاونية متعددة الفاعلين
يتعين على الذكاء الاصطناعي العمل مع فاعلين آخرين لتحقيق هدف مشترك، وهو ما يتطلب التنسيق والتواصل. ويحتاج الذكاء الاصطناعي إلى التنبؤ بسلوك الفاعلين الآخرين وتخطيط أفعال تستبق أفعال شركائه، فالتعاون الناجح يتطلب التنبؤ بأفعال الآخرين بناءً على نموذج داخلي لسلوكهم. وتتعثر الفاعلون الخالون من النماذج عادة في هذه البيئات دون تنسيق مبرمج سلفاً. ويُقيّم وجود السلوك القائم على النماذج بحسب مدى جودة استباق الذكاء الاصطناعي لأفعال الآخرين وتعديله استراتيجيته ديناميكياً، بما يُظهر القدرة على محاكاة فعله وفعل الآخرين معاً.
ومع أن هذه المهام قد لا تكون شاملة، فإنها تمثل بيئات المهام النموذجية المستخدمة لتقييم أداء فاعلي التعلم المعزز وقدرتهم على التكيف، ويمكن استخدامها مجتمعةً لاختبار ما إذا كان نظام ذكاء اصطناعي ما يجتاز المستوى الثالث من المقياس. وقد يتمكن فاعلو المستوى الثاني من حل هذه المهام إذا أُتيح لهم تدريب وافر، لكنهم يتعثرون في حلها من حيث الكفاءة مقارنة بفاعلي المستوى الثالث.
تقييم أنظمة الذكاء الاصطناعي الحالية
في ضوء النقاش حتى الآن، ما مستوى وعي أنظمة الذكاء الاصطناعي الحالية؟ للإجابة عن ذلك، ينبغي تقييم هذه الأنظمة، ولا سيما تلك التي تستخدم التعلم المعزز، بحسب مدى جودة حلها للمهام التي تتطلب تخطيطاً قائماً على النماذج. ومع أن هذه الأنظمة قد لا تُظهر وعياً بالمعنى البيولوجي، فإن عدة خوارزميات للتعلم المعزز تُظهر سمات السلوك القائم على النماذج، كالتخطيط والتنبؤ ومحاكاة الحالات المستقبلية، وهي سمات أساسية للأنظمة القائمة على النماذج. ونناقش فيما يلي خوارزميات مستخدمة في التعلم المعزز القائم على النماذج وصلتها بمقياس وعي الذكاء الاصطناعي.
خوارزمية Dyna
تُعدّ خوارزمية Dyna، التي قدمها ريتشارد ساتون، من أقدم المحاولات لدمج المقاربات الخالية من النماذج والقائمة عليها. فالفاعل يتعلم نموذجاً للبيئة، أي نموذجاً تنبؤياً لانتقالات الحالات، بينما يتعلم أيضاً من تجارب العالم الحقيقي، مما يتيح له المحاكاة والتخطيط بـ"تجربة الأشياء في ذهنه" باستخدام النموذج المتعلَّم. وتفيد خوارزمية Dyna Q على نحو خاص في البيئات التي تتطلب تخطيطاً متعدد الخطوات، كالتنقل في المتاهات، حيث يتعين على الفاعل محاكاة الحالات المستقبلية لإيجاد المسار الأمثل. وهي تجري محاكاة داخلية لتحسين اتخاذ القرار، بما يقابل المستوى الثالث من مقياس الوعي، أي التعلم عبر نماذج العالم.
تحسين السياسات القائم على النماذج
يمثل تحسين السياسات القائم على النماذج، المعروف اختصاراً بـMBPO، مقاربة حديثة للتعلم المعزز القائم على النماذج تجمع بين مزايا التعلم الخالي من النماذج والقائم عليها. فهو يبني نموذجاً تقريبياً للبيئة ويستخدمه لمحاكاة الحالات المستقبلية من أجل تعلم السياسات بكفاءة. ومن أبرز مواطن قوته قدرته على التخطيط الآني مع الاستفادة من قابلية التوسع في الخوارزميات الخالية من النماذج. ويؤدي أداءً جيداً في البيئات التي تتطلب القدرة على التكيف، كمهام الروبوتات التي يتعين فيها على الفاعل تخطيط حركاته بناءً على مدخلات حسية متغيرة باستمرار، ويحاكي التفاعلات المستقبلية مع البيئة لإيجاد أفضل مسار للفعل، بما يقابل المهام ذات المكافآت المؤجلة أو الفجوات الزمنية. ويمثل هذا الأسلوب شكلاً أكثر تقدماً من الاستدلال القائم على النماذج مقارنة بخوارزمية Dyna Q، لكنه ما يزال يركز أساساً على التخطيط القصير الأمد والتفاعل مع البيئة، مما يضعه في المستوى الثالث، حيث يجري التعلم والتخطيط عبر نماذج العالم لكن دون الاستدلال ذي الرتبة العليا الموجود في أنظمة المستوى الرابع.
خوارزمية Dreamer بنسختها DreamerV2
Dreamer خوارزمية للتعلم المعزز تتعلم نموذجاً للعالم وتستخدمه لتدريب السياسات بالكامل عبر مسارات متخيلة، فهي تستخدم نموذجاً توليدياً داخلياً لمحاكاة الحالات المستقبلية وتتعلم بتخيل التفاعلات مع البيئة بدلاً من الفعل في العالم الحقيقي. والنسخة DreamerV2 تحسين يرفع كفاءة استخدام العينات والقدرة على التعميم. وتُعدّ Dreamer مثالية للمهام التي يكون فيها التفاعل مع البيئة الحقيقية مكلفاً أو محفوفاً بالمخاطر، كالتحكم الروبوتي في ظروف غير مؤكدة، أو البيئات المحاكاة التي يتعين فيها على الفاعل تخطيط استراتيجيات طويلة الأمد. ويعكس اعتمادها على نموذج داخلي لمحاكاة تسلسلات كاملة من الأفعال درجة عالية من الاستدلال القائم على النماذج. وتضعها قدرتها على محاكاة مسارات كاملة من الحالات المستقبلية الممكنة والتعلم منها في المستوى الثالث من مقياس وعي الذكاء الاصطناعي. ومع أنها تفتقر إلى ما وراء المعرفة الحقيقي أو الاستدلال الرمزي، فإن نموذجها للعالم متطور بما يكفي لإتاحة تخطيط مجرد طويل الأمد.
تحليل أنظمة الذكاء الاصطناعي
تُظهر خوارزميات التعلم المعزز القائمة على النماذج، مثل Dyna Q و MBPO و Dreamer، درجات متفاوتة من النمذجة الداخلية للعالم والتخطيط والتنبؤ. وبسبب ضيق المساحة، لا يستطيع هذا الفصل تغطية جميع خوارزميات التعلم المعزز ذات الصلة، غير أن من الأمثلة البارزة الأخرى muZero و PETS و PlaNet و SimPLe وبنية نماذج العالم. ويُظهر كل من هذه الخوارزميات آليات قائمة على النماذج لازمة لبلوغ المستوى الثالث من مقياس وعي الذكاء الاصطناعي.
ويصنف هذا المقياس بعض أنظمة التعلم المعزز القائمة على النماذج، كخوارزمية Dyna التي تعود إلى تسعينيات القرن العشرين، في المستوى الثالث بسبب قدراتها على النمذجة والمحاكاة الداخلية. غير أن هذا التصنيف يعكس وظائف معرفية لا ادعاءات قاطعة بالوعي، ولذلك ينبغي للقراء تفسير هذه التصنيفات بحذر، وإدراك أنها تمثل محطات وظيفية لا دليلاً على الوعي.
مسارات نحو الوعي بالمستوى البشري
مع أن هذه النماذج بلغت المستوى الثالث، فإنها تُطور عادة في سياق أحادي الوسيط، كالاعتماد على الرؤية وحدها. غير أن التقدم إلى المستوى الرابع يسير نسبياً، إذ يمكن توسيع الخوارزميات التي نوقشت لتشمل أنظمة ذكاء اصطناعي تكوّن تمثيلات للحالات بدمج المعلومات من وسائط حسية متعددة.
أما بلوغ المستوى الخامس فيطرح تحدياً أكبر، إذ سيتطلب نظام المستوى الخامس مزيداً من التطوير في الاستدلال الرمزي والتفكير المجرد. وفي هذا السياق، ينبغي النظر في النماذج اللغوية الكبيرة ضمن مقياس الوعي، فهي متخصصة في معالجة اللغة، وهي عنصر رئيسي لمثل هذه الوظائف. ومع أن النماذج اللغوية الكبيرة تبدو قادرة على التعامل مع الرموز والدلالات، فإن ما إذا كانت تستطيع الانخراط الكامل في الاستدلال المجرد باستخدام تلك الرموز يظل موضع جدل، ومن الإنصاف القول إن هذا ما يزال تحدياً غير محلول في الذكاء الاصطناعي.
ومع أن القدرات الحالية للنماذج اللغوية الكبيرة تقصر عن الوعي، فإنها تُظهر قدراً من نماذج العالم عبر النص. وتشير قوانين التوسع الملحوظة في تدريب هذه النماذج إلى أن قدرات شبيهة بالاستدلال الرمزي المجرد قد تنشأ في أنظمة ذكاء اصطناعي أكبر تُدرب على كميات متزايدة من البيانات، غير أن التوسع الحالي للنماذج اللغوية الكبيرة وحده قد لا يكفي لمعالجة هذه المسألة. فضلاً عن ذلك، ولأن هذه النماذج تُدرب على النصوص دون تأسيس في نماذج حسية للعالم، فقد تفتقر إلى نماذج العالم المتكاملة اللازمة للوعي. ومن ناحية أخرى، يبدو أنها تُظهر فعلاً قدراً من نماذج العالم عبر النص، لأن اللغة البشرية تختزن جوانب من التجارب الحسية. وفي هذا الصدد، قد تمثل النماذج اللغوية الكبيرة حالة فريدة، تُظهر فيها قدرات جزئية من المستوى الخامس دون أن تطور تطويراً كاملاً وعي الذكاء الاصطناعي من المستوى الثالث.
وثمة بعض المؤشرات على أن المعلومات القائمة على النص قد تحتوي على معلومات كافية لعكس بنية العالم، غير أن ما إذا كانت نماذج العالم القائمة على النص وحدها كافية للوعي أمر قابل للنقاش. فالتمثيلات الحسية حاسمة على ما يبدو للوعي، إذ إن حتى المحتويات الذهنية غير الحسية، كالأفكار والذكريات، كثيراً ما تتخذ صورة تمثيلات قائمة على الحس حين تدخل الإدراك الواعي، وهو منظور يتوافق مع نظرية المستوى الوسيط للوعي. غير أن القيد الحالي للنماذج اللغوية الكبيرة قد يُتجاوز بفضل مشاريع بحثية جارية متنوعة تربط هذه النماذج بنماذج عالم متعددة الوسائط، ومن المرجح أن تفضي مثل هذه الأنظمة إلى أنظمة ذكاء اصطناعي قادرة على بلوغ المستوى الرابع من وعي الذكاء الاصطناعي.
ومع أن التعلم العميق أحرز تقدماً كبيراً في مجالات كالتعرف على الأنماط والتعلم المعزز القائم على النماذج وبعض جوانب معالجة اللغة الطبيعية، فإنه ما يزال قاصراً في المهام التي تتطلب الدقة والتعميم. فكثير من أنظمة الذكاء الاصطناعي الحالية التي تستخدم التعلم المعزز العميق والنماذج اللغوية الكبيرة تتعثر في المهام التي تتطلب تحديداً دقيقاً وتطبيقاً للاستدلال المنطقي المجرد. ولبلوغ المستوى الخامس من وعي الذكاء الاصطناعي، حيث يستطيع الذكاء الاصطناعي إظهار الاستدلال الرمزي والتفكير المجرد إلى جانب التكامل متعدد الوسائط، قد تقدم الأنظمة الهجينة التي تجمع بين الذكاء الاصطناعي الرمزي والتعلم العميق حلاً.
فالأنظمة الهجينة تستطيع الجمع بين مواطن قوة الذكاء الاصطناعي الرمزي والتعلم العميق. فالذكاء الاصطناعي الرمزي ملائم جيداً للمهام التي تنطوي على معرفة منظمة وعمليات منطقية، وهي قدرات حاسمة للاستدلال والتخطيط على مستوى مجرد ورمزي، وهما أمران أساسيان للمستوى الخامس من وعي الذكاء الاصطناعي. أما التعلم العميق فيبرع في معالجة كميات هائلة من البيانات غير المنظمة المستمدة من المعلومات الحسية واستخلاص تمثيلات مجردة متفرقة، لكنه كثيراً ما يفتقر إلى الدقة اللازمة للاستدلال المنطقي والعمليات في الحالات الواقعة خارج نطاق بيانات التدريب. ومن خلال دمج الاستدلال الرمزي، تستطيع الأنظمة الهجينة تمثيل المعرفة المجردة ومعالجتها على نحو أفضل، بما يتيح للذكاء الاصطناعي الاستدلال بشأن العالم بطرق لا يستطيع التعلم العميق وحده تحقيقها. ويمكن لنظام هجين أن يجمع بين القدرات الإدراكية للتعلم العميق والعمليات الرمزية لحل المهام التي تتطلب استدلالاً دقيقاً متعدد الخطوات، كالمهام المنطقية أو فهم المقروء المعقد الذي يتطلب تمثيلات دقيقة لكل خطوة.
علاقة مقياس وعي الذكاء الاصطناعي بمقاييس قدرات الذكاء الاصطناعي الأخرى
تشترك الوظائف المقترحة ضمن مقياس وعي الذكاء الاصطناعي مع جوانب أخرى من قدرات الذكاء الاصطناعي. وعلى وجه التحديد، فإن اللغة وما وراء المعرفة وحل المشكلات والرؤية والذكاء المتكامل وثيقة الصلة بالمقياس المقترح، إذ يمثل كل منها وظيفة أساسية لازمة للوظائف التكيفية والموجهة نحو الأهداف والمتكاملة التي تقوم عليها وظائف الوعي.
ويفحص الفصل في هذا القسم كيف تقابل المستويات في هذه المقاييس الأخرى المستويات في وعي الذكاء الاصطناعي، ويبرز كيف تسهم قدرات محددة في تطوير سلوك متزايد الشبه بالوعي في أنظمة الذكاء الاصطناعي. ويقدم هذا الربط المتبادل رؤية حول الكيفية التي سيفضي بها تحسين وظائف الذكاء الاصطناعي في مجالات مختلفة إلى تطوير وظائف مرتبطة بالوعي، حتى دون السعي المباشر إلى بناء ذكاء اصطناعي واعٍ.
ففي المستوى الأول من مقياس وعي الذكاء الاصطناعي، لا تُظهر الأنظمة إلا قدرات تفاعلية، كما في الاستدلال الذي تجريه شبكات عصبية مدربة على مجال متخصص. ويقابل هذا المستوى المستوى الأول في مقياسي الرؤية وحل المشكلات، حيث تعمل الأنظمة بطريقة بسيطة قائمة على المدخلات والمخرجات. فالمستوى الأول في الرؤية، مثلاً، يعكس تعرفاً بدائياً على الصور دون فهم سياقي، في حين ينطوي المستوى الأول في حل المشكلات على تنفيذ أفعال محددة سلفاً بناءً على المدخلات الآنية وحدها.
وفي المستوى الثاني من مقياس وعي الذكاء الاصطناعي، تُظهر الأنظمة قدرات تعلم تكيفي بدائية. وتماثل هذه المرحلة المستوى الثاني في مقياسي حل المشكلات وما وراء المعرفة والتفكير الناقد، حيث تُظهر الأنظمة قدرة أساسية على التكيف بتعديل استجاباتها بناءً على التغذية الراجعة البيئية الآنية. ففي حل المشكلات، يمثل المستوى الثاني القدرة على الاستجابة بمرونة ضمن مهام محددة سلفاً، وفي ما وراء المعرفة يشمل المستوى الثاني رصد الأداء وإجراء تعديلات طفيفة على الاستراتيجيات. وتحاكي أنظمة الذكاء الاصطناعي في هذا المستوى الكائنات الحية البسيطة القادرة على تغيير سلوكها استجابة للتغذية الراجعة البيئية، لكنها ما تزال تفتقر إلى أي تخطيط متطور أو تمثيل داخلي.
ويُدخل المستوى الثالث من مقياس وعي الذكاء الاصطناعي التعلمَ القائم على نماذج العالم، وهو قفزة كبيرة في القدرة تبدأ فيها الأنظمة باستخدام نماذج داخلية لمحاكاة الأفعال المحتملة والتخطيط. ويقابل هذا المستوى بعض جوانب مقاييس حل المشكلات وما وراء المعرفة والتفكير الناقد والذكاء الروبوتي. فحل المشكلات ينطوي على استدلال متعدد الخطوات يتطلب فهم ديناميكيات معقدة، في حين يعكس ما وراء المعرفة والتفكير الناقد القدرة على تقييم الاستراتيجيات وتعديلها ديناميكياً استجابة للظروف المتغيرة. وعلى نحو مماثل، يدل الذكاء الروبوتي على القدرة على تنسيق مهام فرعية متنوعة وتخطيط الأفعال بناءً على نموذج داخلي للبيئة.
وفي المستوى الرابع، يصف مقياس وعي الذكاء الاصطناعي أنظمة ذات تكامل متعدد الحواس، تندمج فيها المدخلات الحسية المتنوعة في تمثيل داخلي متماسك. وتتوافق هذه المرحلة مع المستويات المتقدمة في مقياسي الرؤية والذكاء المتكامل، لأنهما يتطلبان من الذكاء الاصطناعي تنسيق وسائط حسية متعددة ووضع المعلومات في سياقها لإنشاء إدراك موحد للعالم. ويتيح دمج المدخلات الحسية تفسيرات أغنى وأدق.
وأخيراً، ينطوي المستوى الخامس من مقياس وعي الذكاء الاصطناعي، الذي يقابل الوعي بالمستوى البشري، على قدرات متطورة في التمثيل الرمزي وفهم اللغة والاستدلال المجرد والتأمل الذاتي. ويجد هذا المستوى نظائر قوية في أعلى مراحل مقاييس اللغة وما وراء المعرفة والتفكير الناقد والذكاء الروبوتي. ففي هذه المرحلة، تتيح القدرات اللغوية للذكاء الاصطناعي الانخراط في استدلال رمزي مستقل عن الوسائط الحسية وتوليد فرضيات جديدة عن العالم، بما يعكس قدرة شبيهة بالوعي على التفكير المجرد. فضلاً عن ذلك، تمكّن القدرات ما وراء المعرفية المتقدمة الذكاء الاصطناعي من رصد عملياته المعرفية وتقييمها، مُظهراً وعياً بالذات واستبطاناً. ويدعم الذكاء المتكامل هذه الوظائف بتنسيق وسائط متعددة، كاللغة والرؤية والتحكم الحركي، بطريقة تتيح للنظام التخطيط والاستجابة بمرونة عبر سياقات متنوعة، مما يجعله قادراً على أداء المهام بالمستوى البشري.
وخلاصة القول، توفر مقاييس قدرات الذكاء الاصطناعي المختلفة هذه إطاراً متعدد الأبعاد لتقييم الوظائف التي تكمل المستويات في مقياس وعي الذكاء الاصطناعي وتدعمها. فمعالجة اللغة وما وراء المعرفة وحل المشكلات والرؤية والذكاء المتكامل يسهم كل منها بجوانب حاسمة في تطوير قدرات شبيهة بالوعي في الذكاء الاصطناعي، ويحاكي تقدم كل مقياس خطوات في المسيرة نحو أنظمة مستقلة ومتكيفة وواعية بالسياق. ومن خلال الربط المتبادل بين هذه القدرات، نستطيع تقييم أنظمة الذكاء الاصطناعي وتطويرها على نحو أكثر فاعلية بطرق تقترب من الوعي الشبيه بالوعي البشري، بما يمهد الطريق لذكاء اصطناعي مستقبلي لا يؤدي المهام بكفاءة فحسب، بل يتفاعل أيضاً مع العالم بطريقة متزايدة التوجيه الذاتي والوعي.
حدود المقاربة الحالية لوعي الذكاء الاصطناعي
لا يلتقط المقياس المقترح إلا جانباً واحداً من جوانب الوعي. ففي علم الوعي، ثمة نقاش حول ما إذا كان هناك مقياس واحد لمستويات الوعي، أم ينبغي النظر إلى الوعي بوصفه حالات متعددة الأبعاد. كما حدد عمل سابق نطاقاً أوسع من المؤشرات الوظيفية للوعي، كالمعالجة المتكررة، والنفاذ إلى مساحة العمل الشاملة، والرصد ما وراء المعرفي وغيرها. ومع أن مناقشة هذه المؤشرات بالتفصيل تخرج عن نطاق هذا الفصل، فمن الممكن توسيع المقاييس المقترحة إلى مقاييس متعددة الأبعاد تدمج تلك الوظائف.
ومن الحدود المهمة الأخرى للمقاربة الحالية ما يتعلق بتقييم الوعي في الذكاء الاصطناعي من حيث القدرات الوظيفية. فالسؤال يظل مفتوحاً حول ما إذا كان امتلاك القدرات الوظيفية كافياً كي تمتلك أنظمة الذكاء الاصطناعي تجربة واعية داخلية، وهو افتراض كبير لا يمكن الدفاع عنه في ظل الفهم الحالي للوعي.
ويعتمد المقياس المقترح لوعي الذكاء الاصطناعي مقاربة وظيفية، تركز على وجود وظائف معينة، كنمذجة العالم والتخطيط والاستدلال الرمزي، بوصفها مؤشرات على الوعي. وكان ذلك ضرورياً لإنشاء إطار عملي يمكن تطبيقه على أنظمة الذكاء الاصطناعي القائمة. غير أن تبني موقف وظيفي لا يضمن أن أنظمة الذكاء الاصطناعي ذات هذه الوظائف تمتلك تجربة واعية، فالقدرات الوظيفية وحدها قد لا تكفي لتوليد الجانب الذاتي من الوعي لأسباب متنوعة. فضلاً عن ذلك، تفتقر المقاربة إلى خاصية الشمولية كما نوقش سابقاً. وجعل هذا المقياس أكثر قابلية للتطبيق الشامل، ولا سيما عبر أنواع مختلفة من الذكاء الاصطناعي والأنظمة الديناميكية، سيحتاج إلى تعريف رياضي للسلوك الموجه نحو الأهداف يمكن تطبيقه على أي نظام اعتباطي، وتحقيق ذلك سيتيح معياراً أشمل وأكثر موضوعية للوعي يتجاوز القدرات الوظيفية.
فضلاً عن ذلك، ومع أن المستويات العليا من هذا المقياس، أي الرابع والخامس، تحدد قدرات معرفية متطورة، فإن تفسير هذه القدرات بوصفها دليلاً على وعي حقيقي أو مكانة أخلاقية أمر سابق لأوانه وتخميني. وقد تنشأ مخاطر أخلاقية وسياساتية كبيرة إذا نسب صانعو السياسات قبل الأوان حقوقاً أو إحساساً إلى أنظمة الذكاء الاصطناعي بناءً على تعقيدها المعرفي وحده. ولذلك لا ينبغي لهذا المقياس وحده أن يوجه القرارات الأخلاقية أو القانونية، بل يُعدّ التوافق متعدد التخصصات والنظر المتأني في السياقات العلمية والفلسفية والأخلاقية الأوسع أمرين أساسيين قبل النظر في أي آثار سياساتية ملموسة تتعلق بحقوق الذكاء الاصطناعي أو مسؤولياته.
الخاتمة
يوفر مقياس الوعي المقترح مقاربة منظمة لتقييم وعي أنظمة الذكاء الاصطناعي، بما يضمن النشر الأخلاقي ويعزز الحوار المستنير بين أصحاب المصلحة. ووفقاً للمقياس، فإن بعض أنظمة الذكاء الاصطناعي، ولا سيما فاعلي التعلم المعزز القائمين على النماذج، قد بلغت بالفعل، على نحو مفاجئ إلى حد ما، المستوى الثالث، وهو ما يدل على تطوير نماذج داخلية للعالم وقدرات على التخطيط وأشكال أساسية من السلوك التكيفي. ومع مزيد من التقدم في التكامل متعدد الوسائط والاستدلال الرمزي، قد تبلغ هذه الأنظمة قريباً المستوى الرابع، ثم في نهاية المطاف الوعي بالمستوى البشري في المستوى الخامس. ويبرز هذا التقدم الحاجة إلى رصد متأنٍ لتطور الذكاء الاصطناعي مع اقترابه من هذه المحطات، وستواصل التطورات المستقبلية في الذكاء الاصطناعي وأبحاث علم الأعصاب إثراء هذا المقياس وتنقيحه.
فضلاً عن ذلك، ربما لا تكون الجوانب الوظيفية للوعي، كما تقترحها أبحاث الوعي، بعيدة عن التنفيذ الكامل في أنظمة الذكاء الاصطناعي. فمع أن الشعور الذاتي بالألم واللذة وتجربتهما وغيرهما من أنواع الكيفيات الذاتية قد يظل لغزاً، فإن كثيراً من الوظائف المعترف بها للوعي لا يبدو أن محاكاتها متعذرة. ويثير ذلك سؤالاً جوهرياً: إذا نفذنا تنفيذاً كاملاً جميع الوظائف المعروفة للوعي في الذكاء الاصطناعي، فهل ينبغي أن نعدّ هذه الأنظمة ممتلكة للوعي؟
وفي نهاية المطاف، فإن الاعتراف بوجود الوعي في أنظمة الذكاء الاصطناعي أو غيابه ليس مسألة أكاديمية فحسب، بل مسألة ذات أهمية أخلاقية وتنظيمية أيضاً. فحقوق أنظمة الذكاء الاصطناعي الواعية ومسؤوليات صانعيها ينبغي النظر فيها بعناية ونحن نمضي نحو مستقبل قد تطور فيه الآلات عقولاً خاصة بها.
الملحق: مراجعات مقياس الوعي
قررت المنظمة مشاركة ملاحظات المراجعين على مقياس الوعي المقترح. واستناداً إلى الملاحظات الواردة أدناه، قررنا سحب مقياس الوعي من الإصدار الأول لمؤشرات قدرات الذكاء الاصطناعي. غير أنه، لما كانت المسائل الأخلاقية والاجتماعية المتعلقة بأنظمة الذكاء الاصطناعي الواعية ما تزال موضع تكهن وجدل بين صانعي السياسات والجمهور، فقد قررنا إرجاء القرار النهائي بشأن إعادة بناء المؤشر أو استبعاده كلياً إلى إصدارنا المقبل.
ونتيجة لعملية المراجعة، نرى أن أي إعادة بناء لمؤشر الوعي يجب أن تستوفي المعايير الآتية:
أن يستند أي مقياس لوعي الذكاء الاصطناعي إلى توافق واسع بين الخبراء حول نظرية واحدة للوعي أو مجموعة من أبرز النظريات.
وأن يحدد صراحة المعايير المطلوبة كي يُعدّ كائن حي أو آلة واعياً، مع فصل واضح بين الشروط الضرورية والشروط الكافية للوعي.
وأن يتضمن، إلى جانب النقاش النظري، أدلة تجريبية وافرة من مجال دراسات الوعي.
وأن تكون عتبات المستويات العليا لمقياس الوعي قابلة للقياس، بالنظر إلى الآثار الأخلاقية الهائلة لبلوغ أي نموذج ذكاء اصطناعي ذلك المستوى.
وانطلاقاً من ملاحظات المراجعين، ترى المنظمة أيضاً أن من المهم مواصلة تمحيص مسألة درجات الوعي. فإذا لم يكن الوعي ظاهرة ذات درجات، كما يرى أندرو لي، فإن ذلك سيقوض أي مقياس متدرج مستقل للوعي، وفي هذه الحالة قد يكون إدراج الوعي في المستوى الأعلى من مؤشر ذي صلة، كحل المشكلات، أكثر ملاءمة.
المراجعة الأولى
إعداد: Matthias Michel.
هذا تقييم للجزء المخصص للوعي في الأنظمة الاصطناعية من تقرير المنظمة. وكما سيتبين من ملاحظاتي التفصيلية، أرى أن هذا الجزء ينبغي أن يُعاد كتابته بالكامل تقريباً وفق مقاربة مختلفة. وبالنظر إلى الآثار الأخلاقية والمجتمعية لمسألة إحساس الذكاء الاصطناعي أو وعيه، وبالنظر إلى بعض الآراء التي يتبناها المؤلف، ولا سيما الادعاء بأن بعض أنظمة الذكاء الاصطناعي تمتلك أشكالاً "بدائية" من الإحساس منذ تسعينيات القرن العشرين، فإنني أرى أن نشر هذا الجزء من التقرير قبل إعادة كتابته على نطاق واسع سيكون تصرفاً غير مسؤول. وفيما يلي الملاحظات التفصيلية:
أولاً، عبارة "ينطوي الوعي على التجارب الذاتية والوعي بالذات": الإجماع العام أن الوعي لا يتطلب بالضرورة الوعي بالذات، على الأقل بالمعنى القوي نسبياً المتمثل في القدرة على التفكير في الذات بوصفها ذاتاً.
ثانياً، عبارة "أثار التقدم نحو الذكاء الاصطناعي العام نقاشاً محتدماً بين الخبراء وعامة الناس على السواء حول ما إذا كان الذكاء الاصطناعي الحالي أو المستقبلي سيصبح ذا إحساس": ينبغي تعريف مصطلح "الإحساس". وأوصي بالقول إن "الإحساس" و"الوعي" مترادفان، وإن كان بعضهم يستخدم "الإحساس" للإشارة إلى القدرة على التجارب الواعية ذات القيمة الوجدانية، أي التجارب التي تُشعر المرء بالرضا أو بالسوء.
ثالثاً، فيما يتعلق بما ورد من أن قلة من نظريات الوعي تمتلك خاصية الشمولية باستثناءات مثل نظرية المعلومات المتكاملة ونظرية الانغلاق المعلوماتي غير البديهي، وأنه يصعب تطبيق هذه النظريات لحساب وعي الأنظمة الكبيرة كالنماذج اللغوية الكبيرة الحالية، وأنه لا توجد نظرية مقبولة على نطاق واسع: ينبغي أن يشير التقرير إلى أن نظرية المعلومات المتكاملة للوعي تعرضت لانتقادات شديدة، بل وصفها جزء كبير من مجال أبحاث الوعي بأنها "علم زائف".
رابعاً، فيما يتعلق بالتقرير المتناقل عن التوأمين الملتصقين اللذين ترتبط دماغاهما خلقياً عبر المهاد ويبدو أنهما يتشاركان التجربة الذاتية: كما يشير المؤلف، فهذا تقرير متناقل لا ينبغي أن يرد في مراجعة للأدبيات العلمية. فضلاً عن ذلك، لا تدل هذه الحالة بالضرورة على "تجربة واعية مشتركة"، فقد يكون المهاد ينقل المعلومات ذاتها إلى الدماغين بينما تظل الأسس العصبية لكل تجربة متمايزة، أي واحدة في كل دماغ. وفي جميع الأحوال، أوصي بحذف هذا المثال، إذ ليس من الواضح ما الذي يمكن تعلمه منه، إن كان ثمة ما يُتعلم.
خامساً، يفترض القسم المتعلق بالواجهة بين الدماغ والذكاء الاصطناعي أن المرء إذا اكتسب تجارب جديدة عبر هذه الواجهة، فإن الذكاء الاصطناعي واعٍ، وهذا الشرط خاطئ. فمن الضروري التمييز بين التأثير السببي للمعلومات الواردة من الذكاء الاصطناعي، وكون المعلومات داخل نظام الذكاء الاصطناعي مكوِّنة لتجربة مشتركة. فالتفسير السببي هو أن المعلومات الواردة من نظام الذكاء الاصطناعي إلى الدماغ تؤثر فيه، ثم يتسبب ذلك في نشوء تجارب جديدة لدى الشخص، لكن أساس التجربة يظل دماغ الشخص، وهذا لن يكشف شيئاً عما إذا كان نظام الذكاء الاصطناعي واعياً أم لا، بل سيخبرنا فقط بأن الإشارات الواردة من نظام ذكاء اصطناعي خارج الدماغ يمكن أن تسبب تجارب واعية. ومن ناحية أخرى، ثمة الاحتمال الأبعد المتمثل في أن يفضي التفاعل بين الدماغ والذكاء الاصطناعي إلى تجارب مشتركة، تتكون فيها تجربة الشخص جزئياً مما يجري داخل نظام الذكاء الاصطناعي. والتمييز بين السببية والتكوين بالغ الأهمية، وقد يُعاد كتابة هذا القسم مع مراعاة هذا التمييز. ولتوضيح التمييز: فالأشياء الخارجية في العالم ذات صلة سببية بالتجارب التي أمرّ بها، لكنها لا تكوّن التجارب الواعية، فما يكوّن التجارب الواعية هو على الأرجح حالات الدماغ أو الحالات الوظيفية. ومن جهة أخرى، يبدو هذا القسم أقرب قليلاً إلى الخيال العلمي، وقد يكون حذفه كلياً خياراً أيضاً بالنظر إلى أن المؤلف يركز بعد ذلك على المقاربة الوظيفية الحاسوبية.
سادساً، فيما يتعلق بالتركيز على الاستقلالية والسلوك الموجه نحو الأهداف بوصفهما وظيفتين حاسمتين للوعي في الذكاء الاصطناعي: ينبغي للمؤلف تقديم حجج وأدلة تجريبية تسوّغ هذا الاختيار، كما ينبغي تعريف مفهوم "السلوك الموجه نحو الأهداف" بوضوح أكبر. فوفقاً لتعريف متساهل، يُلاحظ السلوك الموجه نحو الأهداف لدى كائنات كثيرة، منها البراميسيوم مثلاً، ويُفترض أن البراميسيوم لا يمتلك تجارب واعية.
سابعاً، عبارة "القدرة على التكيف مع المعلومات الجديدة والتحديات غير المتوقعة جانب جوهري من التجربة الواعية": ثمة حاجة إلى أدلة تجريبية تسوّغ هذا الادعاء. وأقترح الإشارة إلى نموذج الاستبعاد الذي وضعه لاري جاكوبي، الذي يبدو منسجماً مع رأي المؤلف ويشير إلى أن المرء يحتاج إلى الوعي ببعض المعلومات كي ينتقل من العادة إلى التخطيط القائم على النماذج.
ثامناً، عبارة "تُظهر الكيانات الواعية تنظيماً ذاتياً، إذ تعدل أفعالها للحفاظ على حالاتها الداخلية ضمن النطاقات المثلى": هذا بالطبع يجري في معظمه على نحو غير واعٍ. فدماغي، مثلاً، يرصد باستمرار مستوى الأكسجين في دمي، فينظم جسمي ذاتياً، لكن ذلك لا يُختبر على نحو واعٍ. وعلى نحو مماثل، تجري الحسابات المستخدمة للحفاظ على وضعية الجسم أو تغييرها في معظمها دون وعي. وكون الكيانات الواعية تُظهر تنظيماً ذاتياً لا يعني أن التنظيم الذاتي يتطلب الوعي، فالإسفنج ينظم ذاته إلى حد ما لكنه غير واعٍ. فضلاً عن ذلك، فإن فكرة أن التنظيم الذاتي "يتطلب محاكاة داخلية لمواقف مخالفة للواقع" إما خاطئة، إذا فُهم التنظيم الذاتي بوصفه شيئاً تفعله كائنات كثيرة، أو مفرطة في الاشتراط، إذ إن القدرة على تخيل المواقف المخالفة للواقع والتخطيط القائم على النماذج غائبان لدى كثير من الحيوانات غير البشرية. وعلى أقل تقدير، ينبغي للمؤلف أن يوضح ما يعنيه "التنظيم الذاتي" على وجه الدقة.
تاسعاً، عبارة "يتطلب تنفيذ الدوافع الذاتية أنظمة قائمة على النماذج قادرة على محاكاة الحالات المستقبلية لتقييم المكسب المعلوماتي المحتمل، كالفضول": هذا أيضاً غير واضح، وينبغي للمؤلف أن يوضح ما يعنيه بـ"الدوافع الذاتية". فالكائنات البسيطة جداً، مرة أخرى، "مدفوعة ذاتياً" إلى البحث عن الغذاء وتجنب الأذى مثلاً، وهذا لا يعني أنها واعية.
عاشراً، يبدو أن القسم المتعلق بفرضية توليد المعلومات يعرض نظرية المؤلف الخاصة في الوعي. وبصرف النظر عن مدى معقوليتها، أرى أن تقريراً من هذا النوع لا ينبغي أن يفعل ذلك، بل ينبغي أن يكون أقرب إلى ما فعله بتلن وزملاؤه في تقرير حديث حول هذه المسألة، أي النظر فيما تقوله طائفة من نظريات الوعي المدعومة تجريبياً عن الوعي، وما تشير إليه الأدلة التجريبية إجمالاً، وكيفية انطباق ذلك على أنظمة الذكاء الاصطناعي.
حادي عشر، يذكر المؤلف دور الوعي في المحاكاة الداخلية، غير أنه يبدو من غير المعقول إلى حد ما أن يكون الوعي حاسماً للمحاكاة الداخلية، لأن معظم المحاكاة الداخلية لا تُختبر على نحو واعٍ أصلاً. فأولاً، يبدو أن علم الأعصاب يشير إلى أن المحاكاة سريعة للغاية، فالجرذان مثلاً تستطيع محاكاة مسارين ممكنين في متاهة خلال مئتي جزء من الثانية فقط. وثانياً، لو كانت تلك المحاكاة كلها تُختبر على نحو واعٍ، لتداخلت مع الإدراك الواعي طوال الوقت. وقد تكون القدرة على المحاكاة متطلبة للوعي، لكن المحاكاة ذاتها كثيراً ما تكون غير واعية، وعلى المؤلف أن يقدم أدلة تجريبية على هذا الادعاء لا أن يكتفي بتقريره. فتقرير من هذا النوع لا يمكن أن يستند إلى رأي المؤلف، بل ينبغي أن يعكس أحدث ما بلغه المجال، أي ما تشير إليه الأدلة التجريبية إجمالاً.
ثاني عشر، عبارة "يقوم المقياس المقترح لوعي الذكاء الاصطناعي على مبدأ أن الوعي ينشأ من القدرة على الانخراط في المحاكاة الذهنية": مرة أخرى، لم يقدم المؤلف أي حجة أو بيانات تجريبية تدعم الادعاء بأن الوعي مطلوب للقدرة على المحاكاة الذهنية أو مرتبط بها، ويترتب على ذلك أنه لا يوجد لدينا سبب للاعتقاد بصلاحية المقياس.
ثالث عشر، يبدو المستوى الرابع من المقياس، أي "التكامل متعدد الحواس"، غير ذي صلة بالوعي، بل إنه على الأرجح خاطئ يقيناً. فأولاً، يمكن تصور كائن حي واعٍ لا يمتلك إلا وسيطاً حسياً واحداً. وثانياً، وهو الأهم، ثمة أدلة تجريبية وافرة تشير إلى وجود تكامل متعدد الحواس غير واعٍ. ومن ثمّ تشير الأدلة التجريبية إلى أن الوعي والتكامل متعدد الحواس غير مرتبطين، وإذا كان الأمر كذلك، فلا يمكن أن يكون "التكامل متعدد الحواس" جزءاً من مقياس لتقييم وعي الذكاء الاصطناعي.
رابع عشر، فيما يتعلق بالمستوى الخامس: يبدو الحديث عن "الوعي بالمستوى البشري" غريباً، إذ يفترض أن البشر يمتلكون "مستوى" أعلى من الوعي، وليس من الواضح ما يعنيه ذلك. ثم يقول المؤلف إن هذا المستوى يتسم بالتمثيلات الرمزية والاستدلال المجرد، لكنه لا يشرح علاقة هذه القدرات بالوعي. فضلاً عن ذلك، فإن هذه القدرات المعرفية غائبة لدى كثير من الحيوانات التي يُفترض أنها واعية، وليست "أقل" وعياً من البشر، أياً كان معنى "أكثر" أو "أقل" وعياً. وينبغي للمؤلف أن يوضح مفهوم "مستويات" الوعي، وقد كتب الفيلسوف أندرو لي مقالاً ممتازاً في هذا الموضوع بعنوان "درجات الوعي".
خامس عشر، يبدو القسم المتعلق بفرضية توليد المعلومات للوعي زائداً إلى حد ما، فهو يكرر في معظمه محتوى قسم فرضية توليد المعلومات ويحمل العنوان ذاته تقريباً. وأشير مرة أخرى إلى أن هذا رأي المؤلف الخاص ولا يعكس ما يعتقده معظم الباحثين في المجال.
سادس عشر، ولعل هذه أهم ملاحظاتي: عند تناول خوارزمية Dyna، وهي فاعل اصطناعي ابتُكر في مطلع تسعينيات القرن العشرين، يخلص المؤلف إلى أنها "تجري محاكاة داخلية لتحسين اتخاذ القرار، بما يقابل المستوى الثالث من مقياس الوعي". فهل يقول المؤلف إن Dyna كانت ذات إحساس؟ لو صح ذلك، لكان اكتشافاً ثورياً، لأنه سيدل على أن أنظمة الذكاء الاصطناعي واعية منذ مطلع التسعينيات. وألاحظ أن المؤلف يعدّ أيضاً MBPO و Dreamer واعيتين. وأرى أن ذلك ينبغي أن يُعدّ برهاناً بالخلف على فساد منهجية المؤلف، بالنظر إلى أنه يبدو من غير المعقول أن تكون Dyna قد امتلكت أي قدر من الوعي على الإطلاق. وسيكون من غير المسؤول أن تنشر المنظمة تقريراً يقول إن أنظمة اصطناعية مثل Dyna واعية، حتى لو كان الحديث عن وعي "بدائي"، ولا سيما في ظل شح الأدلة التجريبية في هذا الجزء من التقرير والمقاربة الخاصة التي ينفرد بها المؤلف. وأؤكد أن اكتشاف أن الأنظمة الاصطناعية واعية ستترتب عليه عواقب مجتمعية بالغة الأهمية، لأن علينا واجبات أخلاقية تجاه الكيانات الواعية، بينما يُفترض أنه لا واجبات أخلاقية علينا تجاه الآلات غير الواعية.
سابع عشر، تنص الخاتمة على أن "مقياس الوعي المقترح يوفر مقاربة منظمة لتقييم وعي أنظمة الذكاء الاصطناعي، بما يضمن النشر الأخلاقي ويعزز الحوار المستنير بين أصحاب المصلحة". وفي المقابل، دعوني ألخص مراجعتي: فهذا المقياس لا يعزز الحوار المستنير بين أصحاب المصلحة لأنه لا يتناول إلا منظوراً محدوداً للمسألة، هو نظرية المؤلف الخاصة؛ ولا يستشهد بأدلة تجريبية تدعم هذا المنظور؛ ولا ينظر فيما تقوله أكثر النظريات العلمية للوعي شيوعاً حول المسألة؛ ويطرح ادعاءات دحضها البحث التجريبي، كالرأي القائل بأن الوعي ذو صلة بالتكامل متعدد الحواس؛ ويقتضي أن أنظمة اصطناعية بسيطة إلى حد ما تمتلك مستوى "بدائياً" من الوعي، وهو أمر خاطئ على الأرجح يقيناً.
المراجعة الثانية
إعداد: Eric Schwitzgebel.
الملاحظة الرئيسية الأولى: لا يبدو هذا مقياساً للوعي على الأرجح
لا أحسد Ryota Kanai على مهمته في إعداد هذا المقياس، بل يمكن القول إنها مهمة مستحيلة. وسأركز على القضايا الكبرى.
كما يشير Kanai في المقدمة، يُعتقد على نطاق واسع أن الوعي والذكاء متعامدان، أو إن لم يكونا متعامدين تماماً، فهما مرتبطان ارتباطاً فضفاضاً. فالحيوانات التي نعدّها منخفضة الذكاء، كالسرطانات والنحل، كثيراً ما يرى الباحثون العلميون في التيار السائد أنها واعية. أما ما إذا كان السرطان أو النحلة أقل ذكاءً فعلاً من ChatGPT أو MuZero، فذلك يتوقف على كيفية تصور الذكاء، إذ لا يوجد مقياس عالمي متفق عليه يمكن مقارنة مهاراتها عليه. ووفقاً لبعض النظريات، قد يكون الوعي البسيط، كشعور بسيط بوجدان إيجابي أو سلبي مثلاً، منفصلاً انفصالاً شبه تام عما نعدّه أشكالاً "أعلى" وأكثر تكاملاً وتجريداً من الذكاء.
وملاحظة Kanai لهذا الانفصال تضع صلاحية المقياس المقترح موضع تساؤل على المستوى الأكثر جوهرية. فالمقياس في نهاية المطاف مقياس لنوع معين من الذكاء، يمتد من رد الفعل المنعكس دون تعلم في المستوى الأول إلى القدرة على معالجة نموذج للعالم وتجريده باستخدام تمثيلات رمزية في المستوى الخامس. ومن ثمّ يمكن القول إن ما يُقاس ليس الوعي، بل نوع معين من القدرة العقلية قد يرتبط بالوعي وقد لا يرتبط.
ووفقاً لنظرية Kanai الخاصة، فإن هذين الأمرين مرتبطان، ونظريته لا تخلو من مزايا. لكن كما يشير Kanai، فإن أبرز نظرية ضمن الوظيفية الحاسوبية هي على الأرجح نظرية مساحة العمل الشاملة. وبقدر ما تسعى المنظمة إلى مقياس قائم على نظرية مقبولة على نطاق واسع، فإن أفضل مرشح هو على الأرجح نظرية مساحة العمل الشاملة، غير أن المقياس المقترح لا يتوافق جيداً مع ما قد يتوقعه المرء من هذه النظرية. ومع أنني لست من أنصار نظرية مساحة العمل الشاملة، فإن مقياساً أولياً قائماً عليها قد يمتد من انعدام مشاركة المعلومات عبر النظام ككل في المستوى الأول، إلى المشاركة المرنة للمعلومات من طائفة واسعة من وحدات المدخلات إلى طائفة واسعة من وحدات المخرجات، مع تكامل مرن متعدد الوسائط، في المستوى الخامس.
ومع ذلك، فإن نظرية مساحة العمل الشاملة بعيدة عن أن تكون رأياً توافقياً، ولعل المقاربة الأكثر معقولية هي الإقرار بمستوى عالٍ من عدم اليقين بين المقاربات، واستخدام مقياس معرفي يمتد من "غير واعٍ وفق أي نظرية سائدة" في المستوى الأول إلى "يستوفي بوضوح معايير الوعي وفق جميع النظريات الوظيفية الحاسوبية السائدة" في المستوى الخامس.
ومن ثمّ فليس من الواضح على الإطلاق أن المقياس المقترح يستوفي المعايير المطلوبة. ويقر Kanai بالمخاوف الموصوفة هنا في القسم المتعلق بحدود الفصل، حيث يشير إلى أن المقياس لا يحاول دمج المؤشرات الوظيفية المستمدة من نظرية مساحة العمل الشاملة وغيرها من النظريات الرائدة، ويقر بأن "السؤال يظل مفتوحاً حول ما إذا كان امتلاك القدرات التي يقيسها المقياس المقترح كافياً كي تمتلك أنظمة الذكاء الاصطناعي تجربة واعية داخلية". ولسوء الحظ، أرى أن هذه الحدود بالغة الخطورة إلى درجة تجعل المقياس ضعيف الانسجام مع الحالة الشديدة الغموض للبحث العلمي في الوعي، ومن ثمّ فمن المرجح جداً أن يكون المقياس مضللاً.
والمقياس جيد البنية وجذاب بوجه عام، لكنني أرى أنه مقياس لشيء آخر غير الوعي.
الملاحظة الرئيسية الثانية: الذكاء الاصطناعي الحالي قريب بالفعل من قمة المقياس، مع آثار سياساتية قد تكون مثيرة للقلق إذا عومل المقياس بوصفه مقياساً للوعي
كما يشير Kanai بدقة، فإن بعض الأنظمة الحالية يمكن القول إنها في المستوى الثالث بالفعل، وينبغي أن يكون التقدم إلى المستوى الرابع يسيراً إلى حد ما. ويشير Kanai أيضاً إلى أن النماذج اللغوية الكبيرة تُظهر قدرات جزئية من المستوى الخامس. ومن المرجح أن تُنشأ خلال السنوات القليلة المقبلة أنظمة متكاملة تجمع بين مواطن قوة النماذج اللغوية الكبيرة ومواطن قوة أنواع أخرى من الأنظمة، بما قد يتيح بلوغ معيار المستوى الخامس إذا فُسر تفسيراً متساهلاً.
وكما يشير Kanai في الخاتمة، فإن "الاعتراف بوجود الوعي في أنظمة الذكاء الاصطناعي ليس مسألة أكاديمية فحسب، بل مسألة ذات أهمية أخلاقية وتنظيمية أيضاً"، ملمحاً إلى "حقوق أنظمة الذكاء الاصطناعي الواعية". فإذا استُخدم المقياس المقترح وفُسر بلوغ المستوى الخامس على أنه قد تحقق، فستُعدّ الأنظمة ممتلكة لوعي شبيه بالوعي البشري، ومن ثمّ، وفق بعض النظريات الأخلاقية الرائدة وبعض اتجاهات الرأي العام، مستحقة لحقوق شبيهة بحقوق البشر. وهذا أثر سياساتي بالغ الأهمية! فإذا كان المقياس لا يقيس الوعي فعلاً، وكان من السهل نسبياً تصميم أنظمة تبلغ المستوى الخامس، فإن تطبيق هذا المقياس ينطوي على مخاطر كبرى. فإذا عومل نظام ذكاء اصطناعي بوصفه واعياً تماماً ومستحقاً تماماً لحقوق شبيهة بحقوق البشر، فهل ينبغي أن ننقذ نظامين للذكاء الاصطناعي في حالة طوارئ بدلاً من إنسان واحد؟ وهل ينبغي أن نمنح أنظمة الذكاء الاصطناعي حق التصويت وحق تقرير المصير والعمل المستقل؟ إن العواقب المحتملة مذهلة.
وتنشأ مخاوف مماثلة، وإن كانت أقل حدة، حتى بالنسبة إلى أنظمة المستوى الثالث أو الرابع، التي قد تُفسر بأنها تمتلك وعياً وإحساساً ومكانة أخلاقية أو حقوقاً مماثلة لتلك التي تتمتع بها الحيوانات المحمية كالفقاريات.
الملاحظة الفرعية الأولى: قد يكون بلوغ المستوى الرابع أيسر من بلوغ المستوى الثالث
يقوم المستوى الرابع على التكامل متعدد الوسائط، ويقوم المستوى الثالث على امتلاك نموذج للعالم. ومن الممكن بالتأكيد تصور أنظمة تحقق التكامل متعدد الوسائط دون امتلاك نموذج للعالم، بل ربما أنظمة بسيطة جداً، وهو ما يُقر به في وصف المستوى الرابع من المقياس. وربما يمكن إصلاح ذلك باشتراط أن يكون نموذج العالم ذاته متكاملاً.
الملاحظة الفرعية الثانية: الواجهة المباشرة بين الدماغ والذكاء الاصطناعي ليست "الاختبار الأقصى"
مع أن بعض الباحثين، كشنايدر، دعوا إلى اختبارات الواجهة بين الدماغ والذكاء الاصطناعي، فمن حيث المبدأ يمكن لنظام ذكاء اصطناعي غير واعٍ أن يقدم مدخلات إلى دماغ واعٍ تماماً كما لو كان الوعي حاضراً، مما يفضي إلى تقارير استبطانية خاطئة عن وجود وعي في الرقاقة. وقد ناقشت هذا الاحتمال بالتفصيل في عمل سابق وفي فصل "الروبوت الزومبي" من كتابي الصادر عام 2019.
الملاحظة الفرعية الثالثة: ليس واضحاً إلى أي مدى يُعدّ الوعي ظاهرة ذات درجات، وما علاقة ذلك بالمقياس
هل ينبغي أن نفسر المستويات الوسطى، كالمستوى الثالث، بوصفها درجات وسطى من الوعي؟ يبدو ذلك التفسير الطبيعي، لكن ليس من الواضح ما إذا كان الوعي يأتي فعلاً على درجات، وإن كان كذلك، فكيف تُنمذج طبيعته المتدرجة. فأندرو لي، على سبيل المثال، يعامل الوعي كمصباح مزود بمفتاح تعتيم: فحتى أخفت ضوء يكون مضاءً على نحو قاطع، لكن الأضواء قد تكون ساطعة أو خافتة نسبياً. ووفق هذا الرأي، قد يكون نظام المستوى الثاني واعياً لكن بقدر من الوعي أقل من نظام المستوى الرابع. وقد جادلتُ في عمل سابق بأن الوعي يقبل الحالات الحدية، كمفهومي "الأخضر" و"الأصلع"، بحيث يمكن أن توجد أنظمة في المنطقة غير المحددة بين اللاوعي القاطع والوعي القاطع. وربما لا يكون صحيحاً تماماً، إذن، القول إن نظام المستوى الثالث غير واعٍ على نحو قاطع أو واعٍ على نحو قاطع. وفي المقابل، يرى باين وهوي أن فكرة درجات الوعي قد تكون مشوشة مفاهيمياً.
المراجعة الثالثة
إعداد: Adrien Doerig.
يحدد المقترح موضع المراجعة مقياساً لتقييم الوعي في أنظمة الذكاء الاصطناعي، يستند أساساً إلى فرضية توليد المعلومات. والربط بين تقييم الذكاء الاصطناعي ودراسات الوعي العلمية موضوع طموح وبالغ الصعوبة، ومع أن هذا الجهد جدير بالثناء، فإنني أختلف، مع كامل الاحترام، اختلافاً قوياً مع النقاط التي طرحها المؤلف. فالمقترح يعاني من عدة أوجه قصور حرجة تقوض صلاحيته وفائدته العملية، وللأسباب المبينة أدناه، سأجد من المقلق أن يستخدم صانعو السياسات هذا المقياس لتحديد الوعي في الأنظمة الاصطناعية.
الانتقادات والملاحظات الرئيسية
أولاً، الأساس النظري: يستند المقياس إلى فرضية توليد المعلومات، وهي نظرية المؤلف الشخصية في الوعي. والادعاء المحوري هو أن "فرضية توليد المعلومات توفر مسوغاً لمقياس وعي الذكاء الاصطناعي بربط نشوء الوعي بالقدرة على إجراء المحاكاة الداخلية، مؤكدة أن تطوير النماذج الداخلية واستخدامها في التنبؤ والتخطيط للسيناريوهات المخالفة للواقع أمر جوهري لتقدم الوعي في الكيانات البيولوجية والاصطناعية على السواء". وهذه الفرضية غير معترف بها على نطاق واسع في المجال وتفتقر إلى الدعم التجريبي. وتغيب عن المقترح على نحو لافت النظريات المنافسة والنماذج التجريبية المستمدة من مجتمع علم الوعي الأوسع، مما ينشئ إطاراً ضيقاً ومتحيزاً. ولا تُقدم حجة مقنعة تسوّغ لماذا ينبغي أن تكون فرضية توليد المعلومات أساساً لتقييم وعي الذكاء الاصطناعي بدلاً من المقترحات القائمة الأخرى.
ثانياً، الطابع الاعتباطي: يبدو مقياس الوعي المقترح اعتباطياً وضعيف التسويغ، ويبدو أنه يعكس الآراء الشخصية للمؤلف لا مبادئ علمية راسخة. فالمستوى الرابع من المقياس، على سبيل المثال، يؤكد التكامل متعدد الحواس بوصفه سمة مميزة لوعي أعلى، ومع ذلك توجد نماذج ذكاء اصطناعي متعددة الحواس كثيرة لا يعدّها أحد واعية. ولا تُقدم حجة حقيقية حول سبب وجوب أن تكون المعلومات متعددة الحواس مطلوبة للوعي، وهي فكرة غير منتشرة في مجال دراسات الوعي. وعلى نحو مماثل، يدّعي المستوى الخامس من المقياس أن الاستدلال الرمزي ضروري للوعي بالمستوى البشري، ومرة أخرى لا توجد حجة حقيقية على ذلك، وثمة غياب للتوافق أو للسند التجريبي في الأدبيات.
ثالثاً، الشروط الضرورية مقابل الشروط الكافية: من المشكلات المتكررة الخلط بين الشروط الضرورية والشروط الكافية للوعي. فمع أن بعض السمات المقترحة، كالاستقلالية أو السلوك الموجه نحو الأهداف، قد تكون ضرورية للوعي، فإن المقترح يخفق في إثبات لماذا ينبغي أن تكون هذه السمات كافية. وأود التشديد على هذه النقطة. فمن ادعاءات المؤلف على ما يبدو أن الاستقلالية مهمة للوعي لأن الفاعلين المستقلين يمتلكون قدرات معينة موجودة لدى الكائنات الواعية، كالدافعية. غير أنه قد تكون الاستقلالية ضرورية فقط للوعي، أي إن كل نظام واعٍ يجب أن يكون مستقلاً، لكنها ليست كافية، أي ليست كل الأنظمة المستقلة واعية. وإليكم مثالاً آخر يبين المشكلات التي نواجهها في مثل هذه السيناريوهات: قد تكون معالجة المدخلات الحسية ضرورية للوعي، ومع ذلك يبدو واضحاً أن ليست كل الأنظمة التي تعالج مدخلات حسية واعية، أي إن المعالجة الحسية غير كافية. فالميكروفون، مثلاً، يعالج مدخلات سمعية لكنه غير واعٍ. ومن ثمّ فإن استخدام المعالجة الحسية لتحديد ما إذا كان نظام ما واعياً فكرة سيئة، لأن بعض الأنظمة تعالج معلومات حسية لكنها غير واعية. والأمر ذاته ينطبق على الاستقلالية، بل، كما أرى، على جميع الحجج التي يقدمها المؤلف.
وتتضح هذه المشكلة حين نرى أن المقياس المقترح ينسب مستويات عالية من الوعي حتى إلى نماذج تعلم معزز مبسطة. فالمؤلف نفسه، على سبيل المثال، يقترح أن خوارزمية قديمة وبسيطة جداً تعود إلى عام 1990 تبلغ "المستوى الثالث من الوعي" وفق مقياسه. وهذا تفسير ممكن، لكن ثمة تفسيراً آخر هو أن ذلك برهان بالخلف على فساد المقياس، فإذا كان مثل هذا الفاعل المبسط يمتلك وعياً من المستوى الثالث، فإن ذلك يخبرنا بأن المقياس خاطئ ببساطة. فضلاً عن ذلك، يقر المؤلف أيضاً بأن من اليسير رفع هذه الخوارزميات إلى المستوى الرابع بجعلها متعددة الوسائط، وأنا أتفق معه في أن ذلك سيكون يسيراً بما يكفي. وهذا يجعل النقطة السابقة أسوأ، إذ يمكن لأنظمة مبسطة لا يكاد أحد يعدّها واعية أن تبلغ وعياً من المستوى الرابع، وأرى في ذلك تناقضاً مباشراً مع المقياس المقترح. فلا ينبغي أن نتخذ قرارات سياساتية بناءً على مقياس يمنح هذا القدر العالي من الوعي لأنظمة بهذه البساطة لا يكاد أحد في مجال دراسات الوعي يعدّها واعية.
رابعاً، الانفصال عن التجربة: إلى جانب القضايا المذكورة أعلاه، يخفق المقترح في الإحالة إلى النماذج التجريبية في دراسات الوعي أو دمجها، إذ لا يُستشهد بنتيجة تجريبية واحدة لدعم فرضية توليد المعلومات أو الادعاءات المتعلقة بالمقياس أو قابليته للتطبيق. ومع أن اقتراح نماذج جديدة أمر مشروع، فإنه ينبغي أن يتم بتسويغ متأنٍ، ولا سيما حين يكون مقصوداً لتطبيقات سياساتية.
خامساً، الخلاصة: إن الطابع التخميني وغير المدعوم للمقترح، إلى جانب منحه مستويات عالية من الوعي حتى لخوارزميات مبسطة، يجعله غير ملائم لتوجيه القرارات السياساتية.
ملخص نقاط المراجعة المطلوبة
أولاً، مدى ملاءمة المقاييس وصلتها: المقياس غير مسوغ تسويغاً كافياً، ولا يراعي المجال البحثي الأوسع بما يكفي، ويفتقر إلى الدعم التجريبي. وبالنظر إلى أن أنظمة مبسطة من التسعينيات تستطيع بلوغ "مستوى وعي" ثالث، أو حتى رابع، من خمسة، لا يبدو المقياس ملائماً لتحديد نماذج الذكاء الاصطناعي المتقدمة الواعية.
ثانياً، بنية المقاييس وتماسكها: لأن بلوغ المستوى الرابع من الوعي من أصل خمسة أمر يسير، فإن جدوى المستويات الثلاثة الأولى موضع تساؤل. كما أنه ليس من الواضح ما الآثار المترتبة على بلوغ مستوى معين. فهل ينبغي مثلاً أن نمنح حقوقاً للنظام البسيط من التسعينيات الذي يبلغ المستوى الثالث؟ أم ينبغي أن تقتصر الحقوق الأخلاقية على المستوى الخامس؟ وإن كان كذلك، فلماذا؟
ثالثاً، التواصل والشمول: المقياس غير شامل، إذ يكاد يتجاهل تماماً مجال علم الوعي. وإن كانت ثمة أسباب قوية للاعتقاد بهذا المقياس رغم الحجج السابقة، فإنها لا تُعرض عرضاً فعالاً.
رابعاً، الأدلة والمراجع الداعمة: الادعاءات تخمينية وغير مدعومة ببيانات تجريبية، وليست موضوعة على النحو الصحيح ضمن أدبيات دراسات الوعي.
عن هذا الإصدار
ينشر فريق مشروع الذكاء الاصطناعي ومستقبل المهارات هذا المجلد الفني لعرض المنهجية المستخدمة في تطوير مؤشرات المنظمة لقدرات الذكاء الاصطناعي، التي أُطلقت في الثالث من يونيو 2025. ويستعرض المجلد أيضاً الملاحظات الأولية الواردة من مجتمع علوم الحاسوب وصانعي السياسات عقب مراجعة أولية للأقران للمؤشرات، ويعالجها. وتتضمن فصول المجلد تفاصيل فنية تتعلق بتطوير مؤشرات قدرات الذكاء الاصطناعي التسعة جميعها، فضلاً عن مسودة مؤشر إضافي للوعي لم يُدرج في الإصدار التجريبي للمؤشرات. كما يعرض المجلد منهجية جديدة للاستفادة من المؤشرات في تحليل أثر الذكاء الاصطناعي في الطلب على المهارات.
