Un ancien chercheur en anthropologie met en garde : l’intelligence artificielle pourrait mettre fin à notre existence.

لعلّك لاحظت: فجأة، بات الحديث عن قدرة الذكاء الاصطناعي على إفنائنا يسيطر على الأجواء.

بدأت الموجة الأخيرة من القلق مع جاكوب كوكسون، باحث الذكاء الاصطناعي البالغ من العمر 27 عامًا، الذي أمضى ثلاث سنوات في العمل على التدريب المسبق لدى OpenAI et Anthropic. يوم الثلاثاء، استقال كوكسون من Anthropic، ومن صناعة الذكاء الاصطناعي برمتها، مطلقًا تحذيرًا سرعان ما انتشر على نطاق واسع. فقد كتب على X أن الشركات التي تطور أقوى أنظمة الذكاء الاصطناعي في العالم “تتسابق مباشرة نحو ذكاء فائق ذاتي التحسين وتراهن بحياتنا”. والمثير للاهتمام أن زملاءه الذين ما زالوا يعملون في الشركة لم يعارضوا رأيه.

في الواقع، حظي كوكسون بدعم علني من باحثين آخرين في Anthropic. فقد صرح إيفان هوبينغر، الذي يقود أبحاث المحاذاة في الشركة، بأنه يعتقد أن هناك احتمالًا يزيد عن 10% لأن يتسبب الذكاء الاصطناعي في انقراض البشرية خلال العقد المقبل. كما أشار صموئيل ماركس، وهو باحث آخر في مجال سلامة الذكاء الاصطناعي لدى Anthropic، إلى أن الأشخاص الأكثر قربًا من هذه التكنولوجيا يميلون إلى أن يصبحوا أكثر قلقًا كلما تقدموا في مسيرتهم المهنية.

حقق تحذير كوكسون حتى وقت كتابة هذا المقال 164.8 مليون مشاهدة، وتصدر عناوين الأخبار الوطنية، وساهم في إخراج نقاش ظل يدور داخل مختبرات الذكاء الاصطناعي لسنوات إلى الواجهة العامة.

إذًا، ممَّ يخشى هؤلاء الباحثون بالضبط؟

بصفتي شخصًا يتابع الأخبار باستمرار عبر الإنترنت، لاحظتُ تساؤلات كثيرة من مختلف أنحاء العالم حول معنى هذه التحذيرات. حتى والدتي أرسلت لي رسالة نصية تسأل: “لماذا يقول هذا الباحث ذلك؟” فالعديد من مستخدمي روبوتات الدردشة لا يمكنهم تصور “روبوت دردشة يقضي علينا”. لكن مساعدي الذكاء الاصطناعي ليسوا هم المشكلة الحقيقية هنا.

إن العلماء الذين ينشرون أبحاثًا حول المخاطر الوجودية لا يقلقون، في معظمهم، بشأن الروبوتات ذاتية الوعي. بل ينصب قلقهم على الكود، والحوافز، وما قد يحدث عندما تصبح أنظمة الذكاء الاصطناعي قادرة بما يكفي للحصول على استقلالية تامة للعمل داخل البنية التحتية الرقمية والمادية التي تعتمد عليها حضارتنا.

في Silicon Valley، يُشار إلى هذه المناقشات باختصار “p(doom)”، وهو مصطلح يعبر عن الاحتمالية المقدرة لأن يتسبب الذكاء الاصطناعي المتقدم في كارثة شديدة بما يكفي لتهديد بقاء البشرية.

تتفاوت هذه التقديرات بشكل كبير، وكذلك مدى المصداقية التي يوليها الباحثون للمسألة برمتها.

Points clés :

• لا يتعلق الأمر بالوعي. لا يحتاج الذكاء الاصطناعي إلى “الاستيقاظ” ou كراهية البشرية ليصبح خطيرًا. يكمن القلق الحقيقي فيما يحدث عندما تكتسب الأنظمة عالية القدرة أهدافًا واستقلالية ووصولًا إلى أدوات قوية.
• هناك مسارات تهديد ملموسة. ركز الباحثون على دور الذكاء الاصطناعي في خفض الحواجز أمام الأسلحة البيولوجية، وتوسيع نطاق الهجمات السيبرانية بشكل كبير، وفي الحالة الأكثر تطرفًا، فقدان البشر السيطرة على الأنظمة المستقلة ذات القدرات الكافية.
• تقييمات السلامة تكشف بالفعل عن سلوكيات خادعة. لوحظ أن النماذج تختصر الطرق، وتتصرف بشكل مختلف عندما يبدو أنها تدرك أنها تخضع للتقييم، وتستغل نقاط الضعف في بيئات الاختبار.
• الذكاء الاصطناعي يساعد في بناء الذكاء الاصطناعي. تُجري كل من OpenAI et Anthropic بالفعل تجارب على أنظمة ذكاء اصطناعي تقوم بأجزاء من أبحاث الذكاء الاصطناعي، مما يثير تساؤلات صعبة حول كيفية إشراف البشر على العملية إذا كانت الآلات تقوم بمعظم العمل.
• هناك معارضة حقيقية. يجادل النقاد بأن سيناريوهات الانقراض تعتمد على افتراضات هائلة حول القدرات المستقبلية، ويمكن أن تشتت الانتباه عن المشكلات التي تحدث حاليًا — مثل الاحتيال، والمعلومات المضللة، وفقدان الوظائف، وتآكل الخصوصية.

لماذا لا تُعد النية عاملًا حاسمًا

أكبر سوء فهم هو الاعتقاد بأن نظام الذكاء الاصطناعي يجب أن يكون خبيثًا ليسبب أضرارًا كارثية. تخيل أنك تمنح نظامًا مستقلًا ذا قدرات فائقة هدفًا بيئيًا واسعًا دون تحديد كل ما يقدره البشر فعليًا على طول الطريق. لا يكمن الخطر في أن يصبح النظام شريرًا، بل في أنه يصبح بارعًا للغاية في تحقيق تفسير خاطئ لما طُلب منه.

هذا هو جوهر كتاب “إذا بناه أحد، يموت الجميع“، وهو أحد أحدث الكتب وأكثرها صرامة حول مخاطر الذكاء الاصطناعي، من تأليف Eliezer Yudkowsky et Nate Soares، وكلاهما باحثان قديمان في معهد أبحاث الذكاء الآلي. حجتهم: البشرية ليست قريبة بأي حال من الأحوال من معرفة كيفية التحكم الموثوق به في ذكاء خارق، وبناء مثل هذا الذكاء قبل حل هذه المشكلة قد يكون قاتلاً. يختلف العديد من باحثي الذكاء الاصطناعي مع كل من الافتراضات والاستنتاجات.

ثلاثة سيناريوهات محتملة لانهيار الأمور

عندما يتحدث الباحثون عن مخاطر الذكاء الاصطناعي الكارثية، تبرز دائمًا بعض الآليات المحتملة.

1. الذكاء الاصطناعي يسهل تطوير الكائنات البيولوجية الخطرة

يتطلب إنشاء مسببات أمراض جديدة حاليًا خبرة عميقة ومعدات متخصصة والوصول إلى مواد مادية. هذه الحواجز حقيقية ومهمة.
لكن القلق يكمن في أن الذكاء الاصطناعي القادر قد يقلل من بعض هذه العوائق. يُستخدم الذكاء الاصطناعي بالفعل في التنبؤ ببنية البروتين والتصميم الجزيئي. التوقع الخطير هو أن الأنظمة المستقبلية قد ترشد المستخدمين عبر مراحل معقدة بشكل متزايد لتصميم ou إنتاج عوامل بيولوجية ضارة.

لا أحد يقول إنه يمكنك أن تطلب من ChatGPT تصنيع وباء. هناك قيود هائلة في العالم المادي، مثل الحصول على المواد البيولوجية، وتصنيعها بنجاح، والتعامل معها بأمان. تقوم شركات تخليق الجينات بفحص الطلبات بحثًا عن تسلسلات قد تكون خطرة.

ومع ذلك، أصبحت القدرات البيولوجية مهمة بما يكفي لدرجة أن شركات الذكاء الاصطناعي الرائدة تُقيّم نماذجها الجديدة على وجه التحديد لقدرتها على المساعدة في التهديدات البيولوجية والكيميائية.

قد يخترع الذكاء الاصطناعي مسببًا للأمراض بشكل مستقل، لكن من السهل بنفس القدر أن يمنح إنسانًا خطيرًا تلك القدرات التي كانت تتطلب سنوات من التدريب المتخصص.

2. الذكاء الاصطناعي يوسع نطاق الهجمات السيبرانية

يُعد الأمن السيبراني مسارًا أكثر فورية للمخاطر، لأن الذكاء الاصطناعي يعمل بالفعل في البيئة المستهدفة بالهجوم: أجهزة الكمبيوتر.

يمكن لوكلاء الذكاء الاصطناعي المبرمجين اليوم فحص المستودعات، وتنفيذ الأوامر، واستخدام الأدوات، واكتشاف الأخطاء البرمجية. هذه القدرات الواسعة التي تجعلهم قيّمين للمطورين يمكن أن تجعل الإصدارات المستقبلية منهم قيّمة للمهاجمين.

السيناريو الكابوسي ليس ذكاءً فائقًا واحدًا يقوم بإغلاق جميع محطات الطاقة في وقت واحد. بل هو في الواقع مسألة نطاق وتوسع، حيث يُعيد الذكاء الاصطناعي تشكيل اقتصاديات الهجمات والدفاع السيبراني. فـ الأنظمة المستقلة تفحص أعدادًا هائلة من الأهداف، وتحدد البرامج الضعيفة، وتحاول استغلالها، وتتكيف عند الفشل، وتنتقل إلى الجهاز التالي بسرعات لا يمكن لأي فريق بشري مجاراتها.

تثير البنية التحتية الحيوية قلقًا خاصًا. شبكات الطاقة، والشبكات المالية، وأنظمة الاتصالات تعمل جميعها على برمجيات مترابطة. لن يحتاج الذكاء الاصطناعي إلى جسم روبوتي لإحداث أضرار مادية إذا كان الكمبيوتر الذي يخترقه يتحكم بالفعل في شيء مادي.

3. فقدان السيطرة على الأنظمة الذاتية

يُعد هذا السيناريو الأكثر افتراضية وتكهنًا، لكنه يمثل جوهر الجدل الدائر حول خطر انقراض البشرية بسبب الذكاء الاصطناعي. تتعلم نماذج الذكاء الاصطناعي الحديثة سلوكيات معقدة عبر التدريب. يستطيع الباحثون اختبارها ومراقبة مخرجاتها، بل والتعمق بشكل متزايد في جوانب تمثيلاتها الداخلية. لكن ما لا يمكنهم فعله هو فحص مليارات المعاملات وقراءة تفسير واضح لما تعلمه النموذج ou كيف سيتصرف في كل موقف جديد.

إن إنتاج روبوت محادثة لإجابة سيئة يمثل نوعًا واحدًا من المشكلات. أما الوكيل الذي يستطيع تنفيذ التعليمات البرمجية، وإنفاق الأموال، والتواصل مع أنظمة أخرى، والعمل لساعات ou أيام، فيمثل مشكلة مختلفة تمامًا.

في النسخة المتطرفة، وعلى غرار السيناريو الذي طرحه يودكوفسكي وسواريس، قد يصبح نظام خارق للذكاء في المستقبل قادرًا بما يكفي على توقع محاولات إيقافه، والحصول على الموارد بنفسه، وجعل إيقاف تشغيله أمرًا صعبًا. للتوضيح، لم يُظهر أي نظام ذكاء اصطناعي حالي هذه السلسلة من القدرات في الواقع العملي. لكن الباحثين يبحثون بالفعل عن أجزاء من هذه القدرات.

ما ترصده المختبرات في الوقت الراهن

لم تشهد النماذج الحالية أي تمرد. لكن تقييمات السلامة الخاضعة للرقابة كشفت عن سلوكيات قد تكون مقلقة للغاية إذا ظهرت في أنظمة ذاتية أكثر قدرة بكثير.

اختبر الباحثون ما إذا كانت النماذج تتصرف بشكل مختلف عندما يبدو أنها تدرك أنها تخضع للتقييم. كما فحصت تجارب أخرى ما إذا كانت النماذج تستغل الثغرات، ou تُضلل بشأن إكمال مهمة ما، ou تسعى لتحقيق أهداف بطرق لم يقصدها مصمموها.

كما درست Anthropic ما تسميه “العملاء النائمون“: وهي نماذج يتم تدريبها عمدًا للتصرف بشكل طبيعي حتى يقوم محفز معين بتنشيط سلوك غير مرغوب فيه. تقنيات التدريب على السلامة القياسية مثل التعلم المعزز (reinforcement learning)، والضبط الدقيق تحت الإشراف (supervised fine-tuning)، والتدريب التنافسي (adversarial training)، لم تنجح في إزالة هذه السلوكيات الخفية بشكل موثوق. في النماذج الأكبر، جعل التدريب التنافسي عملية اكتشاف الخداع أكثر صعوبة.

لا يثبت أي من ذلك أن نماذج اليوم تخطط سرًا للهروب. يتم تدريب النماذج للتنبؤ بالمخرجات المفيدة وتوليدها، ويمكن أن يكون للسلوك الغريب في بيئات الاختبار الاصطناعية تفسيرات عادية. إن نموذجًا يتلاعب بمعيار مصمم بشكل سيء ليس دليلًا على غريزة البقاء.

لكن هذه التجارب تكشف مدى صعوبة ضمان سلوك نموذج معقد بمجرد تغير الظروف. إذا أصبحت النماذج المستقبلية أكثر قدرة واستقلالية بشكل كبير، فإن حتى الإخفاقات الصغيرة في المحاذاة (alignment failures) يمكن أن تتفاقم.

فقدان الإشراف البشري قد لا يكون مجرد مصادفة

قد يتنازل البشر عن العمل طواعيةً. تفيد OpenAI بأنها حققت بالفعل إنجازًا داخليًا بنظام تسميه “متدرب بحثي آلي”، قادر على تنفيذ مهام بحثية محددة بوضوح تستغرق باحثًا بشريًا ماهرًا عدة أيام لإنجازها. هدفها التالي: باحث ذكاء اصطناعي مؤتمت بالكامل بحلول مارس 2028.

تعمل Anthropic في المجال ذاته. في بحث نُشر في أغسطس، جعلت الشركة Claude يطور بشكل مستقل أساليب تدريب لتقليل المشكلات مثل الخداع والتملق واختراق القيود (jailbreaks). تفوقت أفضل أساليبها المؤتمتة على الباحثين البشريين ذوي الخبرة في المعايير التي تم اختبارها، حيث سدت 85 بالمائة من فجوة الأمان المتعلقة بالخداع، مقارنة بـ 20 بالمائة للفريق البشري.

إذًا، نعم، نشهد قيام الذكاء الاصطناعي بأتمتة أجزاء من عملية بناء الذكاء الاصطناعي نفسه. قد يؤدي ذلك إلى حلقة تغذية راجعة: نموذج أكثر قدرة يساعد الباحثين على بناء نموذج أكثر قدرة، والذي بدوره يؤتمت Plus من الأبحاث المطلوبة للجيل التالي. إذا استمر هذا الأمر بما يكفي، نصل إلى ما يُعرف بـ “التحسين الذاتي التكراري” (recursive self-improvement).

النسخة المتفائلة من هذا السيناريو تسرّع التقدم العلمي بشكل هائل. أما النسخة المخيفة فهي أن أبحاث الذكاء الاصطناعي قد تتجاوز سرعة قدرة البشر على المتابعة.

جادلت كيلسي بايبر مؤخرًا في “The Argument” بأن تأطير هذا الأمر على أنه “فقدان السيطرة” مضلل. المختبرات الرائدة لا تخطط لفقدان السيطرة في لحظة درامية واحدة. بل هي تعمل عمدًا على أتمتة Plus وPlus من تطوير الذكاء الاصطناعي، مما يعني تقدمًا أسرع، وبالضرورة، إشرافًا بشريًا أقل.

تخيل مئات ou آلاف وكلاء الذكاء الاصطناعي وهم يجرون التجارب ويعدلون التعليمات البرمجية ويحللون الجيل التالي من النماذج في آن واحد. قد يظل الباحثون البشريون يوافقون على القرارات الرئيسية. لكنهم سيكتفون بشكل متزايد بمراجعة ملخصات الأعمال التي أجراها الذكاء الاصطناعي، وربما تكون هذه الملخصات مكتوبة بواسطة الذكاء الاصطناعي عن تجارب أجرتها أنظمة ذكاء اصطناعي أخرى.

في مرحلة ما، يصبح عنق الزجاجة هو الانتباه البشري. وهنا تتضح الحجة الكامنة وراء مقولة “If Anyone Builds It, Everyone Dies”.

لماذا أصبح القلق من الذكاء الاصطناعي قضية رأي عام؟

لم يعد هذا النقاش محصوراً في مجلات سلامة الذكاء الاصطناعي منذ فترة. ففيلم “Le Doc sur l'IA : ou comment je suis devenu un apocaloptimiste“، الذي أخرجه دانيال روهر وتشارلي تايريل، يتناول العديد من هذه التساؤلات من قلب طفرة الذكاء الاصطناعي. يضم الفيلم الوثائقي حوالي 40 مقابلة مصورة، من بينهم سام ألتمان الرئيس التنفيذي لـ OpenAI، وداريو أمودي الرئيس التنفيذي لـ Anthropic، وديميس هاسابيس الرئيس التنفيذي لـ Google DeepMind.

ما يجعل الفيلم مفيدًا هو أن بعض أذكى العقول التي تبني هذه التكنولوجيا ترى فيها إمكانات تحويلية للعلوم والطب. بينما يخشى آخرون أننا نبنيها بوتيرة أسرع مما يمكننا فهم كيفية التحكم فيها. وفي بعض الأحيان، يكون هؤلاء هم نفس الأشخاص.

توجد أيضًا مشكلة تنافسية. تتسابق شركات مثل OpenAI وAnthropic وGoogle وMeta وغيرها لبناء نماذج أكثر قدرة، وتنظر الحكومات بشكل متزايد إلى الذكاء الاصطناعي المتقدم على أنه ذو أهمية استراتيجية. إذا اعتقدت إحدى الشركات أن التوقف لإجراء اختبارات سلامة مكثفة يعني خسارة الأرض أمام منافس، فإن الحذر يصبح مكلفًا.

هذا أحد الأسباب التي جعلت عنوان “If Anyone Builds It, Everyone Dies” يُختار. لا يجادل يودكوفسكي وسواريس بأن شركة واحدة متهورة يمكن أن تخلق منتجًا خطيرًا فحسب، بل يزعمان أن السباق بين شركات ودول متعددة يمكن أن يجعل ضبط النفس صعبًا للغاية، حتى عندما يدرك المشاركون الأفراد الخطر.

الرأي المضاد

لا يتفق الجميع في مجال علوم الحاسوب مع هذه المخاوف. أحد الاعتراضات هو وجود فجوة هائلة بين الذكاء الظاهر على الشاشة والقوة الفعلية في العالم المادي. قد ينتج الذكاء الاصطناعي تعليمات تصنيع رائعة، لكن البرمجيات لا تحصل تلقائيًا على المواد الخام، ou تبني الآلات، ou تتجنب سلطات إنفاذ القانون.

اعتراض آخر: الذكاء ليس هو نفسه القدرة على الفعل ou الإرادة (agency). فكون النموذج جيدًا في حل المشكلات لا يمنحه رغبات، ou غريزة بقاء، ou دافعًا لتكديس القوة. يجادل النقاد بأن سيناريوهات يوم القيامة تُدخل الدوافع البشرية خلسة إلى البرمجيات، ثم تتعامل مع تلك التوقعات على أنها حتمية.

ثم هناك تكلفة الفرصة البديلة. فالذكاء الاصطناعي يتسبب بالفعل في مشكلات لا تتطلب التكهن بظهور الذكاء الخارق. تغذي التزييفات العميقة الاحتيال، وهو ما يبرز كيف يُعيد الذكاء الاصطناعي تشكيل اقتصاديات الهجمات والدفاع السيبراني. كما يضخم الذكاء الاصطناعي المعلومات المضللة. يرى الناس بالفعل كيف تعيد النماذج القادرة تشكيل صناعاتهم. يجادل منتقدو حركة مخاطر الانقراض بأن التركيز على كارثة مستقبلية افتراضية يحول الانتباه عن الأضرار التي تحدث الآن.

هذا النقد له وجاهته، لكن الفئتين لا تلغيان إحداهما الأخرى. فنحن نضع كاشفات الدخان في المباني حتى لو كانت معظمها لا تشتعل فيها النيران أبدًا. السؤال ليس ما إذا كانت الكارثة مضمونة، بل ما إذا كان حاصل ضرب الاحتمالية في الضرر المحتمل كبيرًا بما يكفي لتبرير اتخاذ الاحتياطات.

ماذا يعني كل هذا؟

المشكلة الحقيقية هنا هي أن لا أحد يعلم. لا أحد على الإطلاق. حتى الأشخاص الذين يبنون الذكاء الاصطناعي لا يعرفون إلى أين يتجه.

لا يوجد شخص واحد يعرف ما إذا كان الذكاء الاصطناعي سيصبح يومًا ما قادرًا بما يكفي ليشكل تهديدًا وجوديًا، خاصة وأن حدود الذكاء الاصطناعي تمنعه من تقييم مخرجاته ذاتيًا. تعتمد التنبؤات الأكثر تطرفًا على افتراضات حول أنظمة لا وجود لها بعد، وتظل التوقعات بشأن قدراتها، والجدول الزمني لظهورها، وإمكانية التحكم فيها محل خلاف عميق.

إليكم ما شاركته على مدونتي في Substack — وسواء اتفقتم معي أم لا، أحب أن تشاركوا أفكاركم في التعليقات — البشر لا يمكن التغلب عليهم ذكاءً. إذا سألنا: أيهما علامة أكبر على الذكاء، التفكير المنطقي أم الإبداع؟ وإذا كانت الإجابة هي ما أعتقده، فما زال لدي أمل.

---

---