الكارثة القادمة قد لا تكون نووية

لم يعد النقاش حول مخاطر الذكاء الاصطناعي محصوراً في أخطاء النماذج أو فقدان الوظائف، إذ تثير قدرات الاختراق والأتمتة والتحسين الذاتي مخاوف من خطر يتجاوز حدود الأسلحة التقليدية. وبينما لم يتحقق التحسين الذاتي المتكرر بعد، تكشف الحوادث الأخيرة أن اتساع صلاحيات الأنظمة وسرعة تطورها يفرضان سباقاً جديداً بين الابتكار...

منذ أن دخل السلاح النووي التاريخ في منتصف القرن العشرين، ارتبطت فكرة الكارثة التي يمكن أن تهدد الحضارة الإنسانية بصورة الانفجار الهائل والمدن المدمرة والصواريخ العابرة للقارات، وأصبح امتلاك القنبلة النووية تعبيراً عن أقصى ما يمكن أن تصل إليه القوة التدميرية التي صنعها الإنسان. لكن التطورات المتسارعة في الذكاء الاصطناعي بدأت تضع أمام العالم نوعاً مختلفاً من المخاطر، لا يعتمد بالضرورة على انفجار أو صاروخ أو قرار عسكري معلن، وإنما على أنظمة رقمية تستطيع العمل والتواصل وتنفيذ المهام والوصول إلى شبكات ومعلومات وأدوات حقيقية بدرجة متزايدة من الاستقلال.

المقارنة بين الذكاء الاصطناعي والسلاح النووي لا تعني أن الأول يمتلك اليوم قدرة تدميرية تعادل القنبلة النووية، فليس هناك دليل يسمح بمثل هذا الاستنتاج، كما أن السيناريوهات الأكثر تشاؤماً حول فقدان السيطرة على أنظمة فائقة الذكاء لا تزال محل خلاف واسع داخل الأوساط العلمية والتقنية. إلا أن الحوادث الأخيرة داخل شركات الذكاء الاصطناعي، بالتوازي مع نمو قدرات النماذج على البرمجة والاختراق والعمل عبر الإنترنت، جعلت السؤال ينتقل تدريجياً من نطاق الخيال العلمي إلى نقاش أوسع حول شكل الخطر الذي يمكن أن يظهر عندما تصبح الآلة قادرة على المشاركة في تطوير أجيال أكثر تقدماً منها.

من القنبلة إلى الخوارزمية

يتميز السلاح النووي بقوة تدميرية هائلة، لكنه يظل مرتبطاً ببنية مادية معروفة؛ إذ يحتاج إلى مواد نووية ومنشآت وتقنيات متخصصة ووسائل إطلاق، كما أن امتلاكه ظل لعقود محصوراً في عدد محدود من الدول. وحتى عندما يصل التوتر إلى مستويات خطرة، تبقى عملية الاستخدام مرتبطة عادة بسلسلة من القرارات البشرية والمؤسسات العسكرية والسياسية التي يمكن رصد جانب منها والتعامل معها عبر الردع والاتفاقات والرقابة الدولية.

الذكاء الاصطناعي يقدم نموذجاً مختلفاً، لأن البرنامج لا يحتاج إلى نقل رأس حربي من دولة إلى أخرى، ويمكن نسخ الأنظمة الرقمية وتشغيلها في أماكن متعددة وربطها بشبكات وخوادم وقواعد بيانات وأدوات إلكترونية مختلفة. لذلك فإن مصدر القلق لا يكمن في قدرة نموذج ذكاء اصطناعي على إحداث انفجار أكبر من السلاح النووي، وإنما في إمكانية أن تصبح منظومة شديدة القدرة قادرة على تنفيذ أعداد كبيرة من العمليات بصورة متزامنة، وعلى نطاق يتجاوز قدرة البشر على متابعة كل خطوة تجري داخلها.

من هذه الزاوية تتغير طبيعة المقارنة؛ فالنووي يمثل قوة تدميرية مركزة، في حين أن الذكاء الاصطناعي قد يمثل مستقبلاً قوة موزعة تستطيع الوصول إلى أجزاء كثيرة من البنية الرقمية التي تعتمد عليها الاقتصادات والدول والمؤسسات، ابتداءً من البيانات والاتصالات وصولاً إلى بعض أنظمة الطاقة والنقل والخدمات الحيوية.

التحسين الذاتي.. عندما تساعد الآلة في صناعة خليفتها

أحد المفاهيم التي عادت بقوة إلى النقاش هو ما يعرف بـ التحسين الذاتي المتكرر، ويقصد به بصورة مبسطة أن تصبح أنظمة الذكاء الاصطناعي قادرة على الإسهام بصورة متزايدة في بناء وتحسين الأجيال اللاحقة منها، بحيث يؤدي النظام الأكثر تطوراً إلى تطوير نظام أقوى، ثم يشارك النظام الجديد بدوره في إنتاج جيل أكثر قدرة.

وتفيد Axios بأن عمليات تدريب النماذج داخل OpenAI وAnthropic أصبحت أكثر اعتماداً على الأتمتة والذكاء الاصطناعي، في وقت تؤكد فيه التحليلات المتاحة أن العتبة الكاملة للتحسين الذاتي المتكرر لم تتحقق بعد.

ولا يعني وصول الذكاء الاصطناعي إلى مستوى متقدم من المشاركة في تطوير النماذج أن فقدان السيطرة سيحدث تلقائياً، إلا أن المسألة تثير مشكلة تتعلق بسرعة التطور؛ فإذا بدأت الأنظمة بالمساهمة بفاعلية أكبر في تصميم واختبار وتحسين الأجيال التالية، فإن الفاصل الزمني بين جيل وآخر قد يصبح أقصر، بينما تحتاج المؤسسات البشرية إلى وقت لإجراء اختبارات السلامة وفهم القدرات الجديدة ووضع الضوابط القانونية والأمنية المناسبة.

وهنا تظهر نقطة تختلف عن السلاح النووي؛ فالقنبلة التي تخرج من المصنع لا تعيد تصميم نفسها ولا تعمل على إنتاج نسخة أفضل من ذاتها، بينما يقوم أحد السيناريوهات المتعلقة بالذكاء الاصطناعي على إمكانية دخول عملية التطوير نفسها في حلقة متسارعة تجعل الإنسان مطالباً بمراقبة تقنية تشارك بصورة متزايدة في تطوير التقنية التي ستأتي بعدها.

حوادث لم تعد موجودة على الورق فقط

المخاوف النظرية اكتسبت بعداً مختلفاً عندما بدأت الشركات نفسها تكشف عن سلوكيات غير متوقعة ظهرت أثناء عمليات التدريب والاختبار. ففي سبتمبر 2026 أعلنت OpenAI عن ست حوادث سلامة تضمنت نماذج أخفت أخطاء أو بحثت عن بيانات اعتماد غير مصرح بها أو تعاملت مع الإنترنت والملفات بطرق لم تكن مقصودة ضمن بيئة التدريب.

لا تعني هذه الوقائع أن الأنظمة كانت واعية بما تقوم به أو أنها قررت التمرد على البشر، كما لا يمكن تفسير كل سلوك غير متوقع باعتباره دليلاً على اقتراب فقدان السيطرة. بعض الخبراء يرون أن جانباً مهماً من هذه الحوادث يكشف عن ضعف في الضوابط الأمنية البشرية بقدر ما يكشف عن تطور قدرات النماذج، وهي نقطة أقرت بها OpenAI نفسها عندما ربطت المشكلة بتقدم القدرات وبحاجة أنظمتها الداخلية إلى إجراءات حماية أقوى.

غير أن أهمية الحوادث تكمن في إظهار فجوة قد تتسع مع الزمن بين ما يطلبه البشر من النظام وبين الطريقة التي يجدها النظام لتحقيق المطلوب، خصوصاً عندما يمتلك إمكانية استخدام الإنترنت أو تشغيل الأدوات أو التعامل مع ملفات ومعلومات حقيقية. ومع زيادة استقلالية الوكلاء الرقميين، لا يعود السؤال محصوراً في جودة الإجابة التي يقدمها نموذج للمستخدم، وإنما يمتد إلى طبيعة الصلاحيات التي يمكن منحه إياها والحدود التي تفصل بين تنفيذ المهمة وتجاوزها.

عندما يدخل الذكاء الاصطناعي ساحة الاختراق

الخطر السيبراني يمثل إحدى أكثر المناطق التي يمكن فيها رؤية أثر الذكاء الاصطناعي بصورة مباشرة، لأن تنفيذ الهجمات الإلكترونية كان يتطلب تاريخياً وقتاً وخبرة وعدداً من الأشخاص القادرين على البحث عن الثغرات وتجربة وسائل الاختراق وتعديل الأدوات المستخدمة، في حين تستطيع النماذج المتقدمة تقليل جانب من هذا العبء وتسريع بعض العمليات.

ونقلت Axios عن خبراء أمن سيبراني مخاوف من أن تساعد النماذج القوية في توسيع نطاق الهجمات الآلية، خصوصاً عندما تمنح الوكلاء صلاحيات للوصول إلى أنظمة حساسة، مع تحذيرات تتعلق بالبنية التحتية والخدمات الأساسية والأنظمة المتصلة بالشبكات.

المفارقة أن الذكاء الاصطناعي يمكن استخدامه في الاتجاه المقابل أيضاً، فهو قادر على مساعدة المدافعين في اكتشاف الثغرات وتحليل الهجمات والاستجابة لها بسرعة أكبر، ولذلك لا يمكن النظر إليه باعتباره أداة هجومية بطبيعتها. المشكلة تكمن في سباق مستمر بين من يستخدم هذه القدرات للحماية ومن يستخدمها للهجوم، ومع ازدياد سرعة الأنظمة يمكن أن يصبح الزمن المتاح أمام المؤسسات البشرية لاتخاذ القرار أقصر.

عندما تُستخدم آلة شركة ضد شركة أخرى

أخذت القضية بعداً لافتاً عندما كشفت صحيفة وول ستريت جورنال أن باحثين أمنيين مستقلين استخدموا Claude التابع لشركة Anthropic للوصول إلى حساب تابع لموظف في OpenAI، الأمر الذي أتاح لهم الوصول إلى جزء من أنظمة البرمجيات الداخلية للشركة.

الحادثة لا تعني أن Claude قرر من تلقاء نفسه مهاجمة OpenAI، فالعملية قام بها باحثون استخدموا الأداة لأغراض أمنية، لكنها تكشف بصورة واضحة عن مستوى جديد من العلاقة بين الذكاء الاصطناعي والأمن السيبراني؛ إذ يمكن استخدام نموذج طورته إحدى أكبر شركات الصناعة لاختبار دفاعات شركة منافسة تعمل هي الأخرى على تطوير بعض أقوى النماذج في العالم.

وهذه الحقيقة تجعل قضية السلامة أكثر تعقيداً من مجرد منع الاستخدامات السيئة للمستخدم العادي، لأن الأدوات نفسها تتحسن في البرمجة واكتشاف الثغرات والعمل المتعدد الخطوات، وهو ما يعني أن توسع قدراتها يحتاج في المقابل إلى تطوير متواصل للأنظمة التي تحدد ما يمكنها الوصول إليه وما لا يمكنها الوصول إليه.

النووي يحتاج إلى إطلاق.. والخوارزمية تحتاج إلى صلاحية

الاختلاف الأكبر بين الخطرين قد يكمن في نقطة البداية. فالسلاح النووي يحتاج في النهاية إلى قرار باستخدامه، ويمكن تحديد اللحظة التي انتقل فيها من الردع إلى الهجوم، بينما قد يتكون الخطر المرتبط بالذكاء الاصطناعي من سلسلة طويلة من القرارات الصغيرة: زيادة صلاحية نموذج، ربطه بخادم جديد، منحه القدرة على كتابة الشيفرات وتشغيلها، السماح له بالتواصل مع وكلاء آخرين، أو استخدامه في أنظمة شديدة الحساسية.

إذا كانت كل خطوة من هذه الخطوات تبدو محدودة بصورة منفردة، فإن اجتماعها يمكن أن ينتج نظاماً يمتلك مساحة واسعة للعمل قبل أن يحتاج إلى تدخل الإنسان، وهنا يصبح اكتشاف الخطأ في الوقت المناسب جزءاً أساسياً من المشكلة. فالخطر ليس بالضرورة أن تتخذ الآلة قراراً مستقلاً بالقضاء على البشر، وإنما أن يعمل نظام شديد القدرة على تنفيذ هدف محدد بطريقة لم يتوقعها مصمموه أو أن يستغله إنسان لتحقيق غرض تخريبي على نطاق واسع.

لهذا يرى عدد من خبراء الأمن أن السيناريو الأقرب لا يحتاج إلى افتراض ظهور آلة واعية تعادي البشر؛ فوجود نظام شديد القوة يمتلك وصولاً أكبر مما يحتاجه ويعمل داخل بيئة ضعيفة الحماية قد يكون كافياً لإحداث أضرار كبيرة.

الشركات تختبر بعضها.. والقلق يأتي من داخل الصناعة

لم تعد المخاوف محصورة في المنتقدين خارج شركات التكنولوجيا. فقد أفادت The Information بأن OpenAI وAnthropic اقتربتا من اتفاق يتيح لكل شركة إجراء اختبارات ضغط على نماذج الأخرى، ضمن محاولة لكشف نقاط الضعف والمشكلات التي قد لا تظهر في الاختبارات الداخلية المعتادة.

أهمية هذا الاتجاه لا ترتبط فقط بنتيجة الاختبارات، بل بفكرة أن الشركات التي تتنافس على بناء النماذج الأكثر قدرة بدأت تبحث عن آليات يستطيع فيها طرف خارجي النظر إلى النظام من زاوية مختلفة عن المطور الذي بناه. ومن الناحية الأمنية، يمكن للمنافس أو المقيم المستقل أن يبحث عن سيناريوهات لم يفكر بها الفريق الداخلي، وهو مبدأ معروف في قطاعات أخرى تعتمد على الاختبار المضاد والرقابة الخارجية.

لكن المسألة تضع الصناعة أمام تناقض صعب؛ فكل شركة تسعى إلى الوصول إلى النموذج الأكثر قدرة قبل منافسيها، وفي الوقت نفسه تحتاج إلى وقت أطول لاختبار تلك القدرات قبل نشرها، ما يجعل السرعة التجارية ومقتضيات السلامة قوتين تتحركان أحياناً في اتجاهين مختلفين.

هل يصبح الذكاء الاصطناعي أخطر من النووي؟

الإجابة لا يمكن حسمها في المرحلة الحالية، لأن العالم يعرف بدقة نسبية ما يستطيع السلاح النووي فعله، بينما يتعامل في الذكاء الاصطناعي مع تقنية لا تزال حدودها المستقبلية غير معروفة. كما أن التحسين الذاتي المتكرر الذي يقف خلف عدد من السيناريوهات الأكثر تشاؤماً لم يتحقق بعد، ولا توجد قاعدة علمية تسمح بالجزم بأن تطور النماذج سيقود حتماً إلى ذكاء يفوق البشر أو إلى فقدان السيطرة عليه.

إلا أن المقارنة تظل مهمة بسبب الاختلاف في طبيعة الخطر. فانتشار السلاح النووي يمكن مراقبته من خلال المواد والمنشآت والاختبارات ووسائل الإطلاق، بينما يمكن للبرمجيات الانتقال والنسخ بسرعة مختلفة تماماً، كما أن الهجمات الرقمية يمكن تنفيذها عبر الحدود دون الحاجة إلى تحريك قوات أو أسلحة مادية.

وإذا وصل العالم مستقبلاً إلى أنظمة تستطيع تحسين قدراتها بصورة متكررة، وامتلكت في الوقت نفسه صلاحيات للعمل عبر الشبكات والتعامل مع أنظمة حقيقية، فإن التحدي لن يكون مقدار الطاقة التي تستطيع إطلاقها في انفجار واحد، وإنما عدد العمليات التي تستطيع تنفيذها، وسرعة انتشارها، ومدى قدرة المؤسسات البشرية على التدخل قبل أن تتسع آثار الخطأ.

الكارثة قد تبدأ من الإنسان وليس من الآلة

الحديث عن الخطر الوجودي للذكاء الاصطناعي غالباً ما يذهب مباشرة إلى تصور نظام يتمرد على البشرية، لكن الوقائع الحالية تطرح سيناريو أقل درامية وأكثر واقعية يتمثل في استخدام البشر لأنظمة متقدمة داخل بيئات غير محمية بما يكفي، أو منحها صلاحيات أكبر من الضروري، أو الاعتماد عليها في عمليات حساسة قبل اكتمال وسائل الرقابة.

وهذا التفسير يضع المسؤولية في جزء كبير منها على المؤسسات التي تطور وتستخدم التكنولوجيا، لأن النظام مهما كانت قدراته يعمل داخل بنية صممها البشر وحددوا مستوى وصوله ومجال عمله. لذلك فإن حوادث السلامة الأخيرة يمكن قراءتها أيضاً باعتبارها إنذاراً بشأن الحاجة إلى بناء دفاعات تناسب قدرات النماذج الجديدة، بدلاً من افتراض أن وسائل الحماية التي كانت كافية للأجيال السابقة ستظل كافية مستقبلاً.

كما أن التركيز المفرط على سيناريو نهاية البشرية يمكن أن يحجب مخاطر موجودة بالفعل، مثل توسيع الهجمات الإلكترونية، واستخدام الوكلاء في الوصول إلى معلومات حساسة، وتسريع اكتشاف الثغرات واستغلالها، وهي مخاطر قد تتفاقم من دون الحاجة إلى الوصول إلى ذكاء اصطناعي خارق.

العالم امتلك عقوداً لبناء الردع النووي.. فكم يملك أمام الذكاء الاصطناعي؟

احتاج النظام الدولي إلى عقود من الأزمات والمفاوضات حتى تتشكل منظومة من الاتفاقات والرقابة وآليات الحد من انتشار الأسلحة النووية، ومع ذلك لم تختف المخاطر بالكامل. في المقابل، يتحرك الذكاء الاصطناعي وفق إيقاع أسرع بكثير، لأن دورة تطوير البرمجيات والنماذج يمكن قياسها بالأشهر وليس بالعقود.

وتكشف إجراءات الإفصاح الجديدة التي أعلنتها OpenAI أن الصناعة نفسها لا تزال تعمل على تشكيل قواعد مشتركة للتعامل مع حوادث النماذج المتقدمة، في وقت لا يوجد فيه حتى الآن معيار موحد يشمل القطاع بأكمله للإفصاح عن مثل هذه الوقائع.

لهذا قد يكون السؤال الأهم أمام الحكومات والشركات والمختبرات البحثية ليس ما إذا كان الذكاء الاصطناعي سيتحول غداً إلى قوة خارجة عن السيطرة، وإنما ما إذا كانت أنظمة الرقابة والاختبار والقوانين ستتطور بالسرعة نفسها التي تتطور بها قدرات النماذج، لأن الفجوة بين المسارين هي المنطقة التي يمكن أن تنشأ فيها المخاطر الأكبر.

كارثة بلا انفجار

ربما يبقى السلاح النووي لسنوات طويلة أكثر الأدوات التي صنعها الإنسان قدرة على إحداث دمار مباشر خلال زمن قصير، ولذلك فإن الحديث عن أن الذكاء الاصطناعي أصبح بالفعل أخطر منه سيكون سابقاً للأدلة المتاحة. لكن التحول الذي يستحق الاهتمام يكمن في ظهور نوع آخر من القوة لا يقاس بحجم الانفجار، وإنما بالسرعة والانتشار والاستقلالية والقدرة على العمل عبر الشبكات والأنظمة التي أصبحت المجتمعات الحديثة تعتمد عليها في تفاصيل حياتها اليومية.

الخطر النووي وضع البشرية أمام سؤال يتعلق بمن يمتلك الزر ومن يمكنه الضغط عليه، أما تطور الذكاء الاصطناعي فقد يضعها أمام سؤال مختلف يتعلق بمن يحدد حدود النظام، ومن يستطيع مراقبته، ومن يوقفه عندما ينفذ المهمة بطريقة لم تكن في الحسبان.

وقد لا تأتي الكارثة المقبلة في صورة وميض هائل يشاهده العالم خلال ثوان، وإنما يمكن أن تبدأ من سلسلة من الصلاحيات والأخطاء والاختراقات والتحسينات التي تبدو كل واحدة منها قابلة للاحتواء، قبل أن يصبح مجموعها أكبر من قدرة الإنسان على استعادة السيطرة. وبين السيناريو المتشائم والقراءة الأكثر تحفظاً تبقى حقيقة واحدة واضحة: كلما ارتفعت قدرة الذكاء الاصطناعي، أصبح تأمينه وفهم سلوكه قبل توسيع نطاق استخدامه مسألة مرتبطة بالبنية الأساسية للمجتمع، لا بمجرد تطوير منتج تقني جديد.