الذكاء الاصطناعي يقترب من نقطة الخطر.. باحثون يحذرون: قد نفقد السيطرة على الآلة

تحذيرات الانقراض تهز وول ستريت.. هل يهدد تباطؤ الذكاء الاصطناعي موجة استثمارات بمئات المليارات؟

لم تعد التحذيرات من المخاطر القصوى للذكاء الاصطناعي تصدر فقط عن نشطاء أو فلاسفة بعيدين عن صناعة التكنولوجيا، بل باتت تأتي من باحثين عملوا داخل أبرز مختبرات الذكاء الاصطناعي في العالم، بالتزامن مع دعوات من قيادات شركات كبرى إلى إبطاء وتيرة تطوير النماذج المتقدمة.

وفي أحدث هذه التحذيرات، قال بلال تشوغتاي، الباحث السابق في Google DeepMind والمتخصص في أبحاث سلامة الذكاء الاصطناعي والمواءمة، إنه يعتقد بجدية أن الذكاء الاصطناعي يمتلك القدرة على “قتلنا جميعًا”، محذرًا من أن الوقت قد يكون ينفد لتجنب هذا السيناريو.

ويأتي موقف تشوغتاي بعد تصريحات أكثر إثارة للقلق من باحثين في شركة Anthropic، بينهم جاكوب كوكسون وإيفان هوبينجر، الذي قال إن هناك احتمالًا يتجاوز 10% لوقوع سيناريو يؤدي فيه الذكاء الاصطناعي إلى القضاء على البشرية خلال العقد المقبل.

وهذه التقديرات ليست توقعات مؤكدة، لكنها تعكس تحولًا مهمًا في طبيعة النقاش: لم يعد السؤال فقط عما يستطيع الذكاء الاصطناعي فعله اليوم، وإنما عما قد يحدث إذا أصبح قادرًا على تحسين قدراته بصورة متسارعة ومستقلة.

من «هلوسة» ChatGPT إلى احتمال التحسين الذاتي

تغيرت قدرات الذكاء الاصطناعي بصورة كبيرة منذ ظهور ChatGPT في عام 2022.

فالنماذج الأولى كانت تعاني بصورة واضحة من الأخطاء والهلوسة، بينما أصبحت الأنظمة الحديثة قادرة على كتابة الأكواد، وبناء التطبيقات، وتنفيذ سلسلة طويلة من المهام، والعمل بصورة أكثر استقلالية من روبوتات المحادثة التقليدية.

وهنا يظهر مفهوم يعرف باسم التحسين الذاتي التكراري أو Recursive Self-Improvement، وهو أحد أكثر السيناريوهات إثارة للجدل في أبحاث الذكاء الاصطناعي.

الفكرة ببساطة هي أن يصبح نظام الذكاء الاصطناعي قادرًا على المساعدة في تطوير نسخة أكثر تقدمًا منه، ثم تستخدم النسخة الجديدة قدراتها لتطوير نسخة أقوى، وهكذا.

وفي السيناريو المتطرف، يمكن أن يؤدي هذا إلى سلسلة متسارعة من التحسينات يصعب على البشر مواكبتها.

ولا يعني ذلك أن الأنظمة الحالية تستطيع بالفعل تحقيق هذا السيناريو بصورة مستقلة وكاملة، لكن بعض الباحثين يرون أن التطورات الحالية تشير إلى اقتراب قدرات كانت حتى وقت قريب تبدو بعيدة.

لماذا يخشى العلماء فقدان السيطرة؟

المشكلة الأساسية، وفق هذا السيناريو، ليست أن الآلة “تكره” البشر أو تمتلك نية شريرة.

الخطر يمكن أن ينشأ من نظام شديد القدرة يسعى إلى تحقيق هدف محدد بطريقة لا تتوافق مع المصالح البشرية.

ويُستخدم في هذا السياق المثال الفلسفي الشهير الذي طرحه نيك بوستروم، المعروف باسم «محسن مشابك الورق».

في المثال الافتراضي، يُطلب من آلة فائقة الذكاء إنتاج أكبر عدد ممكن من مشابك الورق. وإذا أصبحت الآلة شديدة القدرة ولم تكن لديها قيود مناسبة، فقد تتعامل مع كل شيء باعتباره موردًا لتحقيق هدفها، بما في ذلك الموارد التي يحتاج إليها البشر.

المشكلة هنا ليست الشر، وإنما الهدف غير المتوافق مع مصالح الإنسان.

ومن ثم، فإن نظامًا يريد تحقيق هدفه بأقصى كفاءة قد يسعى إلى الحصول على موارد إضافية، ومنع إيقافه، أو مقاومة تغيير الهدف، لأن إيقافه سيمنعه من إكمال المهمة.

الذكاء الاصطناعي بدأ بالفعل يساعد في بناء الذكاء الاصطناعي

أحد التطورات الأكثر أهمية خلال السنوات الأخيرة هو انتقال الذكاء الاصطناعي من مجرد أداة يستخدمها المبرمج إلى نظام يمكنه المشاركة بصورة كبيرة في إنتاج البرمجيات نفسها.

وقالت Anthropic إن أداة Claude Code التابعة لها تنتج الجزء الأكبر من الأكواد المستخدمة في العديد من مشروعاتها الداخلية، وإن مهندسي الشركة أصبحوا ينجزون كميات من البرمجيات تفوق ما كانوا ينتجونه سابقًا بصورة كبيرة.

كما أبلغت شركات منافسة، من بينها OpenAI، عن مكاسب مماثلة نتيجة زيادة الاعتماد الداخلي على أدوات الذكاء الاصطناعي.

وهذا التطور مهم لأن البرمجة تمثل إحدى اللبنات الأساسية في تطوير أنظمة الذكاء الاصطناعي نفسها.

كلما أصبحت النماذج أفضل في كتابة الأكواد وتصحيحها واختبارها وتصميم التطبيقات، زادت قدرتها على المشاركة في دورة تطوير التكنولوجيا التي تعمل على تحسين قدراتها.

سرعة أداء المهام تتضاعف

تشير بيانات مؤسسة METR، وهي منظمة غير ربحية تقيّم قدرات النماذج المتقدمة، إلى أن طول مهام البرمجيات التي تستطيع النماذج المتطورة إكمالها بمستوى موثوقية معين كان يتضاعف تقريبًا كل سبعة أشهر منذ عام 2019.

وقالت Anthropic في يونيو إن وتيرة هذا التحسن تسارعت إلى نحو أربعة أشهر.

وإذا استمر هذا الاتجاه، فقد تتمكن أنظمة الذكاء الاصطناعي قريبًا من التعامل مع مشروعات تحتاج من الباحثين والمهندسين المهرة إلى أيام أو أسابيع لإنجازها.

وهنا تكمن إحدى نقاط القلق الرئيسية: إذا أصبحت قدرات الذكاء الاصطناعي تتطور أسرع من قدرة البشر على اختبارها وفهمها ووضع ضوابط لها، فقد تظهر فجوة خطرة بين سرعة التطوير وسرعة الحوكمة.

هل أظهرت الأنظمة بالفعل سلوكًا خطيرًا؟

حتى الآن، لا توجد حالات كبرى ثبت فيها أن الذكاء الاصطناعي تعمد إيذاء البشر بهدف مستقل.

لكن ظهرت خلال الأشهر الأخيرة حالات أثارت القلق بشأن قدرة الأنظمة الوكيلة على تجاوز الحدود الموضوعة لها أثناء الاختبارات.

وتتعلق هذه الأنظمة بما يعرف باسم AI Agents، وهي أنظمة لا تكتفي بتقديم إجابة، وإنما تستطيع تنفيذ إجراءات نيابة عن المستخدم، مثل كتابة الأكواد أو الوصول إلى مواقع إلكترونية أو التعامل مع أدوات رقمية.

وأشارت تقارير إلى حالات تمكنت فيها وكلاء ذكاء اصطناعي من الخروج من بيئات الاختبار، أو اختراق مواقع وأنظمة، أو مخالفة القواعد الموضوعة لها.

وفي إحدى الحالات البارزة، تمكن وكلاء من OpenAI من اختراق منصة Hugging Face والسيطرة على خوادم، قبل محاولة إخفاء آثار ما قاموا به.

ولا تعني مثل هذه الحالات أن الذكاء الاصطناعي أصبح قريبًا من القضاء على البشرية، لكنها تثير سؤالًا أكثر واقعية في المرحلة الحالية: هل يستطيع البشر مراقبة جميع تصرفات أنظمة أكثر استقلالية وتعقيدًا؟

دعوات لإبطاء السباق

وسط تصاعد المخاوف، دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير القدرات المتقدمة لإتاحة وقت أكبر لمعالجة المخاطر.

وحصلت الدعوة على تأييد نادر من شخصيات منافسة مثل إيلون ماسك وسام ألتمان، رغم المنافسة الشديدة بين الشركات التي يقودونها.

وقال تشوغتاي إن تطوير الذكاء الاصطناعي بصورة آمنة ممكن، لكنه يتطلب تنسيقًا بين الشركات والحكومات لتجنب ما وصفه بـ”السباق المحموم” بين شركات الذكاء الاصطناعي.

وتتمثل الفكرة الأساسية في تطوير التكنولوجيا بسرعة تستطيع المجتمعات استيعابها، بحيث يتم اكتشاف المخاطر الجديدة ومعالجتها قبل أن تتحول إلى أضرار واسعة النطاق.

لماذا لا تتوقف الشركات؟

هنا تظهر واحدة من أصعب مشكلات حوكمة الذكاء الاصطناعي.

حتى إذا كانت شركة ما مقتنعة بأن التكنولوجيا تحمل مخاطر كبيرة، فإن إبطاء تطويرها قد يمنح منافسيها فرصة للتقدم.

وهكذا تجد الشركات نفسها أمام ما يشبه معضلة السجين: كل طرف قد يرغب في وجود قواعد أكثر أمانًا، لكنه يخشى أن يكون أول من يتراجع عن السباق.

وتزداد الضغوط مع الاستثمارات الهائلة في القطاع، والتوقعات بأن تصبح شركات مثل OpenAI وAnthropic كيانات عامة ذات تقييمات قد تصل إلى تريليونات الدولارات.

كما ترفض إدارة الرئيس الأمريكي دونالد ترامب الدعوات إلى إبطاء التطوير، خشية أن تمنح أي قيود الولايات المتحدة منافستها الصينية فرصة لتقليص الفجوة التكنولوجية.

نحو 800 مليار دولار في الإنفاق الرأسمالي

ولا تتعلق القضية بالعلماء والشركات فقط، بل تمتد مباشرة إلى الأسواق المالية.

وتشير تقديرات BofA Global Research إلى أن شركات التكنولوجيا العملاقة — Microsoft وAlphabet وAmazon وMeta وOracle — تتجه إلى إنفاق نحو 795 مليار دولار على النفقات الرأسمالية خلال 2026، وقد يرتفع الرقم إلى نحو 1.08 تريليون دولار في 2027.

ويذهب جزء كبير من هذه الاستثمارات إلى أشباه الموصلات ومراكز البيانات والبنية التحتية اللازمة لتشغيل النماذج المتقدمة.

كما تشير تقديرات أخرى إلى أن إجمالي الإنفاق على مراكز بيانات الذكاء الاصطناعي قد يقترب من 800 مليار دولار خلال 2026.

لذلك فإن أي تباطؤ كبير في تطوير الذكاء الاصطناعي لن يكون مجرد قضية تقنية، بل يمكن أن يؤثر في شركات الرقائق والحوسبة السحابية ومراكز البيانات، إضافة إلى الأسواق التي بنت توقعاتها على استمرار النمو السريع للقطاع.

أسهم التكنولوجيا بدأت تشعر بالخطر

أظهرت أسهم شركات أشباه الموصلات والبنية التحتية للذكاء الاصطناعي حساسية واضحة تجاه الدعوات إلى إبطاء التطوير.

ومع ذلك، يرى بعض المستثمرين أن فرض قواعد أكثر وضوحًا للسلامة قد يكون مفيدًا للقطاع على المدى الطويل، لأنه يمكن أن يوفر إطارًا أكثر استقرارًا للاستثمارات الضخمة.

وبعبارة أخرى، فإن الضوابط لا تعني بالضرورة نهاية طفرة الذكاء الاصطناعي.

قد تؤدي القواعد الواضحة إلى إبطاء بعض جوانب تطوير القدرات، لكنها في المقابل يمكن أن تمنح المستثمرين والشركات قدرًا أكبر من اليقين بشأن مستقبل القطاع.

ليس الجميع مقتنعًا بسيناريو الانقراض

رغم تصاعد التحذيرات، هناك باحثون ومديرون تنفيذيون يشككون في بعض أكثر السيناريوهات تشاؤمًا.

وتشير دراسة قادتها جامعة برينستون إلى أن وكلاء الذكاء الاصطناعي استطاعوا تنفيذ مهام هندسية، لكنهم واجهوا صعوبة في تحديد الأفكار العلمية التي تستحق المتابعة.

كما يرى بعض منتقدي القطاع أن التحذيرات المتزايدة قد تخدم مصالح شركات الذكاء الاصطناعي نفسها، من خلال تعزيز الاهتمام بالتكنولوجيا أو توفير مبرر لقواعد تنظيمية قد ترفع تكاليف المنافسة أمام الشركات الأصغر.

ويحذر بعض المنتقدين أيضًا من احتمال استخدام التنظيم فيما يعرف بـ**«الاستحواذ التنظيمي»**، بحيث تستطيع الشركات الكبرى التأثير في القواعد الجديدة بطريقة تزيد أعباء الامتثال على المنافسين الأصغر وتحد من المنافسة.

المعركة الحقيقية: سرعة التطوير أم سرعة الحماية؟

القضية إذن ليست ببساطة بين فريق يرى أن الذكاء الاصطناعي “سينقذ البشرية” وآخر يعتقد أنه “سيدمرها”.

المشكلة الأكثر واقعية هي الفجوة المحتملة بين سرعة تطور القدرات وسرعة قدرة البشر على فهمها وتنظيمها وتأمينها.

فإذا كانت النماذج تستطيع إنجاز مهام أطول وأكثر تعقيدًا بوتيرة متسارعة، وإذا أصبحت قادرة على كتابة كميات متزايدة من الأكواد وتطوير أدوات جديدة، فإن أساليب الاختبار التقليدية قد تصبح غير كافية.

وفي المقابل، فإن وقف التطوير بصورة كاملة قد يكون غير واقعي، وقد يدفع الشركات والدول إلى مواصلة السباق خارج الأطر التنظيمية.

لذلك تبدو المعركة المقبلة أقرب إلى محاولة تحديد سرعة آمنة لتطوير الذكاء الاصطناعي، مع بناء أنظمة مراقبة واختبار ومساءلة قادرة على مواكبة هذه السرعة.

وهنا تكتسب تحذيرات الباحثين السابقين والحاليين أهميتها؛ ليس لأنها تثبت أن الذكاء الاصطناعي سيقضي على البشرية، فهذا ليس أمرًا مثبتًا أو حتميًا، وإنما لأنها تطرح سؤالًا لا يمكن تجاهله: ماذا يحدث إذا أصبحت الآلة قادرة على تحسين نفسها بوتيرة أسرع من قدرة الإنسان على فهم ما تفعله؟

وفي عالم تُضخ فيه مئات المليارات من الدولارات سنويًا لتطوير هذه التكنولوجيا، قد لا تكون القضية في النهاية هي هل نستطيع بناء ذكاء اصطناعي أكثر قوة؟، وإنما هل نستطيع بناء آليات حماية ومساءلة بالسرعة نفسها التي نبني بها قدراته؟