أطلق عالم الكمبيوتر الكندي يوشوا بنجيو، أحد أبرز رواد الذكاء الاصطناعي والحائز على جائزة تورينج، تحذيرًا من تسارع تطور أنظمة الذكاء الاصطناعي، داعيًا إلى وضع ضوابط وحواجز أمان دولية تشبه في بعض جوانبها الأطر التي تحكم الأسلحة النووية.
وقال بنجيو، في حديث لوكالة فرانس برس، إن البشرية «تفقد السيطرة» على التكنولوجيا، معتبرًا أن النقاشات المتعلقة بسلامة الذكاء الاصطناعي لم تكن حتى الآن بالقوة الكافية لمواكبة سرعة التطور.
ويأتي تحذيره في وقت تتزايد فيه المخاوف بشأن وكلاء الذكاء الاصطناعي المستقلين، وهي أنظمة قادرة على تنفيذ مهام واتخاذ إجراءات بدرجة أكبر من الاستقلالية، بدلًا من الاكتفاء بالرد على طلبات المستخدمين.
«الأمور تتطور بسرعة كبيرة»
يرى بنجيو أن السرعة التي يتقدم بها الذكاء الاصطناعي أصبحت مصدر قلق متزايد، مشيرًا إلى أن بعض العاملين في شركات تكنولوجية كبرى بدأوا يحذرون علنًا من المخاطر المحتملة للتطور المتسارع للتكنولوجيا.
وقال إن هناك سببًا وراء حديث شركات وأفراد في القطاع عن أن التطور «يسير بسرعة كبيرة» وأن البشر «يفقدون السيطرة»، مضيفًا أن باحثين مثله كانوا يتوقعون ظهور هذه المشكلات منذ فترة طويلة.
وبنجيو، الأستاذ في جامعة مونتريال، يُعد أحد مؤسسي مجال الذكاء الاصطناعي الحديث، وقد حصل عام 2018 على جائزة تورينج، التي تعد من أبرز الجوائز العالمية في علوم الحاسوب، بالمشاركة مع جيفري هينتون.
الوكلاء المستقلون في قلب المخاوف
يركز بنجيو بصورة خاصة على ما يعتبره أحد أخطر التحولات الحالية في الذكاء الاصطناعي: انتقال الأنظمة من مجرد تقديم المعلومات أو تنفيذ أوامر محددة إلى برامج قادرة على التخطيط واتخاذ إجراءات وتنفيذ مهام بصورة مستقلة نسبيًا.
وتزايدت المخاوف بشأن هذا النوع من الأنظمة بعد الكشف عن حادثة تضمنت استخدام مجموعة من وكلاء الذكاء الاصطناعي لتنفيذ اختراق غير مصرح به لمنصة Hugging Face مفتوحة المصدر في يوليو.
ويرى بنجيو أن قدرة هذه الأنظمة على تنفيذ أفعال بصورة ذاتية تمثل عنصرًا أساسيًا في المخاطر المستقبلية، محذرًا من احتمال تطوير وكلاء يستطيعون تجاوز حواجز الأمن السيبراني والوصول إلى أنظمة وشركات مختلفة.
ولا تقتصر المشكلة، من وجهة نظره، على قدرة الذكاء الاصطناعي على إنتاج نصوص أو صور أو أكواد، وإنما على إمكانية أن تصبح الأنظمة فاعلة داخل العالم الرقمي، قادرة على استخدام الأدوات والوصول إلى الشبكات واتخاذ سلسلة من الإجراءات دون تدخل بشري مستمر.
التأثير في البشر.. تهديد مختلف
ويحذر بنجيو كذلك من جانب آخر لا يتعلق بالاختراقات التقنية، وإنما بقدرة أنظمة الذكاء الاصطناعي على التأثير في السلوك البشري.
فكلما أصبحت الأنظمة أكثر قدرة على التفاعل الفردي وفهم المستخدمين، يمكنها نظريًا بناء علاقات شخصية معهم واستخدام أساليب إقناع أكثر تطورًا.
ويرى بنجيو أن هذه القدرة قد تسمح لوكلاء الذكاء الاصطناعي بإقناع أشخاص باتخاذ إجراءات تخدم أهداف النظام، لكنها ليست بالضرورة في مصلحة المجتمع ككل.
ويعتبر أن مثل هذه القدرة قد تكون لها آثار واسعة على الديمقراطيات والمجتمعات وآليات اتخاذ القرار، خصوصًا إذا أصبحت الأنظمة قادرة على التواصل مع أعداد كبيرة من البشر بصورة شخصية ومستمرة.
من العالم الرقمي إلى العالم المادي
ويذهب تحذير بنجيو إلى أبعد من ذلك، إذ يرى أنه على المدى الطويل قد لا تحتاج بعض أنظمة الذكاء الاصطناعي إلى البشر لتنفيذ أفعال حقيقية في العالم المادي، إذا أصبحت مرتبطة بما يكفي من الأنظمة والأدوات والآلات.
ويطرح العالم احتمالًا بالغ الخطورة في هذا السيناريو، يصل في أحد أطرافه القصوى، بحسب وصفه، إلى تدمير البشرية.
لكنه أقر بأن هذا يمثل السيناريو الأكثر تطرفًا، مشيرًا في الوقت نفسه إلى أن المخاطر الأقل تطرفًا يمكن أن تكون شديدة الخطورة أيضًا، مثل تعطيل نظام مصرفي على نطاق واسع.
وهنا ينتقل النقاش من سيناريوهات وجودية بعيدة إلى مخاطر أكثر مباشرة تتعلق بالبنية التحتية الرقمية والاقتصاد والأمن السيبراني.
هل يحتاج الذكاء الاصطناعي إلى «معاهدة نووية»؟
يرى بنجيو أن التعامل مع الذكاء الاصطناعي المتقدم يجب ألا يكون قضية تترك لكل شركة أو دولة بمفردها.
ويشبه التحدي، من الناحية المؤسسية، بالتحدي الذي تمثله الأسلحة النووية، ليس باعتبار التكنولوجيا متطابقة، وإنما بسبب الطبيعة العابرة للحدود للمخاطر والحاجة إلى قواعد مشتركة.
وقال إن المجتمع الدولي يحتاج إلى فهم القوة التكنولوجية التي يجري إدخالها إلى العالم، وإدارتها من خلال المؤسسات والمعاهدات والضمانات الديمقراطية.
ويعتقد أن المجتمع يحتاج أيضًا إلى الوقت اللازم لبناء هذه الأطر قبل أن تتجاوز سرعة التطور قدرة الحكومات والمؤسسات على الاستجابة.
شركات الذكاء الاصطناعي تتحرك نحو معايير مشتركة
وفي الوقت نفسه، بدأت شركات كبرى في صناعة الذكاء الاصطناعي، من بينها OpenAI وAnthropic وGoogle، العمل على إنشاء هيئة للمعايير، في خطوة تعكس جانبًا من النقاش المتزايد حول الحاجة إلى قواعد مشتركة للسلامة.
وتأتي هذه التحركات وسط مخاوف من أن يؤدي التنافس بين الشركات والدول إلى إعطاء الأولوية للسرعة والحصة السوقية على حساب إجراءات السلامة.
لكن بنجيو يرى أن أي إطار تنظيمي فعال يجب أن يشمل جميع الشركات، وليس فقط بعض الجهات، مع اهتمام خاص بالشركات الأمريكية التي تهيمن حاليًا على جزء كبير من قطاع الذكاء الاصطناعي المتقدم.
انقسام في المواقف السياسية
ولا تتفق الحكومات الكبرى بالضرورة على مستوى المخاطر أو سرعة التدخل المطلوبة.
وبحسب التقرير، قلل الرئيس الأمريكي دونالد ترامب من التحذيرات بشأن مخاطر الذكاء الاصطناعي، واصفًا إياها بأنها «خدع»، في حين تظهر في الاتحاد الأوروبي إشارات أكبر إلى الرغبة في مناقشة آليات لضبط وتيرة التطور عند الحدود القصوى للتكنولوجيا.
وقالت رئيسة المفوضية الأوروبية أورسولا فون دير لاين إنها ستدعو أكبر مختبرات الذكاء الاصطناعي في العالم إلى محادثات بشأن كيفية دعم جهود الصناعة المتعلقة بضبط وتيرة تطوير التقنيات المتقدمة.
كما تحدث رئيس الوزراء الكندي مارك كارني مرارًا عن التعاون مع الاتحاد الأوروبي في مجال سلامة الذكاء الاصطناعي.
بنجيو يؤسس منظمة للذكاء الاصطناعي الآمن
وكان بنجيو قد أسس العام الماضي منظمة غير ربحية تحمل اسم LawZero، بهدف تطوير شكل من الذكاء الاصطناعي المتقدم مصمم منذ البداية ليكون أكثر موثوقية وأمانًا.
وحصلت المنظمة على تمويل بقيمة 300 مليون دولار كندي، أي نحو 216 مليون دولار أمريكي، من حكومتي كندا وألمانيا، في إطار جهود البلدين لتعزيز التعاون في مجال الذكاء الاصطناعي.
وتعكس هذه الخطوة توجهًا متزايدًا لدى بعض الباحثين نحو تطوير أنظمة تضع السلامة والموثوقية في صميم تصميمها، بدلًا من محاولة إضافة إجراءات أمان إلى أنظمة أصبحت قدراتها الأساسية متقدمة بالفعل.
السباق بين السرعة والسلامة
المعضلة التي يطرحها بنجيو لا تتعلق فقط بما يستطيع الذكاء الاصطناعي فعله اليوم، وإنما بسرعة انتقاله إلى مستويات جديدة من الاستقلالية.
فكلما أصبحت الأنظمة قادرة على استخدام الأدوات، والتفاعل مع الشبكات، وتنفيذ المهام المتعددة، والتأثير في البشر، تتسع مساحة المخاطر المحتملة، وفي المقابل يصبح اختبار كل قدرة جديدة وتأمينها قبل نشرها تحديًا أكثر تعقيدًا.
ولهذا يدعو بنجيو إلى التعامل مع سلامة الذكاء الاصطناعي باعتبارها قضية دولية تتطلب مؤسسات وقواعد واتفاقات مشتركة، بدلًا من تركها بالكامل لمنطق المنافسة التجارية والتكنولوجية.
ورغم تحذيراته الشديدة، أعرب العالم الكندي عن تفاؤله بإمكانية توجيه تطور الذكاء الاصطناعي نحو عالم أكثر توافقًا مع القيم الديمقراطية وتقاسم القوة.
لكن الرسالة الأساسية في تحذيره واضحة: كلما أصبحت أنظمة الذكاء الاصطناعي أكثر استقلالًا، أصبح بناء آليات للرقابة والسلامة والحوكمة أكثر إلحاحًا، قبل أن يصبح التطور التكنولوجي أسرع من قدرة المجتمع على وضع قواعده.
