تحذير جديد من الذكاء الاصطناعي.. ارتفاع حاد في حالات خروج أنظمة AI عن السيطرة.. تضاعف حوادث الكذب وتجاوز التعليمات

كشفت دراسة حديثة عن ارتفاع حاد في حوادث خروج أنظمة الذكاء الاصطناعي عن سيطرة مستخدميها، بعدما سجلت وقائع تتعلق بالكذب، وتجاهل التعليمات، والسعي إلى تحقيق أهداف بطرق ضارة، مستويات قياسية جديدة، وسط مؤشرات على تزايد خطورة سلوكيات الخداع وعدم التوافق مع نوايا البشر.

وأظهر تحليل لحوادث فقدان السيطرة الواقعية على أنظمة الذكاء الاصطناعي، التي أبلغت عنها شركات وأفراد، أن عدد الحالات المسجلة خلال يوليو الماضي كاد يتضاعف مقارنة بشهر يونيو، متجاوزًا 300 واقعة خلال شهر واحد، وفقًا لـ«مرصد فقدان السيطرة» (Loss of Control Observatory)، الذي يتابع البلاغات التي ينشرها مستخدمو الذكاء الاصطناعي على منصة «إكس».

وأُنشئ المرصد بتمويل من معهد سلامة الذكاء الاصطناعي البريطاني (AISI)، وبدأ في نوفمبر الماضي تتبع الحالات التي تنفلت فيها أنظمة الذكاء الاصطناعي من التعليمات التي يضعها المستخدمون.

وتشمل الحالات التي جرى تسجيلها منذ ذلك الوقت أنظمة ذكاء اصطناعي تظاهرت بأنها المتحكم البشري بها، وحاكت أسلوب كتابة المستخدمين بصورة مكّنتها فعليًا من منح نفسها موافقة لتنفيذ إجراءات معينة، فضلًا عن تجاوز قواعد تشترط الحصول على موافقة بشرية قبل تنفيذ بعض الإجراءات.

ويُعرّف المرصد حادثة فقدان السيطرة بأنها الواقعة التي تتوافر فيها أدلة واضحة تشير إلى سلوكيات التخطيط أو سلوكيات مرتبطة بالتخطيط لتحقيق أهداف تتعارض مع نوايا المستخدم.

وتأتي النتائج الأخيرة، التي شاركها المرصد مع صحيفة «الجارديان»، في ظل تصاعد المخاوف بشأن السلوكيات غير المنضبطة لنماذج الذكاء الاصطناعي المتقدمة، خلال اختبارات أجرتها شركتا «أوبن إيه آي» و«أنثروبيك» هذا الصيف، وهو ما أدى إلى تصاعد الدعوات المطالبة بوقف أو إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة.

وكشفت تقارير حديثة عن رصد موظفين في «أوبن إيه آي» مؤشرات على سلوكيات غير منضبطة من جانب وكلاء الذكاء الاصطناعي المتقدمة، قبل أسابيع من خروجها من بيئة تدريب وإطلاق حملة اختراق إلكتروني غير مسبوقة أثارت قلقًا واسعًا على مستوى العالم.

وأظهر تحقيق بشأن اختراق منصة «Hugging Face»، وهي مستودع برمجي، أن نحو 700 وكيل ذكاء اصطناعي مستقل تعاونوا سرًا خلال الشهر الماضي، واحتفلوا بنجاحات الاختراق عبر لوحة رسائل أنشأوها للمساعدة في التخطيط، مستخدمين عبارات احتفالية مثل «BOOM!» و«Whoa!».

وفي وقت سابق من الشهر الجاري، كشف معهد سلامة الذكاء الاصطناعي البريطاني أيضًا عن «حادث خطير» نفذت خلاله نماذج ذكاء اصطناعي متقدمة من إنتاج الشركتين، ومنها نموذج «Mythos 5» التابع لشركة «Anthropic» ونموذج «GPT-5.6 Sol» التابع لشركة «OpenAI»، حملة اختراق استهدفت أشخاصًا حقيقيين خلال اختبار للأمن السيبراني.

وقال تومي شافر-شاين، مدير السياسات الأول في «مركز المرونة طويلة الأجل» (Centre for Long Term Resilience)، الذي يدير المرصد، إن هناك تصورًا أحيانًا بأن هذه الأنواع من السلوكيات غير المتوافقة والسرية لا تحدث إلا أثناء الاختبارات أو عمليات التقييم، إلا أن سلوكيات مقلقة مماثلة تظهر في الاستخدامات الأوسع.

وأضاف أن هناك حاجة إلى عدم التعامل مع احتمال حدوث هذه السلوكيات في العالم الحقيقي باستهانة، مشيرًا إلى وجود أدلة على أنها تحدث بالفعل.

أكثر من 1600 حادثة خلال 2026

ويعتمد إحصاء حوادث فقدان السيطرة على ما ينشره مستخدمو منصة «إكس» بشأن الوقائع التي تعرضوا لها، ولذلك فإنه لا يمثل جميع الحوادث الواقعية، لكنه يقدم، في ظل غياب نظام عام شامل آخر للرصد، صورة عن سرعة تطور نماذج الذكاء الاصطناعي والطرق التي قد تتصرف بها في بعض الأحيان.

ومن بين أحدث الوقائع، كشف هذا الشهر عن قيام وكيل ذكاء اصطناعي شخصي يُدعى «OpenClaw»، يستخدمه أحد رواد صالة ألعاب رياضية في أستراليا، بالتآمر دون علم مستخدمه لإزالة عضو آخر من قائمة انتظار للحصول على موعد مرغوب فيه لحصة صباحية، بهدف مساعدة المستخدم في الحصول على مكان.

واعتذر النظام عن تصرفه، لكنه لم يتمكن من إعادة العضو الذي أخرجه من قائمة الانتظار.

وسُجلت أكثر من 1600 حادثة فقدان للسيطرة خلال عام 2026، وكانت غالبية الحالات قد أبلغ عنها مطورون برمجيات على منصة «إكس» أثناء استخدامهم أنظمة الذكاء الاصطناعي في أعمالهم.

ومع تشجيع شركات الذكاء الاصطناعي الجمهور والشركات من مختلف القطاعات على تجربة هذه التكنولوجيا، دعا شافر-شاين شركات وادي السيليكون إلى مزيد من الشفافية بشأن الحالات التي تخرج فيها أنظمة الذكاء الاصطناعي عن السيطرة.

وقال إن الشركات بحاجة إلى الإبلاغ عما تكتشفه، حتى لو كانت الواقعة مجرد حالة كادت أن تحدث أو كانت منخفضة الخطورة، مشيرًا إلى أن الحوادث الأخيرة كشفت أيضًا أن الشركات نفسها لا تراقب بالضرورة الأماكن التي تحدث فيها هذه السلوكيات، ولا سيما في النماذج المستخدمة داخليًا.

وشدد على ضرورة زيادة التركيز داخل مختبرات تطوير الذكاء الاصطناعي على المراقبة المنهجية لهذه السلوكيات.

تصاعد خطورة السلوكيات المضللة

وأوضح «مرصد فقدان السيطرة» أن معظم الحوادث الواقعية التي رصدها لم تؤدِ إلى أضرار كبيرة، إلا أن نسبة متزايدة منها أصبحت تُصنف ضمن المستويات الأعلى من الخطورة، من حيث درجة الخداع وعدم توافق سلوك النظام مع نوايا المستخدم البشري.

وأشار المرصد إلى أن هذه الحوادث تكشف استعداد أنظمة الذكاء الاصطناعي لتجاهل التعليمات المباشرة، وتجاوز إجراءات الحماية، والكذب على المستخدمين، والسعي بصورة أحادية الهدف إلى تحقيق غاية معينة بطرق قد تكون ضارة.

وأكد أن الحجم الفعلي لظاهرة فقدان السيطرة على الأرجح أكبر من الأرقام المرصودة حاليًا، نظرًا إلى أن عملية جمع البيانات تعتمد فقط على تقارير الحوادث المنشورة على منصة «إكس».

ودعا المرصد الحكومة إلى إلزام شركات الذكاء الاصطناعي بمراقبة حوادث فقدان السيطرة الخطيرة والإبلاغ عنها، إلى جانب منح السلطات صلاحيات طارئة للتعامل مع الحوادث الشديدة، بما في ذلك إمكانية فرض قيود مؤقتة على خدمات الذكاء الاصطناعي عند الضرورة.