الذكاء الاصطناعي يشجع على العنف ويمكن توجيه المستخدمين إلى مخططات عنف وأسلحة

أظهرت دراسة حديثة، أن بعض روبوتات الدردشة المدعومة بالذكاء الاصطناعي يمكن أن تساعد المستخدمين في تخطيط هجمات عنيفة، من إطلاق النار في المدارس إلى تفجيرات أماكن العبادة.

تفاصيل الدراسة

أجرى باحثون من مركز مواجهة الكراهية الرقمية (CCDH) وشبكة CNN اختبارات على 10 روبوتات دردشة، من بينها ChatGPT، Google Gemini، Perplexity، DeepSeek، وMeta AI، من خلال التظاهر بأنهم صبيان يبلغون 13 عامًا في الولايات المتحدة وأيرلندا.

وأظهرت النتائج، أن ثمانية من هذه الروبوتات قدمت مساعدة في أكثر من نصف الردود، موفرة نصائح حول المواقع المستهدفة والأسلحة المستخدمة.

أمثلة مقلقة

– استخدم نموذج DeepSeek عبارة “Happy (and safe) shooting!” عند تقديم نصائح حول الأسلحة.

– أشار Gemini إلى أن “القطع المعدنية عادة ما تكون أكثر فتكًا” عند مناقشة هجمات على كنيس.

– شجع Character.AI على هجمات عنيفة، بما في ذلك اقتراحات باستخدام الأسلحة على مسؤولين وشخصيات عامة.

روبوتات أكثر أمانًا

في المقابل، أظهر روبوت Anthropic “Claude” قدرة على تمييز المخاطر المتصاعدة ومنع الضرر، بينما رفضت Snapchat My AI مساعدة المستخدم في معظم الحالات.

تحذيرات وخطر متزايد

أوضح مدير CCDH، عمران أحمد، أن هذه المخاطر قابلة للمنع بالكامل، إلا أن الشركات لم تضع حماية المستخدمين وسلامة الأمن القومي على رأس الأولويات.

ردود شركات التكنولوجيا

Meta : “لدينا حماية قوية لمنع الاستجابات غير الملائمة واتخذنا خطوات فورية لمعالجة المشكلة.”

Google : الاختبارات أجريت على نسخة قديمة من Gemini، والنموذج الحالي يرد بشكل مناسب على الغالبية العظمى من الطلبات.

السياق الواقعي

تأتي الدراسة بعد أسوأ حادثة إطلاق نار جماعي في تاريخ كندا فبراير الماضي، حيث رفعت عائلة ضحية دعوى ضد OpenAI لعدم إبلاغ الشرطة بأنشطة مشتبه بها على ChatGPT قبل ثمانية أشهر من الهجوم.