دراسة من ستانفورد تكشف خللًا خطيرًا في تقييم أمان الذكاء الاصطناعي بالصحة النفسية
الصحة النفسية والذكاء الاصطناعي.. تحديات جديدة تتطلب حلولًا عاجلة

كشفت دراسة حديثة صادرة عن جامعة ستانفورد عن خلل جوهري في آليات اختبار أمان تطبيقات الذكاء الاصطناعي المستخدمة في مجال الصحة النفسية، في وقت يتزايد فيه اعتماد المستخدمين على روبوتات الدردشة كمدربين حياتيين ومستشارين نفسيين.
ومع هذا التوسع، يعتمد مطورو نماذج اللغة الكبيرة على خبراء بشريين، مثل الأطباء النفسيين وعلماء النفس، لتقييم استجابات الذكاء الاصطناعي وتحديد مدى “أمانها” عند التعامل مع قضايا حساسة ومعقدة. لكن المشكلة، كما تكشف الدراسة، أن هؤلاء الخبراء نادرًا ما يتفقون على تعريف موحد لما يُعد استجابة آمنة.
في الوقت الحالي، يخضع كل نموذج جديد من الذكاء الاصطناعي لسلسلة من الاختبارات القياسية التي تتضمن أسئلة تتعلق بالصحة النفسية، حيث يقوم خبراء بتقييم إجابات النموذج وفق مقياس كمي، بهدف قياس مدى نجاحه في تقديم نصائح آمنة. ويُفترض أن تساعد هذه التقييمات المطورين على تحسين أداء النماذج وجعلها أكثر أمانًا.

غير أن السؤال الذي طرحه باحثو ستانفورد كان: ماذا يحدث إذا اختلف الخبراء؟
للإجابة عن هذا التساؤل، طلب الباحثون من ثلاثة أطباء نفسيين معتمدين تقييم 360 استجابة صادرة عن أنظمة ذكاء اصطناعي، تم إنشاؤها بناءً على سيناريوهات افتراضية تتعلق بالصحة النفسية، مع التأكيد على عدم استخدام أي بيانات حقيقية أو معلومات شخصية حفاظًا على الخصوصية.
وأظهرت النتائج وجود اختلافات كبيرة ومتكررة بين تقييمات الخبراء، ما يضع المطورين أمام تحدٍ حقيقي في كيفية تحسين أمان هذه الأنظمة.
وتوضح كيانا جعفري، الباحثة الرئيسية في الدراسة، أن الحاجة إلى دقة الذكاء الاصطناعي تكون أكثر إلحاحًا في مجال الصحة النفسية، خاصة في الحالات عالية الخطورة، مثل المستخدمين الذين يعانون من أفكار انتحارية أو ميول لإيذاء النفس، مشيرة إلى أن طرق التقييم الحالية قد تشكل خطرًا على المستخدمين بدلًا من حمايتهم.

متوسط التقييمات لا يحل المشكلة
يعتقد البعض أن حل هذه الإشكالية يكمن في أخذ متوسط تقييمات الخبراء للوصول إلى نتيجة موحدة، إلا أن الدراسة أثبتت عكس ذلك. فقد تبين أن حساب المتوسط لا يؤدي إلى تحسين التقييم، بل قد ينتج عنه استجابة لا تعكس رأي أي خبير بشكل دقيق.
وتؤكد الدراسة أن المشكلة ليست مجرد اختلافات عشوائية أو تحيزات في البيانات، بل هي اختلافات هيكلية ناتجة عن تباين المدارس والأساليب المهنية التي يعتمدها كل خبير في التشخيص والعلاج.
كما أظهرت نتائج إضافية، شملت استطلاع آراء أكثر من 100 طبيب نفسي خلال مؤتمر علمي، استمرار هذا التباين حتى مع زيادة عدد الخبراء، حيث جاءت التقييمات متقاربة في الانقسام بشأن معايير مثل الأمان والتعاطف والدقة.
ويشير الباحثون إلى أن كل خبير ليس بالضرورة مخطئًا، بل يعكس حكمًا مهنيًا مختلفًا يستند إلى إطار علمي معتبر، ما يجعل الوصول إلى “حقيقة واحدة” أمرًا معقدًا.
تحديات خاصة بالحالات عالية الخطورة
تزداد خطورة هذه الفجوة في التقييم عند التعامل مع حالات نفسية حساسة، مثل الاكتئاب الحاد أو الذهان أو اضطرابات الأكل، حيث يصبح غياب التوافق بين الخبراء عائقًا أمام ضمان أمان المستخدمين.
وتؤكد الدراسة أن مستوى موثوقية التقييمات ينخفض في هذه الحالات إلى ما دون الحدود المقبولة، ما يشير إلى أن تقنيات الذكاء الاصطناعي لم تصل بعد إلى المستوى المطلوب من الأمان في هذا المجال.

مقترحات لتحسين الأمان
في ضوء هذه النتائج، يدعو الباحثون إلى إعادة النظر في طرق تقييم أمان الذكاء الاصطناعي، مع طرح مجموعة من الحلول العملية.
أولًا، ضرورة تعزيز الشفافية من قبل الشركات المطورة، من خلال الكشف عن معايير التقييم المستخدمة ومدى موثوقيتها، إضافة إلى توضيح الأطر النظرية التي يستند إليها كل نموذج.
ثانيًا، بدلًا من محاولة دمج التقييمات المختلفة في نتيجة واحدة، يُنصح بتطوير نماذج منفصلة لكل إطار مهني، مثل النهج الذي يركز على السلامة أو التفاعل أو الاعتبارات الثقافية، واستخدام كل منها في السياق المناسب.
ثالثًا، التعامل مع اختلاف آراء الخبراء باعتباره مؤشرًا على تعقيد المشكلة، وليس خطأً يجب التخلص منه، مع ضرورة تصعيد الحالات التي تشهد تباينًا كبيرًا لمراجعة بشرية أعمق.
وفي ختام الدراسة، يؤكد الباحثون أن الخلاف بين الخبراء ليس مشكلة قياس يمكن حلها بسهولة، بل هو واقع أساسي يجب أخذه في الاعتبار عند تصميم أنظمة الذكاء الاصطناعي، خاصة في المجالات الحساسة مثل الصحة النفسية، لضمان حماية المستخدمين وتقليل المخاطر المحتملة.





