هل تتحول روبوتات الدردشة إلى مصدر للخطر الطبي؟ باحثون يكشفون فجوات الرقابة والمحاسبة

حذر باحثون من أن النصائح الطبية التي تقدمها روبوتات الدردشة المدعومة بالذكاء الاصطناعي قد تلحق أضرارًا بالمستخدمين، في ظل غياب آليات منتظمة لتوثيق هذه الأضرار ومتابعتها، وهو ما قد يحول دون اكتشاف أنماط الأخطاء الخطيرة ومحاسبة الجهات المسؤولة عنها.

وتناولت دراسة حديثة حالة رجل يبلغ من العمر 60 عامًا، تعرض للتسمم ودخل المستشفى بعد أن سأل روبوت ChatGPT عن كيفية التخلص من الكلوريد في نظامه الغذائي، عقب قراءته معلومات عن أضرار ملح الطعام.

وبدلًا من استخدام الملح، استبدله الرجل ببروميد الصوديوم، ما أدى إلى إصابته بأعراض شملت الارتياب والهلوسة.
ولم يعرف الأطباء أن روبوت دردشة يعمل بالذكاء الاصطناعي كان طرفًا في الواقعة إلا بعد مرور عدة أيام من العلاج، كما لم يتمكنوا من الاطلاع على المحادثة الأصلية لمعرفة النصيحة التي تلقاها على وجه الدقة.

وتسلط هذه الحالة الضوء على مشكلة أوسع نطاقًا؛ فعندما يحدث خطأ أثناء تقديم الرعاية الطبية، توجد عادة أنظمة في المستشفيات والمؤسسات الصحية لتوثيق الواقعة والتحقيق في أسبابها.
أما عندما تقدم روبوتات الدردشة نصائح طبية ضارة، فقد لا تتوافر سجلات يمكن للأطباء أو الجهات التنظيمية أو الباحثين المستقلين الرجوع إليها.

ويؤدي غياب هذه المعلومات إلى صعوبة اكتشاف الأخطاء المتكررة وتحديد مدى انتشارها والفئات الأكثر تعرضًا لمخاطرها.

تزايد الاعتماد على الذكاء الاصطناعي في الحصول على المعلومات الصحية

قاد الدراسة ماثيو ديفيرنا من جامعة ستانفورد، بمشاركة هاري يوجون يان من جامعة تكساس إيه آند إم، وكاي تشنج يانج، الأستاذ المساعد بجامعة بينجهامتون، وفيليبو مينتسر من جامعة إنديانا.

ونُشرت الدراسة في صورة مقال تحليلي يستند إلى الأدلة والأبحاث المنشورة، ويطرح رؤية بشأن المخاطر المرتبطة باستخدام الذكاء الاصطناعي في تقديم المعلومات الصحية، وليس بوصفها تجربة علمية جديدة.

وقال يانج إن المستخدمين يحصلون على نصائح طبية من روبوتات الدردشة، لكن لا توجد آلية كافية لمتابعة الأخطاء والمشكلات التي قد تنجم عنها، مضيفًا أن غياب هذه المتابعة يجعل من الصعب معرفة ما إذا كانت النصائح قد تسببت في أضرار فعلية.

ووفقًا لاستطلاع أجرته مؤسسة KFF، بحلول مارس 2026، كان نحو شخص واحد من كل ثلاثة بالغين في الولايات المتحدة قد استخدم الذكاء الاصطناعي للحصول على معلومات أو نصائح صحية.

وأوضح الاستطلاع أن 65% من هؤلاء المستخدمين أشاروا إلى أن الرغبة في الحصول على إجابة فورية كانت أحد الأسباب الرئيسية لاستخدامهم هذه الأدوات، بينما قال 36% إنهم يشعرون براحة أكبر عند طرح الأسئلة الصحية في خصوصية.

ولا يتجاهل الباحثون المزايا التي توفرها هذه التقنيات؛ إذ يمكن لروبوتات الدردشة تبسيط المعلومات الطبية المعقدة المكتوبة للأطباء وتحويلها إلى لغة يسهل فهمها، فضلًا عن إتاحتها على مدار الساعة.

كما قد تمثل هذه الأدوات مصدرًا متاحًا للمعلومات بالنسبة إلى الأشخاص الذين لا يجيدون اللغة الإنجليزية أو يعيشون في مناطق تفتقر إلى الخدمات الطبية، أو لا يستطيعون تحمل تكاليف الاستشارات الصحية.

لكن الباحثين يرون أن تزايد الاعتماد على هذه الأدوات لم يصاحبه مستوى مماثل من الرقابة والضمانات.
ففي حين قد تخضع أنظمة الذكاء الاصطناعي المستخدمة داخل المستشفيات للوائح طبية وإجراءات مؤسسية للسلامة، فإن روبوتات الدردشة العامة الموجهة للمستهلكين لا تتمتع بالضرورة بمستوى الحماية نفسه.

وكتب الباحثون أن السؤال المتعلق بألم الصدر يُعامل حاليًا بالطريقة نفسها التي يُعامل بها سؤال عن مواعيد عمل أحد المطاعم، في إشارة إلى عدم التمييز الكافي بين الاستفسارات اليومية والأسئلة الطبية التي قد تترتب على الإجابة عنها عواقب خطيرة.

لماذا تظل أضرار النصائح الطبية غير مرئية؟

تترك أشكال كثيرة من الأضرار الطبية سجلات يمكن مراجعتها. فعندما يتسبب دواء في آثار ضارة، يمكن تقديم بلاغ عن الواقعة، ثم تتراكم البلاغات بما يساعد الجهات المختصة على اكتشاف الأنماط المتكررة وتحديد المخاطر المحتملة.

لكن محادثات المستخدمين مع روبوتات الذكاء الاصطناعي تختلف عن هذه الآلية، بحسب الباحثين، لسببين رئيسيين.
أولهما أن المحادثات لا تكون متاحة عادة إلا للشركة التي تدير النظام، بينما لا يمتلك الباحثون الخارجيون إمكانية كافية لدراسة هذه التفاعلات وتحليل الأخطاء التي قد تتضمنها.

أما السبب الثاني، فيتمثل في أن الإجابات المصاغة بلغة سلسة وواثقة قد لا تمنح المستخدم أي مؤشر على وجود خطأ.
فقد يتلقى شخص يعاني أعراضًا خطيرة تطمينات غير صحيحة، ثم لا يدرك أن تأخر تشخيص حالته ربما ارتبط بالنصيحة التي حصل عليها من روبوت الدردشة.
وتوضح واقعة التسمم ببروميد الصوديوم هذه المشكلة؛ إذ لم يتمكن الأطباء من تحديد النصيحة التي تلقاها الرجل بدقة، لأنهم لم يطلعوا على المحادثة الأصلية التي أجراها مع ChatGPT.

الهلوسة وتسميم البيانات واختلاف دقة الإجابات

حدد الباحثون عددًا من أوجه القصور التي قد تؤدي إلى تقديم معلومات طبية مضللة، من بينها ما يُعرف باسم «الهلوسة» في أنظمة الذكاء الاصطناعي، وهي إنتاج معلومات أو ادعاءات غير صحيحة بصياغة تبدو مقنعة، رغم افتقارها إلى أساس واقعي موثوق.

وأشار الباحثون أيضًا إلى مخاطر «تسميم البيانات»، وهي ممارسة تتضمن إدخال معلومات أو ادعاءات مضللة إلى مواقع الإنترنت أو مصادر البيانات التي قد تستوعبها أنظمة الذكاء الاصطناعي خلال التدريب، بما قد يؤثر في دقة الإجابات التي تقدمها لاحقًا.

وتختلف جودة الإجابات كذلك من روبوت دردشة إلى آخر، بل قد تتغير داخل النظام نفسه تبعًا للطريقة التي يصوغ بها المستخدم سؤاله.
وبالتالي، قد تتوقف جودة النصيحة الصحية التي يحصل عليها الشخص جزئيًا على النظام الذي اختار استخدامه، وليس فقط على طبيعة المشكلة الطبية التي يسأل عنها.

وتزداد المخاوف عندما يتعلق الأمر باللغات الأخرى غير الإنجليزية؛ إذ أشار الباحثون إلى أن الإجابات المقدمة بهذه اللغات قد تكون أقل دقة واتساقًا بدرجة ملحوظة، ما يثير القلق بشأن المستخدمين الذين يعتمدون على هذه الأدوات ولا تتوافر أمامهم بدائل كافية للحصول على المعلومات والرعاية الصحية.

منصات التواصل الاجتماعي توسع نطاق المعلومات الصحية المضللة

لا تقتصر المخاطر على المحادثات الخاصة مع روبوتات الذكاء الاصطناعي، بل تمتد إلى المحتوى الصحي المنشور على منصات التواصل الاجتماعي.

وأشار الباحثون إلى أن روبوت Grok، المدمج في منصة X، يجيب عن أسئلة المستخدمين المتعلقة بالمنشورات المتداولة في الخلاصات العامة، بما في ذلك الموضوعات المرتبطة بسلامة اللقاحات. وتظل هذه الإجابات متاحة أمام مستخدمين آخرين يطالعون المنشورات، حتى إذا لم يطلبوا الحصول على معلومات طبية بأنفسهم.

كما ظهرت حسابات تعتمد بدرجة كبيرة على نصوص أو صور أو مقاطع فيديو مولدة بالذكاء الاصطناعي، وتنشر محتوى صحيًا يبدو موثوقًا، وقد يصل إلى ملايين الأشخاص.

وقال يانج إن المستخدمين قد يصادفون معلومات صحية أثناء تصفح منصات التواصل الاجتماعي، حتى عندما لا يكونون بصدد البحث عن معلومات طبية، محذرًا من النتائج السلبية المحتملة لانتشار المعلومات الطبية المضللة أو محاولات التلاعب بالنقاشات العامة عبر الإنترنت.
وتزداد المشكلة تعقيدًا مع إمكانية استخدام مجموعات من وكلاء الذكاء الاصطناعي لنشر ادعاء صحي واحد عبر حسابات متعددة، بما قد يعطي انطباعًا زائفًا بوجود أصوات مستقلة كثيرة تتفق على صحته.

واستشهد الباحثون بحملات الرسائل المناهضة للقاحات، التي أسهمت، وفقًا لما أشاروا إليه، في خفض معدلات التطعيم خلال جائحة كوفيد-19، محذرين من أن أدوات الذكاء الاصطناعي قد تتيح توسيع نطاق مثل هذه الحملات على منصات التواصل الاجتماعي.

وفي الوقت نفسه، يواجه الباحثون صعوبة في قياس مدى تعرض المستخدمين لهذا النوع من المحتوى، بعدما قلصت المنصات إمكانية الوصول إلى البيانات التي كانت تتيح دراسة كيفية انتشار المنشورات والمعلومات بين المستخدمين.

الباحثون يطالبون بتوثيق المحادثات والتحقيق في الأضرار

طرح الباحثون مجموعة من الإجراءات التي يرون ضرورة اتخاذها لتحسين الرقابة على النصائح الصحية التي تقدمها أنظمة الذكاء الاصطناعي.

وتتمثل الخطوة الأولى في تمكين المستخدمين من الاطلاع على محادثاتهم الصحية مع هذه الأنظمة، بما يسمح بإعادة بناء التفاعل الذي أدى إلى الضرر، وعرضه على الطبيب المعالج لفهم ما حدث.

كما دعوا إلى إنشاء آلية للإبلاغ عن المحادثات الضارة والتحقيق فيها، على غرار الأنظمة المستخدمة في رصد الآثار الجانبية للأدوية.

ويرى الباحثون أن الشركات الكبرى المطورة للذكاء الاصطناعي تمتلك بالفعل الإمكانات التقنية اللازمة لإنشاء هذه الأنظمة، لكنهم حذروا من ترك تحديد طبيعة الأضرار وتقييمها للشركات نفسها دون رقابة مستقلة.
وطالبوا كذلك بمنح الباحثين المستقلين إمكانية مستمرة لدراسة الأنظمة المستخدمة فعليًا، وبمختلف اللغات التي تدعمها، حتى يمكن تقييم دقة الإجابات وتحديد الأخطاء والفئات الأكثر تعرضًا للمخاطر.

ومن بين المقترحات أيضًا وضع علامات واضحة على المحتوى الصحي المولد بالذكاء الاصطناعي، وعدم إتاحته قبل مراجعته من خبراء مختصين، إلى جانب تصنيف الأسئلة الصحية باعتبارها أسئلة عالية الحساسية، وتوجيه الإجابات نحو مصادر موثوقة خضعت للمراجعة من الجهات والجمعيات الطبية المتخصصة.

هل تتحمل روبوتات الدردشة المسؤولية القانونية عن النصائح الطبية؟

تتعلق التوصية الأخيرة بالمساءلة القانونية؛ إذ دعا الباحثون إلى تطبيق قواعد للمسؤولية القانونية المشابهة لتلك المطبقة في حالات الإهمال الطبي على أنظمة الذكاء الاصطناعي التي تقدم إرشادات طبية.

كما طالبوا بإجراء تعديلات على المادة 230 من القانون الأمريكي، التي توفر عمومًا حماية قانونية للمنصات الإلكترونية من المسؤولية عن أنواع معينة من المحتوى الذي ينشره أطراف آخرون.
وقال يانج إن الاعتماد على الشركات وحدها لمعالجة هذه المشكلة ليس كافيًا، نظرًا إلى أن دوافعها التجارية قد لا تتوافق دائمًا مع إنشاء أنظمة رقابة مستقلة، مؤكدًا أهمية وجود جهات خارجية تتولى التقييم والمتابعة.

وفي الوقت الراهن، لا تتوافر معلومات كافية لتحديد معدل الأخطاء في النصائح الصحية التي يقدمها الذكاء الاصطناعي، أو معرفة ما إذا كانت أضرارها تقع بصورة أكبر على فئات معينة من المستخدمين. ويرجع ذلك، وفقًا للباحثين، إلى أن البيانات اللازمة للإجابة عن هذه الأسئلة تظل في حوزة الشركات المطورة للأنظمة.

ورغم أن تعديل القوانين قد يستغرق سنوات، يرى الباحثون أن شركات الذكاء الاصطناعي ومنصات التواصل الاجتماعي تستطيع البدء فورًا في تطبيق عدد من إجراءات الحماية المقترحة.
ونُشرت الدراسة كاملة في مجلة Nature Health، داعية إلى بناء منظومة مستقلة لرصد الأضرار المرتبطة بالنصائح الصحية للذكاء الاصطناعي، بما يتيح اكتشاف الأخطاء وتقييم المخاطر وتعزيز المساءلة.