اليونسكو: نماذج الذكاء الاصطناعي قد تروج لإنكار تغير المناخ وتتبنى معلومات مضللة لإرضاء المستخدمين
8 من كل 10 حالات.. الذكاء الاصطناعي يتخلى عن الحقائق العلمية لمجاراة المستخدمين

كشفت دراسة جديدة مدعومة من الأمم المتحدة أن نماذج الذكاء الاصطناعي يمكن أن تتحول سريعًا إلى أدوات لترويج إنكار أزمة المناخ، بمجرد أن يواجهها المستخدم بأبسط أشكال الاعتراض أو التشكيك في المعلومات التي تقدمها.
وأوضحت الدراسة أنه رغم قدرة نماذج الذكاء الاصطناعي على تأكيد الحقائق الأساسية المتعلقة بتغير المناخ بدقة، فإنها عندما تتراجع عن الإجابات الصحيحة وتتبنى معلومات خاطئة، فإن ذلك يحدث في 8 حالات من كل 10 عند أول إشارة بسيطة إلى عدم موافقة المستخدم على إجاباتها.
ومن بين المعلومات المضللة التي وافقت عليها بعض النماذج، الادعاء بأن ثاني أكسيد الكربون ليس المحرك الرئيسي لتغير المناخ.
وكشف التقرير عن ميل واضح لدى نماذج الذكاء الاصطناعي إلى ما يُعرف بـ«التملق للمستخدم» (Sycophancy)، وهي ظاهرة تجعل النموذج أكثر اهتمامًا بإرضاء المستخدم ومجاراة آرائه، بدلًا من التمسك بالحقائق العلمية والمعلومات الموثوقة.
وسبق أن رصدت دراسات هذه المشكلة عند استخدام الأشخاص روبوتات المحادثة المدعومة بالذكاء الاصطناعي للحصول على نصائح شخصية، حيث تميل بعض النماذج إلى تقديم إجابات تتوافق مع توقعات المستخدمين ورغباتهم، حتى عندما تكون هذه الإجابات غير صحيحة.
وصدر التقرير عن منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو)، بالتعاون مع كلية لندن الجامعية (UCL)، وأُطلقت نتائجه خلال قمة الأمم المتحدة للمناخ COP31 في تركيا، اليوم الاثنين، بعد اختبار 15 نموذجًا من أشهر نماذج الذكاء الاصطناعي المستخدمة عالميًا.
وقالت ليونا فيرداديرو، الباحثة الرئيسية في إعداد التقرير من اليونسكو، إن الذكاء الاصطناعي ليس محايدًا، موضحة أن استجابته للمستخدم قد تدفعه إلى تبني تفضيلاته وآرائه بدلًا من الالتزام بالحقائق.
وأضافت أن قدرة هذه النماذج على التخلي بسهولة عن الحقيقة ومجاراة المستخدم في تبني المعلومات المضللة تكشف أنها أنظمة ضعيفة وقابلة للخطأ.

الذكاء الاصطناعي يتعثر عند الجمع بين السياسات المناخية
وأظهرت الدراسة أن أداء نماذج الذكاء الاصطناعي يختلف بصورة كبيرة باختلاف طبيعة الأسئلة المتعلقة بالسياسات المناخية.
فعندما طُلب من النماذج توضيح كيفية عمل سياسة مناخية واحدة، مثل فرض ضريبة على انبعاثات الكربون، جاءت معظم الإجابات دقيقة إلى حد كبير.
لكن عندما طُلب منها تفسير كيفية عمل سياستين مناخيتين معًا، تراجعت مستويات الدقة بصورة حادة، حتى أصبحت النتائج لا تتجاوز مستوى التخمين العشوائي تقريبًا، وفقًا للباحثين.
وقالت الدكتورة ماريا بيريز أورتيز، من قسم علوم الكمبيوتر بكلية لندن الجامعية، وأحد كبار الباحثين المشاركين في إعداد التقرير، إن أنظمة الذكاء الاصطناعي تتمتع بقدرة ملحوظة على شرح المعارف العلمية، وهو ما قد يمنح المستخدمين انطباعًا مبالغًا فيه بشأن قدراتها الفعلية.
وأضافت أن نتائج الدراسة توضح ضرورة توخي الحذر عند الانتقال من سؤال الذكاء الاصطناعي عما نعرفه بشأن تغير المناخ إلى سؤاله عما ينبغي علينا فعله لمواجهة الأزمة.

فجوة لغوية تهدد دقة المعلومات المناخية
ولم تقتصر مشكلات نماذج الذكاء الاصطناعي على التعامل مع المعلومات العلمية أو السياسات المناخية، بل امتدت أيضًا إلى اللغات التي يستخدمها الأشخاص في التواصل معها.
وسجلت الدراسة دقة بلغت 88% في الإجابات المقدمة للمستخدمين الذين يتحدثون الإنجليزية، مع مستويات مرتفعة نسبيًا في اللغات الإسبانية والفرنسية والبرتغالية.
في المقابل، انخفضت دقة الإجابات عند استخدام لغات مثل الهندية والبنغالية والأردية، بينما سجلت أدنى مستويات الدقة لدى المستخدمين الناطقين باللغة السواحيلية، بنسبة بلغت 78%.
وأشار معدّو التقرير إلى أهمية هذه النتائج، نظرًا إلى أن هذه اللغات تُستخدم في مناطق تُعد من بين الأكثر تعرضًا لتأثيرات أزمة المناخ، ما يثير مخاوف بشأن حصول المجتمعات الأكثر تضررًا من تغير المناخ على معلومات علمية دقيقة وموثوقة من أدوات الذكاء الاصطناعي.

تعهد تركي لتوظيف الذكاء الاصطناعي في مواجهة تغير المناخ
ونُشر التقرير في اليوم نفسه الذي أطلقت فيه تركيا، الدولة المستضيفة لمؤتمر COP31، تعهد أنطاليا للذكاء الاصطناعي، بهدف جعل هذه التكنولوجيا جزءًا من الحلول المستخدمة لمواجهة تغير المناخ، مع التركيز على تشغيل مراكز البيانات باستخدام مصادر طاقة مستدامة.
وقالت جولي سيركيرا، من مجلس الدفاع عن الموارد الطبيعية (NRDC)، إن التوسع السريع في استخدام الذكاء الاصطناعي يثير مجموعة جديدة من المخاوف البيئية والوجودية على مستوى العالم.
وأضافت أن التعهد التركي يمثل خطوة مهمة في الاتجاه الصحيح، لكن هناك حاجة إلى مزيد من الجهود والتحرك السريع لمواكبة التطور المتسارع لهذه الصناعة، في ظل اندفاع الشركات نحو الاستثمار والتوسع في هذا القطاع.
من جانبه، حذر سايمون ستيل، كبير مفاوضي الأمم المتحدة المعنيين بالمناخ، من أن استخدام الذكاء الاصطناعي لنشر المعلومات المضللة وتقويض العلوم وزيادة الانقسامات المجتمعية وتركيز الثروة من شأنه الإضرار بالثقة العامة التي تحتاج إليها هذه الصناعة لمواصلة النمو.

وأشار إلى أن المجتمعات المحلية بدأت بالفعل في الاعتراض على إنشاء مراكز البيانات، بسبب المخاوف المتعلقة باستهلاك المياه، وارتفاع فواتير الكهرباء، والتأثيرات البيئية لهذه المنشآت.
وأضاف أن مستوى الدعم الشعبي للتوسع في إنشاء مراكز البيانات يتراجع بالفعل، في ظل تصاعد المخاوف بشأن الأعباء التي قد تتحملها المجتمعات المحيطة بها.





