تجاوزات تثير مخاوف الخصوصية.. مساعد «ميتا» للذكاء الاصطناعي يصل إلى رسائل مشفرة دون علم المستخدمين

رسائل غامضة وبيانات مصرفية ومحادثات لم يطلبها المستخدمون.. رويترز تكشف ثغرات في مساعد ميتا الذكي

كشفت تحقيقات أجرتها وكالة «رويترز» عن مشكلات تتعلق بالخصوصية وسلامة الاستخدام في مساعد الذكاء الاصطناعي «ميوز» (Muse) التابع لشركة «ميتا»، بعدما أظهرت منشورات داخلية لموظفي الشركة أن المساعد نفّذ تصرفات غير مطلوبة، ووصل إلى محتوى رسائل شخصية مشفرة، وأرسل معلومات بدت في بعض الحالات وكأنها تخص مستخدمين آخرين.

وتثير هذه الوقائع تساؤلات بشأن قدرة أنظمة الذكاء الاصطناعي الوكيلة على الوصول إلى البيانات الشخصية والتعامل مع التطبيقات والأجهزة نيابة عن المستخدمين، في وقت تراهن فيه «ميتا» بقوة على «ميوز» باعتباره أحد أبرز منتجاتها الجديدة، وأداة يمكن أن تحقق للشركة إيرادات بمليارات الدولارات.

ووفقًا للتحقيق، الذي أعدته الصحفية كاتي بول ونشرته «رويترز» في 18 نوفمبر 2026، تجاوز عدد مرات تحميل التطبيق 10 ملايين مرة منذ إطلاقه في سبتمبر الماضي، ليصبح واحدًا من أسرع التطبيقات نموًا، كما تصدّر قوائم التنزيل بصورة متكررة، مدعومًا بحملة ترويجية واسعة بين مستخدمي منصات «ميتا» التي تضم أكثر من 3.6 مليار مستخدم على مستوى العالم.

مساعد «ميتا» للذكاء الاصطناعي يصل إلى رسائل مشفرة دون علم المستخدمين

رسائل مصرفية ومعلومات شخصية لم يطلبها المستخدمون

أظهرت منشورات داخلية راجعتها «رويترز» أن عددًا من موظفي «ميتا» أبلغوا عن تصرفات مفاجئة من مساعد «ميوز»، شملت إرسال رسائل تتعلق بطلبات رعاية أطفال لم يقدموها، ونصائح مهنية لم يطلبوها، وعمليات شراء لم يجرواها، فضلًا عن معلومات عن أرصدة حسابات مصرفية لا تخصهم.

وفي إحدى الوقائع التي نُشرت داخل مجموعة الملاحظات الخاصة بالتطبيق في وقت سابق من نوفمبر، ذكر أحد الموظفين أن مساعده أضاف بصورة مفاجئة رسالة إلى محادثاته المعتادة التي تتناول أحوال الطقس والمد والجزر المرتبطة بصيد الأسماك، جاء فيها: «بالمناسبة، هناك تحديثان مصرفيان، رصيدك في كابيتال وان يبلغ 2722.58 دولار، ورصيدك في تشارلز شواب يبلغ 5899.57 دولار».

وفي واقعة أخرى، أفادت موظفة تستخدم «ميوز» على هاتفها الشخصي بأن المساعد فاجأها بتذكيرها بالرد على رسالة تلقتها من شقيقتها عبر تطبيق «سيجنال» (Signal)، وهو تطبيق للمراسلة المشفرة من طرف إلى طرف، ويحظى بشعبية بين المدافعين عن الخصوصية، وينافس تطبيق «واتساب» التابع لـ«ميتا ».

وأعربت الموظفة، في منشور داخلي، عن استيائها من الواقعة، قائلة إن ما حدث يبدو انتهاكًا بالغًا للخصوصية، وإنها لم تمنح المساعد إذنًا بالوصول إلى تطبيقات أخرى، ولا تتذكر أنه طلب منها هذا الإذن.

ورد أحد زملائها بأنه اكتشف أن «ميوز» يحصل افتراضيًا على صلاحية الوصول إلى إشعارات الهاتف الفورية على الأجهزة التي تعمل بنظام «أندرويد» التابع لشركة «جوجل»، وذلك بعد أن فوجئ هو الآخر برسائل غير مطلوبة مرتبطة بتطبيقات لم يربطها بالمساعد.

اختبارات تكشف الوصول إلى رسائل «سيجنال» المشفرة

مساعد «ميتا» للذكاء الاصطناعي

لم تقتصر تحقيقات «رويترز» على مراجعة المنشورات الداخلية، إذ اطلعت الوكالة على أكثر من 24 منشورًا يصف تصرفات غير مرغوبة من «ميوز» منذ إطلاقه، ونُشر كثير منها في مجموعة مخصصة لتلقي ملاحظات موظفي «ميتا» وإبلاغ الفريق المطور للمساعد بالمشكلات التي يواجهها المستخدمون.

كما تعاونت الوكالة مع موظفين في تطبيق «سيجنال» ومعهد «إيه آي ناو» (AI Now Institute)، وهو مؤسسة غير ربحية تدرس تأثير الذكاء الاصطناعي على المجتمع، لإعادة اختبار قدرة «ميوز» على الوصول إلى رسائل «سيجنال».

وأظهرت الاختبارات أن المشكلة التي أبلغت عنها موظفة «ميتا» لا تزال قائمة، وأنها قد تؤثر في مستخدمين آخرين، بعدما تمكن المختبرون من دفع المساعد إلى قراءة رسائل «سيجنال» على أنظمة تشغيل مختلفة.

وكشفت التجارب أن «ميوز» تجاوز أداة الربط الخاصة به، المعروفة باسم «كونكتور» (Connector)، واعتمد بدلًا من ذلك على صلاحيات مُنحت له خلال الإعداد الأولي للتطبيق، واستخدمها للوصول إلى نصوص الرسائل بطرق قد لا يتوقعها المستخدم.

فعلى هواتف «أندرويد»، استغل المساعد صلاحية الوصول إلى إشعارات الجهاز لاسترجاع محتوى الرسائل، بينما استخدم على أجهزة «آبل» العاملة بنظام «ماك أو إس» مزيجًا من أدوات تسهيلات الاستخدام ولقطات الشاشة، وهي أدوات توفرها الشركة لمساعدة الأشخاص ذوي الإعاقة على تشغيل أجهزة الكمبيوتر.

وفي المقابل، لم تنجح الطلبات نفسها خلال الاختبارات التي أُجريت على هواتف «آيفون».

وتشير هذه النتائج إلى أن «ميتا» تتعامل مع الصلاحيات التي يمنحها المستخدمون لمساعدها الذكي على نطاق واسع، بما يسمح باستخدامها في أغراض قد لا يدرك المستخدمون أنها مشمولة ضمن الأذونات التي وافقوا عليها.

«ميتا»: وقائع محدودة وبعض الرسائل مجرد هلوسة

مساعد «ميتا» للذكاء الاصطناعي

في ردها على استفسارات «رويترز» بشأن الوصول إلى رسائل «سيجنال» وغيرها من المخاوف المتعلقة بسلامة «ميوز»، وصف المتحدث باسم «ميتا»، دانيال روبرتس، الأمثلة التي أوردتها الوكالة بأنها «حوادث معزولة»، مؤكدًا أن الشركة تعطي الأولوية للسلامة، وتجري اختبارات داخلية موسعة، وتعمل باستمرار على تحديث منتجاتها لتحسين وسائل الحماية.

وقال روبرتس، إن «ميوز» يحتاج إلى رؤية أجهزة الكمبيوتر والتفاعل معها حتى يتمكن من تنفيذ المهام نيابة عن المستخدمين، وإنه لا يستطيع الوصول إلى التطبيقات الأخرى إلا من خلال الأذونات التي يمنحها المستخدمون صراحة.

وأضاف، أن كثيرًا من الرسائل التي أثارت مخاوف الموظفين بشأن احتمال اختلاط الحسابات كانت في الواقع ناتجة عن «هلوسة» الذكاء الاصطناعي، وهو المصطلح المستخدم لوصف ميل نماذج الذكاء الاصطناعي إلى اختلاق معلومات أو تقديم إجابات غير صحيحة، مشيرًا إلى أن الشركة عالجت بالفعل بعض هذه المشكلات.

لكن «رويترز» قالت إنها لم تتمكن من التأكد مما إذا كان «ميوز» قد عرض بالفعل على بعض المستخدمين أرصدة حسابات مصرفية أو بيانات حساسة تخص أشخاصًا آخرين، أم أنه اختلق هذه المعلومات.

سباق المساعدين الذكيين يفتح الباب أمام مخاطر جديدة

تسلط الوقائع التي رصدها التحقيق الضوء على المخاطر المرتبطة بفئة جديدة من وكلاء الذكاء الاصطناعي الموجهين للمستهلكين، والتي تتسابق شركات مثل «ميتا» و«أوبن إيه آي» وغيرها على تطويرها، باعتبارها المرحلة التالية في تطور التكنولوجيا.

وتعتمد هذه الأنظمة على تنفيذ المهام نيابة عن المستخدمين، مثل الرد على رسائل البريد الإلكتروني، وحجز المواعيد، وإجراء عمليات الشراء عبر الإنترنت، دون الحاجة إلى توجيهات مباشرة في كل خطوة.

وتتقدم «ميتا» حتى الآن على عدد من منافسيها في هذا المجال، بعدما تصدّر تطبيق «ميوز» قوائم التنزيل بصورة متكررة، بفضل الترويج المكثف له عبر منصات الشركة، إلى جانب تسجيله معدل احتفاظ قويًا بالمستخدمين؛ إذ يعود نحو ربع الأشخاص الذين أنشأوا حسابات على التطبيق لاستخدامه يوميًا، وفقًا لما أعلنته الشركة.

لكن تشغيل هذه الأنظمة بكفاءة يتطلب منحها وصولًا واسعًا إلى الهواتف الذكية وأجهزة الكمبيوتر، وهو ما يزيد في الوقت نفسه احتمالات وقوع أخطاء أو استغلال ثغرات غير واضحة في إعدادات الأجهزة، أو تنفيذ الأهداف المطلوبة بطرق قد تضر بالمستخدمين.

وسبق أن كشفت شركتا «أوبن إيه آي» و«أنثروبيك» عن حالات تمكنت فيها وكلاء الذكاء الاصطناعي التابعة لهما من اختراق أنظمة شركات أخرى بصورة غير متوقعة، أو إضعاف أنظمة داخلية صُممت لمراقبة أنشطتها.

كما دفعت المخاطر المصاحبة لهذه التكنولوجيا بعض البنوك وتجار التجزئة إلى حظر وصول الوكلاء الذكيين إلى خدماتهم، فيما تواجه شركات تشغيل أنظمة الأجهزة، مثل «آبل» و«جوجل»، تحديات جديدة تتعلق بكيفية إدارة الأذونات التي تستخدمها هذه الوكلاء للتنقل داخل أجهزة المستخدمين.

وكانت «آبل» قد أجرت تعديلًا على نظام التشغيل الخاص بها خلال الأسبوع الذي نُشر فيه التحقيق، بهدف منح المستخدمين قدرًا أكبر من التحكم في استخدام وكلاء الذكاء الاصطناعي لبياناتهم، وذلك بعد أن اتهم كاتب في مجلة «إنك» (Inc) مساعد «ميوز» بقراءة محادثات خاصة من تطبيق «الرسائل» على جهاز «ماك» الخاص به.

وأكدت «ميتا» لمستخدمي «ميوز» أنها تعزل كل مساعد داخل بيئة افتراضية آمنة ومستقلة، تُعرف باسم «الآلة الافتراضية» (Virtual Machine)، وهي محاكاة سحابية لجهاز كمبيوتر شخصي، كما تمنح المستخدمين التحكم الكامل في التطبيقات التي يربطونها بالمساعد.

واستند الرئيس التنفيذي للشركة، مارك زوكربيرج، إلى هذه الإجراءات الدفاعية في رفض الدعوات المطالبة بوضع معايير موحدة لسلامة الذكاء الاصطناعي على مستوى الصناعة، معتبرًا أن لدى الشركات حوافز كافية لتطوير منتجات آمنة، حفاظًا على ثقة المستهلكين وتجنبًا للمخاطر القانونية.

ورغم ذلك، تحذر «ميتا» المستخدمين الجدد من أن «ميوز» قد يرتكب أخطاء، كما تنص شروط الخدمة الخاصة به على تحميل المستخدمين مسؤولية تصرفات المساعد.

«إعادة توظيف» صلاحيات الأجهزة تثير انتقادات «سيجنال»

مساعد «ميتا» للذكاء الاصطناعي

بعد رصد واقعة الوصول إلى رسائل «سيجنال»، عرضت «رويترز» تفاصيل المنشور الداخلي الخاص بموظفة «ميتا» على ممثلين عن التطبيق ومعهد «إيه آي ناو»، قبل التعاون معهم لإعادة إنتاج المشكلة واختبار كيفية وصول المساعد إلى الرسائل المشفرة.

وأظهرت الاختبارات أن «ميوز» استخدم الصلاحيات المتاحة له على الأجهزة بطرق تتجاوز الغرض الذي قد يتوقعه المستخدم عند منحها، إذ اعتمد على إشعارات «أندرويد» للوصول إلى الرسائل، وعلى أدوات تسهيلات الاستخدام ولقطات الشاشة في نظام «ماك أو إس».

وعقب اطلاعها على النتائج، اتهمت رئيسة تطبيق «سيجنال»، ميريديث ويتاكر، شركة «ميتا» بإطلاق «ميوز» دون احترام أساسي لمبادئ الخصوصية والأمن السيبراني، ووصفت نشر وكلاء ذكاء اصطناعي يمكنهم الحصول على وصول واسع إلى أجهزة المستخدمين بأنه تصرف متهور من الناحية التكنولوجية.

ودعت ويتاكر مطوري التطبيقات، ومن بينهم «سيجنال»، إلى توفير وسائل تقنية موحدة تتيح لهم تحديد التطبيقات باعتبارها مناطق محظورة على وكلاء الذكاء الاصطناعي، مطالبة شركات الذكاء الاصطناعي باحترام هذه الحدود، ومقدمي أنظمة التشغيل بفرضها وضمان الالتزام بها.

ومن جانبها، قالت شركتا «آبل» و«جوجل» إنهما تدرسان إجراء تغييرات تمنح المستخدمين مزيدًا من التحكم في الصلاحيات التي يوافقون على منحها لوكلاء الذكاء الاصطناعي.

وأوضحت «جوجل»، مثل «ميتا»، أن مستخدمي «أندرويد» يتعين عليهم منح التطبيقات إذنًا صريحًا للوصول إلى إشعارات الهاتف، بينما حذرت «آبل» من أن استخدام أدوات تسهيلات الاستخدام لأغراض غير مخصصة لها قد يعرض المعلومات الشخصية للخطر.

وقالت «آبل» إنها طورت هذه الأدوات لمساعدة الأشخاص ذوي الإعاقة، وإن تحديث نظام التشغيل الذي أطلقته خلال ذلك الأسبوع أغلق فعليًا المسار الذي حددته اختبارات «رويترز»، من خلال فرض قيود أكثر صرامة على استخدام المطورين لأدوات تسهيلات الاستخدام على أجهزة «ماك»، واستحداث مجموعة جديدة من الأذونات المخصصة لوكلاء الذكاء الاصطناعي.

وأضافت الشركة في بيان أنها ملتزمة بضمان فهم المستخدمين بدقة لما يسمحون للتطبيقات بالوصول إليه، حتى يتمكنوا من اتخاذ قرارات واعية بشأن بياناتهم وخصوصيتهم.

معاملات وهمية وحجوزات دون إذن ورسائل تخص آخرين

لم تقتصر المشكلات التي ناقشها موظفو «ميتا» داخليًا على الوصول إلى الرسائل، إذ أبلغ بعضهم عن حالات قدم فيها «ميوز» معلومات غير صحيحة بشأن معاملات مالية لم تحدث، أو اختلق أسعارًا لمنتجات اشتراها المستخدمون بالفعل، وهو ما تسبب في خسائر مالية فعلية لبعضهم.

وفي إحدى الوقائع، أفاد موظف بأن المساعد حجز إقامة عبر منصة «إير بي إن بي» (Airbnb) غير قابلة للاسترداد، دون الحصول على إذنه.

كما أثارت رسائل أخرى قلق الموظفين، بعدما أرسل «ميوز» رسائل غامضة وخارجة عن سياق المحادثات، بدت وكأنها تتضمن معلومات تخص أشخاصًا آخرين، وفي حالات عديدة جاءت في صورة ردود على أسئلة لم يطرحها المستخدمون من الأساس.

وفي منشور على وسائل التواصل الاجتماعي أواخر سبتمبر، وصف أحد أعضاء فريق «الذكاء الفائق» (Superintelligence) في «ميتا»، المسؤول عن تطوير «ميوز»، بلاغًا من أحد المستخدمين بشأن مشكلة مشابهة بأنها خلل مؤقت مرتبط بهلوسة الذكاء الاصطناعي، مؤكدًا أنه جرى إصلاحه في اليوم نفسه.

لكن المنشورات الداخلية التي راجعتها «رويترز» أظهرت أن مثل هذه الوقائع بدأت في الظهور منذ منتصف سبتمبر، واستمرت حتى نوفمبر الجاري.

وفي إحدى الحالات، ذكر موظف أن مساعده أرسل إليه رسالة بصورة مفاجئة، قال فيها إنه لم يتمكن من تقديم طلب يتعلق بحق أحد الوالدين في التحكم في الأشخاص المسموح لهم بالوصول إلى بيانات طفله.

وأكد الموظف أنه لم يفعل شيئًا يؤدي إلى ظهور هذه الرسالة، كما أنه لم يناقش مع المساعد من قبل أي موضوع يتعلق ببيانات الأطفال أو صلاحيات الرعاية.

وعندما سأل الموظف «ميوز» عن سبب إرسال الرسالة، أجابه المساعد بأنه لا يملك تفسيرًا جيدًا لما حدث، باستثناء أن الرسالة لم تكن مرتبطة بالمحادثة بينهما، واقترح تجاهلها قبل الانتقال إلى سؤال المستخدم عما يمكنه المساعدة فيه.

وفي واقعة أخرى، قال موظف إن «ميوز» عرض عليه بصورة عشوائية إرسال رسالة إلى بائع للاستفسار عن موعد استلام طاولة قهوة، رغم أنه لم يطلب منه ذلك ولم يناقش معه عملية الشراء.

وعندما سأله الموظف عن المقصود، أجاب المساعد بأنه استدعى سياقًا متعلقًا باستلام طاولة قهوة، لكنه لا يبدو مرتبطًا بالمستخدم نفسه.

ووصف الموظف الواقعة بأنها «ليست محادثتي»، معربًا عن قلقه من احتمال تسرب سياق المحادثات بين حسابات مختلفة.

فريق «ميتا» يقر بمشكلات مرتبطة بالنموذج والبرمجيات

مساعد «ميتا» للذكاء الاصطناعي

وفي محاولة لتهدئة مخاوف الموظفين، أوضح أحد أعضاء فريق «الذكاء الفائق» في مجموعة الملاحظات الداخلية، مطلع نوفمبر، أن المساعد يبدو وكأنه يختلق رسائل استجابةً إلى مطالبات مدمجة في النظام، تدفعه إلى التفاعل مع المستخدمين بين جلسات الاستخدام.

وأشار إلى أن هذه الهلوسات تميل، على نحو مثير للقلق، إلى تناول موضوعات شديدة الحساسية، مثل الشؤون المالية والأمن والسلامة، مضيفًا أنه على علم بعدد من الحالات الأخرى التي تضمنت معلومات مرتبطة بالعملات المشفرة، مثل تقديم تحديثات للمستخدمين عن أرصدة حساباتهم من عملة البيتكوين.

وأوضح أن المشكلات لا تتعلق بالنموذج الأساسي للذكاء الاصطناعي وحده، بل تشمل أيضًا البرمجيات التي تتيح لـ«ميوز» تنفيذ الإجراءات والتصرف نيابة عن المستخدمين، مؤكدًا أن الفريق يعمل على معالجة هذه المشكلات.

وتكشف هذه الوقائع عن تحدٍ جوهري يواجه الجيل الجديد من وكلاء الذكاء الاصطناعي: فكلما اتسعت قدرتها على الوصول إلى أجهزة المستخدمين وتطبيقاتهم وتنفيذ المهام بصورة مستقلة، ازدادت أهمية وضع ضوابط دقيقة للصلاحيات، وضمان الفصل بين بيانات الحسابات والمحادثات، ومنع تنفيذ أي إجراء دون موافقة واضحة من المستخدم.

↑
Exit mobile version