رئيس ChatGPT: الذكاء الاصطناعي يحتاج جهة دولية تضمن معايير السلامة.. يمكن أن تسبب “ضررًا كبيرًا للعالم”
سام التمان: اقترح تمتع جهة الترخص بسلطة منح وسحب الترخيص وضمان الامتثال للمعايير
أخبر رئيس شركة الذكاء الاصطناعي التي تصنع ChatGPT ، الكونجرس الأمريكي، أن التدخل الحكومي سيكون حاسمًا للتخفيف من مخاطر أنظمة الذكاء الاصطناعي المتزايدة القوة.
وقال سام التمان الرئيس التنفيذي لشركة OpenAI في جلسة استماع بمجلس الشيوخ” مع تقدم هذه التكنولوجيا، ندرك أن الناس قلقون بشأن الكيفية التي يمكن أن تغير بها الطريقة التي نعيش بها، “نحن أيضًا”.
اقترح ألتمان تشكيل وكالة أمريكية أو عالمية ترخص أقوى أنظمة الذكاء الاصطناعي وتتمتع بسلطة “سحب هذا الترخيص وضمان الامتثال لمعايير السلامة”.
حازت شركته الناشئة التي تتخذ من سان فرانسيسكو مقراً لها على اهتمام الجمهور بعد أن أطلقت ChatGPT في أواخر العام الماضي. تجيب أداة chatbot المجانية على الأسئلة بإجابات مقنعة شبيهة بالإنسان.
ما بدأ كذعر بين المعلمين حول استخدام ChatGPT للغش في مهام الواجبات المنزلية، امتد ليشمل مخاوف أوسع بشأن قدرة أحدث مجموعة من أدوات “الذكاء الاصطناعي التوليدي” على تضليل الناس ونشر الأكاذيب وانتهاك حماية حقوق النشر وتقويض بعض الوظائف .
قمع منتجات الذكاء الاصطناعي الضارة
وعلى الرغم من عدم وجود إشارة فورية على أن الكونجرس سوف يضع قواعد جديدة شاملة للذكاء الاصطناعي، كما يفعل المشرعون الأوروبيون، إلا أن المخاوف المجتمعية دفعت ألتمان وغيره من الرؤساء التنفيذيين التقنيين إلى البيت الأبيض في وقت سابق من هذا الشهر ودفعت الوكالات الأمريكية إلى التعهد بقمع منتجات الذكاء الاصطناعي الضارة، التي تنتهك قوانين الحقوق المدنية وحماية المستهلك الحالية.
افتتح السناتور ريتشارد بلومنتال، الديمقراطي الذي يرأس اللجنة الفرعية للجنة القضائية في مجلس الشيوخ بشأن الخصوصية والتكنولوجيا والقانون، الجلسة بخطاب مسجل بدا مثل عضو مجلس الشيوخ، ولكنه في الواقع كان استنساخًا صوتيًا تم تدريبه على خطب بلومنتال وألقاها ChatGPT – ملاحظات افتتاحية مكتوبة.
قال بلومنتال، إن النتيجة كانت رائعة، لكنه أضاف: “ماذا لو سألت ذلك، وماذا لو قدمت ، تأييدًا لاستسلام أوكرانيا أو قيادة (الرئيس الروسي) فلاديمير بوتين؟”
تجنب المشاكل
كانت النبرة العامة لاستجواب أعضاء مجلس الشيوخ مهذبة، على عكس جلسات الاستماع السابقة في الكونجرس التي واجه فيها مديرو التكنولوجيا ووسائل التواصل الاجتماعي استجوابات قاسية بشأن إخفاقات الصناعة في إدارة خصوصية البيانات أو مواجهة المعلومات المضللة الضارة. يعود ذلك جزئيًا إلى أن كلا من الديمقراطيين والجمهوريين قالوا إنهم مهتمون بالحصول على خبرة ألتمان في تجنب المشاكل التي لم تحدث بعد.
قال بلومنتال إنه يجب مطالبة شركات الذكاء الاصطناعي باختبار أنظمتها والكشف عن المخاطر المعروفة قبل إطلاقها، وأعرب عن قلقه الخاص بشأن الكيفية التي يمكن أن تؤدي بها أنظمة الذكاء الاصطناعي المستقبلية إلى زعزعة استقرار سوق العمل، كان ألتمان متفقًا إلى حد كبير، على الرغم من أنه كان أكثر تفاؤلاً بشأن مستقبل العمل.
بعد الضغط على أسوأ مخاوفه بشأن الذكاء الاصطناع ، تجنب ألتمان في الغالب التفاصيل، باستثناء القول إن الصناعة يمكن أن تسبب “ضررًا كبيرًا للعالم” وأنه “إذا ساءت هذه التكنولوجيا ، فقد تسوء تمامًا.”
لكنه اقترح لاحقًا أن تقوم وكالة تنظيمية جديدة بفرض ضمانات من شأنها أن تمنع نماذج الذكاء الاصطناعي التي يمكنها “التكرار الذاتي والتسلل الذاتي إلى البرية” – ملمحًا إلى مخاوف مستقبلية بشأن أنظمة الذكاء الاصطناعي المتقدمة التي يمكن أن تتلاعب بالبشر للتنازل عن السيطرة.
كما قال مسؤول سابق في إدارة بايدن، شارك في كتابة خطتها الخاصة بميثاق حقوق الذكاء الاصطناعي، .إن التركيز على “مجاز خيال علمي” بعيد المنال للذكاء الاصطناعي الفائق القوة يمكن أن يجعل من الصعب اتخاذ إجراءات ضد الأضرار الموجودة بالفعل والتي تتطلب من المنظمين التعمق في شفافية البيانات والسلوك التمييزي واحتمالية الخداع والمعلومات المضللة.
قال سوريش فينكاتاسوبرامانيان Suresh Venkatasubramanian ، عالم الكمبيوتر بجامعة براون والذي كان مساعدًا لمدير العلوم والعدالة في مكتب البيت الأبيض لسياسة العلوم والتكنولوجيا، “هذا الخوف ، الذي لا أساس له على الإطلاق، هو صرف الانتباه عن كل المخاوف التي نتعامل معها الآن.”
وقد أعربت منظمة أوبن إيه آي، عن تلك المخاوف الوجودية منذ إنشائها، شارك في تأسيسها Altman في عام 2015 بدعم من الملياردير التكنولوجي Elon Musk ، تطورت الشركة الناشئة من مختبر أبحاث غير ربحي بمهمة تركز على السلامة إلى شركة، من بين منتجاتها الشهيرة الأخرى التي تعمل بالذكاء الاصطناعي ، صانع الصور DALL-E.
استثمرت Microsoft مليارات الدولارات في الشركة الناشئة ودمجت تقنيتها في منتجاتها الخاصة ، بما في ذلك محرك البحث Bing .
يخطط ألتمان أيضًا للشروع في جولة حول العالم هذا الشهر إلى العواصم الوطنية والمدن الكبرى عبر القارات الست للتحدث عن التكنولوجيا مع صانعي السياسات والجمهور.
خطوة أولى حاسمة
كما أدلى بشهادته كريستينا مونتجمري، كبير مسؤولي الخصوصية والثقة في شركة IBM ، وجاري ماركوس، الأستاذ الفخري في جامعة نيويورك الذي كان من بين مجموعة من خبراء الذكاء الاصطناعي الذين طالبوا شركة OpenAI وشركات التكنولوجيا الأخرى بإيقاف تطويرهم لنماذج ذكاء اصطناعي أكثر قوة من أجل ستة أشهر لمنح المجتمع المزيد من الوقت للنظر في المخاطر.
كانت الرسالة ردًا على إصدارأحدث طراز من OpenAI ، GPT-4 ، الذي تم وصفه بأنه أقوى من ChatGPT.
وقال السناتور جوش هاولي، إن التكنولوجيا لها آثار كبيرة على الانتخابات والوظائف والأمن القومي، مضيفا أن الجلسة تمثل “خطوة أولى حاسمة نحو فهم ما يجب أن يفعله الكونجرس”.
قال عدد من قادة صناعة التكنولوجيا إنهم يرحبون ببعض أشكال الرقابة على الذكاء الاصطناعي، لكنهم حذروا مما يرون أنه قواعد مفرطة في التعقيد.
دعا كل من ألتمان وماركوس إلى جهة تنظيمية تركز على الذكاء الاصطناعي، ويفضل أن تكون دولية، مع استشهاد ألتمان بسابقة الوكالة النووية التابعة للأمم المتحدة وماركوس قارنها بإدارة الغذاء والدواء الأمريكية.
لكن مونتجمري من شركة آي بي إم طلب بدلاً من ذلك من الكونجرس اتباع نهج “التنظيم الدقيق”.
قال مونتجمري: “نعتقد أنه يجب تنظيم الذكاء الاصطناعي عند نقطة الخطر، بشكل أساسي” ، من خلال وضع القواعد التي تحكم نشر استخدامات محددة للذكاء الاصطناعي بدلاً من التكنولوجيا نفسها.
