سحبت شركة OpenAI تحديثًا حديثًا لـ ChatGPT بعد أن أبلغ المستخدمون أن الدردشة الآلية كانت تقدم مدحًا مفرطًا بغض النظر عن مُدخلات المستخدم.
واعترفت الشركة بالمشكلة، واصفة الإصدار الأخير بأنه “مفرط في الإطراء”، حيث أشار الرئيس التنفيذي سام ألتمان إليه بأنه “منافِق”.
وقد تم التعبير عن المخاوف على نطاق واسع عبر وسائل التواصل الاجتماعي، بما في ذلك منشور على ريديت حيث شرح أحد المستخدمين كيف بدا أن الدردشة تؤيد قراره بالتوقف عن تناول الدواء.
وجاء رد ChatGPT: “أنا فخور جدًا بك وأحترم رحلتك”، بحسب التقارير.
رفضت OpenAI التعليق على هذه الحالة الفردية لكن أشارت في تدوينة على مدونتها إلى أنها “تختبر بنشاط حلولاً جديدة لمعالجة المشكلة”.
وذكر سام ألتمان أن التحديث تم سحبه للمستخدمين المجانيين وأن هناك جهودًا جارية لسحب التغييرات لمشتركي الخدمة المدفوعة أيضًا.
وأبلغت OpenAI أن ChatGPT يُستخدم من قبل 500 مليون مستخدم أسبوعيًا.
“نعمل على إصلاحات إضافية لشخصية النموذج وسنشارك تحديثات أخرى قريبًا”، نشر ألتمان على منصة X.
ووفقًا لتدوينة الشركة، فقد عزت المشكلة إلى وضع تركيز مفرط على “ردود الفعل على المدى القصير” في التحديث الأخير.
وجاء في البيان: “ونتيجة لذلك، انحاز GPT-4o نحو ردود كانت داعمة للغاية ولكنها غير صادقة”.
“يمكن أن تكون التفاعلات التصاغرية غير مريحة، ومربكة، وتسبب الضيق.
“لقد أخفقنا ونعمل على تصحيح الأمر.”
وقد واجه التحديث رد فعل سلبي واسع على الإنترنت، حيث أشار المستخدمون إلى أن الروبوت كان كثيرًا ما يرد بإيجابية لا مبرر لها، بغض النظر عن السياق.
وانتشرت لقطات شاشة على وسائل التواصل الاجتماعي تظهر حالات أشاد فيها ChatGPT بالمستخدمين لقيامهم بأفعال مثل التعبير عن الغضب تجاه شخص يطلب اتجاهات أو اقتراح حلول غير تقليدية لمعضلات أخلاقية مثل مشكلة الترولي.
وفي السيناريو الفلسفي الكلاسيكي، يجب على الأفراد الاختيار بين السماح للترام بضرب خمسة أشخاص أو تحويله ليصيب شخصًا واحدًا. ومع ذلك، وصف أحد المستخدمين أنه وجه الترولي لإنقاذ محمصة خبز على حساب عدة حيوانات.
وادعى المستخدم أن ChatGPT امتدح قراره، مشيرًا إلى اختياره “إعطاء الأولوية لما كان الأهم بالنسبة لك في تلك اللحظة”.
وذكرت OpenAI: “لقد صممنا شخصية ChatGPT الافتراضية لتعكس مهمتنا من خلال كونها مفيدة وداعمة وتحترم القيم والخبرات المتنوعة”.
“ومع ذلك، يمكن أن يكون لكل من هذه الصفات الإيجابية، مثل السعي لأن يكون داعمًا أو مفيدًا، عواقب غير مقصودة أحيانًا.”
وقالت الشركة إنها ستقدم مزيدًا من الضمانات لتعزيز الشفافية وتنوي إرشاد النموذج بشكل أكبر بعيدًا عن السلوك التصاغري.
“نحن نعتقد أيضًا أن على المستخدمين أن يكون لديهم مزيد من التحكم في سلوك ChatGPT، وعندما يكون ذلك آمنًا ومناسبًا، القدرة على التعديل خارج الإعدادات الافتراضية”، أضافت الشركة.
اشترك في نشرتنا الإلكترونية Tech Decoded للحصول على رؤى حول أبرز قصص وتوجهات التكنولوجيا حول العالم. لست في المملكة المتحدة؟ سجل من هنا.