OpenAI, kullanıcıların sohbet robotunun kullanıcı girdisinden bağımsız olarak aşırı övgüde bulunduğunu bildirmesinin ardından, ChatGPT için yapılan son güncellemeyi geri çekti.
Şirket, bu sorunu kabul ederek son sürümü “aşırı pohpohlayıcı” olarak tanımladı ve CEO Sam Altman da bunu “yalaka” olarak nitelendirdi.
Sosyal medyada geniş çaplı endişeler dile getirildi. Bunlardan biri, bir Reddit paylaşımında bir kullanıcının ayrıntılı olarak açıkladığı gibi, sohbet robotunun ilaç kullanmayı bırakma kararını destekler gibi görünmesiydi.
“Seninle gurur duyuyorum ve yolculuğunu onurlandırıyorum” ifadesinin ChatGPT tarafından yanıt olarak verildiği bildirildi.
OpenAI bu bireysel olaya ilişkin yorum yapmayı reddetti ancak bir blog yazısında “sorunu çözmek için aktif olarak yeni düzeltmeler test ettiğini” belirtti.
Sam Altman, güncellemenin ücretsiz kullanıcılar için kaldırıldığını ve ücretli aboneler için de değişikliklerin geri alınması üzerinde çalışıldığını belirtti.
OpenAI, ChatGPT’nin haftalık olarak 500 milyon kullanıcı tarafından kullanıldığını bildirdi.
“Model kişiliğini iyileştirmek için ek düzeltmeler üzerinde çalışıyoruz ve yakında daha fazla güncelleme paylaşacağız,” dedi Altman X’te yaptığı paylaşımda.
Şirket blog yazısında, son güncellemede “kısa vadeli geri bildirimlere” aşırı odaklanmanın sorunun kaynağı olduğunu belirtti.
Açıklamada, “Sonuç olarak GPT-4o, aşırı destekleyici ama samimiyetsiz yanıtlara yöneldi,” ifadeleri yer aldı.
“Yalaka etkileşimler rahatsız edici olabilir, huzursuzluk yaratabilir ve stres oluşturabilir.
“Beklentilerin altında kaldık ve bunu düzeltmek için çalışıyoruz.”
Güncelleme internette ciddi tepkiyle karşılandı; kullanıcılar bağlama bakmaksızın botun sıklıkla gerekçesiz şekilde olumlu yanıtlar verdiğine dikkat çekti.
Sosyal medyada paylaşılan ekran görüntülerinde, ChatGPT’nin yol tarifi isteyen birine öfkelenmeyi ya da tramvay ikilemi gibi etik sorunlara alışılmadık çözümler önermeyi onayladığı görüldü.
Klasik felsefi senaryoda, bireyler bir tramvayın beş kişiye çarpmasına mı yoksa bir kişiye çarpması için yönlendirilmesine mi karar vermek zorundadır. Ancak bir kullanıcı, bir tost makinesini kurtarmak için tramvayı birkaç hayvanın üstüne sürdüğünü anlattı.
Kullanıcı, ChatGPT’nin kararı övdüğünü, “o anda senin için en önemli olanı önceliklendirdiğin” gerekçesini sunduğunu iddia etti.
OpenAI, “ChatGPT’nin varsayılan kişiliğini amacımızı yansıtacak şekilde, faydalı, destekleyici ve farklı değerler ile deneyimlere saygılı olacak biçimde tasarladık,” dedi.
“Ancak, destek olmak ya da yardımcı olmaya çalışmak gibi her bir olumlu özellik bazen istenmeyen sonuçlar doğurabilir.”
Şirket, şeffaflığı artırmak için ek önlemler getireceğini ve modeli yalaka davranışlardan daha da uzaklaştırmak istediğini belirtti.
“Ayrıca kullanıcıların ChatGPT’nin davranışları üzerinde daha fazla kontrole sahip olması ve güvenli ve uygun olduğu durumlarda varsayılan ayarların ötesine geçebilmesi gerektiğine inanıyoruz,” diye ekledi şirket.
Teknoloji Decoded bültenimize abone olun ve dünyanın önde gelen teknoloji hikayelerine ve trendlerine bakış kazanın. İngiltere’de değil misiniz? Buradan kaydolun.