OpenAI yaqinda ChatGPT foydalanuvchilari orasida ruhiy salomatlik bilan bog’liq muammolar, jumladan, maniya, psixoz yoki o’z joniga qasd qilish kabi holatlar tarqalganligi haqida ma’lumotlar e’lon qildi.
Kompaniyaning ma’lumotlariga ko’ra, bir hafta ichida faol bo’lgan ChatGPT foydalanuvchilarining taxminan 0,07 foizida shunday holatlar belgilari kuzatilgan. OpenAI kompaniyasining ta’kidlashicha, uning AI chatboti bu kabi nozik suhbatlarni aniqlash va ularga mos ravishda javob berish uchun mo’ljallangan.
OpenAI bu holatlar «o’ta kamdan-kam uchraydigan»ligini ta’kidlagan bo’lsa-da, tanqidchilar hatto kichik foiz ham sezilarli miqdordagi odamlarni tashkil qilishi mumkinligini ta’kidlamoqda, chunki ChatGPT yaqinda bosh direktor Sem Altmanning so’zlariga ko’ra, haftalik 800 million faol foydalanuvchiga yetdi.
Kuzatuvning kuchayishi fonida OpenAI global ekspert maslahatchilar tarmog’ini tashkil etilganini e’lon qildi.
Kompaniyaning ma’lumotlariga ko’ra, ushbu tarmoq 60 mamlakatda tajribaga ega bo’lgan 170 dan ortiq psixiatr, psixolog va birlamchi tibbiy yordam shifokorlaridan iborat.
Ushbu ekspertlar ChatGPT foydalanuvchilarni shaxsan ruhiy salomatlik yordamini olishga undashga qaratilgan bir qator javoblarni ishlab chiqish uchun hamkorlik qilishdi, deb xabar beradi OpenAI.
Biroq, ushbu ma’lumotlarning e’lon qilinishi ba’zi ruhiy salomatlik mutaxassislari orasida xavotir uyg’otdi.
«0,07% kichik foizdek tuyulsa-da, yuz millionlab foydalanuvchilari bo’lgan aholi darajasida bu juda ko’p odam bo’lishi mumkin», – dedi Kaliforniya universiteti professori, San-Fransisko shahridagi yoshlar orasida texnologiya foydalanishini o’rganuvchi doktor Jeyson Nagata.
«AI ruhiy salomatlik yordamiga kirishni kengaytirishi va ba’zi hollarda ruhiy salomatlikni qo’llab-quvvatlashi mumkin, ammo biz cheklovlardan xabardor bo’lishimiz kerak», – deya qo’shimcha qildi doktor Nagata.
Kompaniya, shuningdek, ChatGPT foydalanuvchilarining 0,15% «o’z joniga qasd qilishning potentsial rejalashtirilishi yoki niyatining aniq ko’rsatkichlari»ni o’z ichiga olgan suhbatlarda ishtirok etishini taxmin qilmoqda.
OpenAI kompaniyasining xabar berishicha, uning chatbotiga kiritilgan so’nggi yangilanishlar «ongning chalkashishi yoki maniya alomatlariga xavfsiz va hamdardlik bilan javob berish» va «o’ziga zarar yetkazish yoki o’z joniga qasd qilish xavfining bilvosita signallarini» aniqlash uchun mo’ljallangan.
Bundan tashqari, ChatGPT nozik suhbatlarni «boshqa modellardan kelib chiqqan holda xavfsizroq modellarga yo’naltirish» uchun yangi oynada ochish orqali o’rgatilgan.
BBCning ta’sirlangan odamlarning potentsial soni haqidagi xavotirlari to’g’risidagi so’rovlariga javoban, OpenAI foydalanuvchilarning kichik foizi ham sezilarli sonni tashkil etishini va ular ushbu o’zgarishlarga jiddiy munosabatda bo’lishlarini ta’kidladi.
Ushbu o’zgarishlar OpenAI ChatGPTning foydalanuvchilar bilan o’zaro aloqasi bo’yicha huquqiy nazoratning kuchayishi fonida yuzaga keldi.
Yaqinda OpenAIga qarshi qo’zg’atilgan muhim da’voda Kaliforniyalik er-xotin o’z o’g’lining o’limi uchun kompaniyani sudga bermoqda va ChatGPT uni aprel oyida o’z joniga qasd qilishga undaganini da’vo qilmoqda.
Da’vo 16 yoshli Adam Reynning ota-onasi tomonidan qo’zg’atilgan va OpenAI-ni noqonuniy o’limda ayblagan birinchi huquqiy harakatdir.
Alohiy voqea sifatida, avgust oyida Konnektikut shtatining Grinvich shahrida yuz bergan qotillik va o’z joniga qasd qilish holatida gumonlanuvchi ChatGPT bilan bo’lgan suhbatlarini soatlab joylashtirgan, bu esa gumonlanuvchining chalkashliklarini yanada kuchaytirganga o’xshaydi.
Kaliforniya universiteti qoshidagi AI huquqi va innovatsiyalar instituti direktori, professor Robin Feldmanning ta’kidlashicha, «chatbotlar haqiqat illyuziyasini yaratgani» sababli ko’proq foydalanuvchilar AI psixozidan aziyat chekishmoqda va qo’shimcha qiladi: «Bu kuchli illyuziya».
U OpenAIning «statistika bilan o’rtoqlashgani va muammoni yaxshilashga urinishlari»ni e’tirof etdi, lekin «kompaniya ekranga har qanday ogohlantirishlarni qo’yishi mumkin, ammo ruhiy xavf ostida bo’lgan odam bu ogohlantirishlarga rioya qila olmasligi mumkin» deya ogohlantirdi.
Dunyoning yetakchi texnologik voqealari va tendensiyalari haqida xabardor bo’lib turish uchun bizning Tech Decoded axborot byulletenimizga obuna bo’ling. Buyuk Britaniyadan tashqaridasizmi? Bu yerda ro’yxatdan o’ting.