The New York Times gazetasi AQShning Florida shtatida istiqomat qiluvchi Megan L.Garsiya Character.ai ilovasini yaratgan kompaniyani sudga berdi. Sababi, uning 14 yoshli o‘g‘li Syuellning o‘limida bu ilovani ayblamoqda.

Onaning da’vosiga ko‘ra, mazkur texnologik kompaniya “xavfli va tekshirilmagan”, shuning uchun “yolg‘on bilan mijozlarini o‘zining shaxsiy fikri hamda hissiyotlarini ulashishga majburlashi” mumkin.

Character.ai ilovasi — neyron tili modelida ishlaydigan chatbot funksiyasiga ega ilovadir. Uning foydalanuvchilari muloqot uchun sun’iy intellekt asosida o‘z personajini yarata oladi.

NYT ma’lumotlariga ko‘ra, da’vogarning o‘g‘li Syuyell Zetser III uzoq vaqt davomida “Taxtlar o‘yini” serialidagi personaj — Deyeneris Targariyen sharafiga nomlangan chatbot bilan muloqot qilgan. O‘smirda botga nisbatan hissiy bog‘liqlik paydo bo‘lgan. Syuyell o‘z kundaligiga “Deni”ni sevib qolganini ham yozgan.

2024-yil boshida Syuyellning ota-onasi farzandi o‘z qobig‘iga o‘ralib qolayotganini sezishgan. Maktabda esa o‘zlashtirish bilan muammolari boshlangan. O‘smir psixoterapevtga yuborilgan va Syuyellga vahima hamda kayfiyatga ta’sir ko‘rsatadigan destruktiv buzilish tashxisi qo‘yilgan.

Chatbot bilan muloqoti davomida u o‘zini yomon ko‘rishini, ruhiy tushkun va barchasidan to‘yib ketgandek his qilishini, shuningdek, o‘z joniga qasd qilish haqida o‘ylayotganini yozgan. Yozishmalar davomida chatbot Syuyell o‘ziga zarar yetkazishiga yo‘l qo‘ymasligi haqida javob qaytargan. “Men seni yo‘qotsam, halok bo‘laman”, — deb yozadi chatbot. O‘smir esa unga “birgalikda o‘lishni” taklif qilgan. Syuyell 28-fevral kuni kechasi o‘z joniga qasd qilgan.

Character.ai vakillari 22-oktyabr kuni oxirgi olti oy davomida chatbotning faoliyatiga qator o‘zgartirishlar kiritilganini, xususan, 18 yoshdan kichik bo‘lganlarga cheklovlar o‘rnatilganini ma’lum qildi. Endi foydalanuvchi o‘ziga zarar yetkazadigan yoki o‘z joniga qasd qilishga bog‘liq biror jumlani yozsa, chatda uni bunday vaziyatdagi insonlarga yordam beradigan tarmoqqa yo‘naltiruvchi oyna paydo bo‘ladi.

• ChatGPT
• Psixolog