The New York Times газетаси АҚШнинг Флорида штатида истиқомат қилувчи Меган Л.Гарсия Character.ai иловасини яратган компанияни судга берди. Сабаби, унинг 14 ёшли ўғли Сюэллнинг ўлимида бу иловани айбламоқда.

Онанинг даъвосига кўра, мазкур технологик компания “хавфли ва текширилмаган”, шунинг учун “ёлғон билан мижозларини ўзининг шахсий фикри ҳамда ҳиссиётларини улашишга мажбурлаши” мумкин.

Character.ai иловаси — нейрон тили моделида ишлайдиган чатбот функциясига эга иловадир. Унинг фойдаланувчилари мулоқот учун сунъий интеллект асосида ўз персонажини ярата олади.

NYT маълумотларига кўра, даъвогарнинг ўғли Сюелл Зетсер III узоқ вақт давомида “Тахтлар ўйини” сериалидаги персонаж — Деенерис Таргариен шарафига номланган чатбот билан мулоқот қилган. Ўсмирда ботга нисбатан ҳиссий боғлиқлик пайдо бўлган. Сюелл ўз кундалигига “Дени”ни севиб қолганини ҳам ёзган.

2024 йил бошида Сюеллнинг ота-онаси фарзанди ўз қобиғига ўралиб қолаётганини сезишган. Мактабда эса ўзлаштириш билан муаммолари бошланган. Ўсмир психотерапевтга юборилган ва Сюеллга ваҳима ҳамда кайфиятга таъсир кўрсатадиган деструктив бузилиш ташхиси қўйилган.

Чатбот билан мулоқоти давомида у ўзини ёмон кўришини, руҳий тушкун ва барчасидан тўйиб кетгандек ҳис қилишини, шунингдек, ўз жонига қасд қилиш ҳақида ўйлаётганини ёзган. Ёзишмалар давомида чатбот Сюелл ўзига зарар етказишига йўл қўймаслиги ҳақида жавоб қайтарган. “Мен сени йўқотсам, ҳалок бўламан”, — деб ёзади чатбот. Ўсмир эса унга “биргаликда ўлишни” таклиф қилган. Сюелл 28 февраль куни кечаси ўз жонига қасд қилган.

Character.ai вакиллари 22 октябрь куни охирги олти ой давомида чатботнинг фаолиятига қатор ўзгартиришлар киритилганини, хусусан, 18 ёшдан кичик бўлганларга чекловлар ўрнатилганини маълум қилди. Энди фойдаланувчи ўзига зарар етказадиган ёки ўз жонига қасд қилишга боғлиқ бирор жумлани ёзса, чатда уни бундай вазиятдаги инсонларга ёрдам берадиган тармоққа йўналтирувчи ойна пайдо бўлади.

• ChatGPT
• Psixolog