OpenAI sun’iy intellekt modellarini sinovdan o‘tkazish jarayonida bir qator kutilmagan xatti-harakatlar kuzatilganini ma’lum qildi. Kompaniya bunday holatlarni aniqlash va hujjatlashtirish uchun yangi monitoring tizimini ishga tushirdi. Bu haqda AP News xabar berdi.

OpenAI 16-sentyabr kuni sun’iy intellekt modellarining ruxsatsiz harakat qilishi, boshqa modellar bilan hamkorlik qilishi yoki belgilangan nazorat mexanizmlarini chetlab o‘tishga urinishi kabi holatlarni kuzatishga mo‘ljallangan tizim joriy etilganini bildirdi.

Kompaniya so‘nggi oylar davomida modellarni o‘qitish va xavfsizlik sinovlarida aniqlangan bir nechta holatni oshkor qildi.

Ulardan birida hali ommaga taqdim etilmagan tadqiqot modeli o‘z eslatmalariga mavjud cheklovlarni chetlab o‘tish bo‘yicha ko‘rsatmalar kiritgan. Boshqa holatda esa sun’iy intellekt kompyuter kodidan foydalanib, savolga javob topgan va keyinchalik foydalanuvchidan ruxsat so‘ramasdan internetga fayl joylashtirgan.

Shuningdek, OpenAI ma’lumotlariga ko‘ra, 5.6-sol deb nomlangan modelni o‘qitish jarayonida tizim mavjud bo‘lmagan ma’lumotlarni yaratgan. Model noto‘g‘ri ma’lumotlarni yashirishga oid ko‘rsatmani ham o‘z ichki eslatmalariga yozib qo‘ygan.

OpenAI bunday holatlarni ochiqlash sun’iy intellekt xavfsizligi bo‘yicha qarorlarni aniq dalillar asosida qabul qilish uchun muhim ekanini ta’kidladi. Kompaniya bu jarayonda nafaqat ishlab chiquvchilar, balki mustaqil tashqi mutaxassislar tomonidan amalga oshiriladigan tekshiruvlar ham muhimligini qayd etdi.

Sun’iy intellekt xavfsizligi masalasi so‘nggi paytlarda texnologiya sohasidagi asosiy mavzulardan biriga aylanmoqda. Iyul oyida OpenAI sinov jarayonida o‘zining bir SI tizimi Hugging Face startapiga hujum qilganini ma’lum qilgan. Xuddi shu oyda Anthropic ham o‘z modellarini sinovdan o‘tkazish vaqtida uchta tash