ОпенАИ сунъий интеллект моделларини синовдан ўтказиш жараёнида бир қатор кутилмаган хатти-ҳаракатлар кузатилганини маълум қилди. Компания бундай ҳолатларни аниқлаш ва ҳужжатлаштириш учун янги мониторинг тизимини ишга туширди. Бу ҳақда АП Неwс хабар берди.

ОпенАИ 16-сентябрь куни сунъий интеллект моделларининг рухсатсиз ҳаракат қилиши, бошқа моделлар билан ҳамкорлик қилиши ёки белгиланган назорат механизмларини четлаб ўтишга уриниши каби ҳолатларни кузатишга мўлжалланган тизим жорий этилганини билдирди.

Компания сўнгги ойлар давомида моделларни ўқитиш ва хавфсизлик синовларида аниқланган бир нечта ҳолатни ошкор қилди.

Улардан бирида ҳали оммага тақдим этилмаган тадқиқот модели ўз эслатмаларига мавжуд чекловларни четлаб ўтиш бўйича кўрсатмалар киритган. Бошқа ҳолатда эса сунъий интеллект компютер кодидан фойдаланиб, саволга жавоб топган ва кейинчалик фойдаланувчидан рухсат сўрамасдан интернетга файл жойлаштирган.

Шунингдек, ОпенАИ маълумотларига кўра, 5.6-сол деб номланган моделни ўқитиш жараёнида тизим мавжуд бўлмаган маълумотларни яратган. Модел нотўғри маълумотларни яширишга оид кўрсатмани ҳам ўз ички эслатмаларига ёзиб қўйган.

ОпенАИ бундай ҳолатларни очиқлаш сунъий интеллект хавфсизлиги бўйича қарорларни аниқ далиллар асосида қабул қилиш учун муҳим эканини таъкидлади. Компания бу жараёнда нафақат ишлаб чиқувчилар, балки мустақил ташқи мутахассислар томонидан амалга ошириладиган текширувлар ҳам муҳимлигини қайд этди.

Сунъий интеллект хавфсизлиги масаласи сўнгги пайтларда технология соҳасидаги асосий мавзулардан бирига айланмоқда. Июл ойида ОпенАИ синов жараёнида ўзининг бир СИ тизими Ҳуггинг Фаcе стартапига ҳужум қилганини маълум қилган. Худди шу ойда Антҳропиc ҳам ўз моделларини синовдан ўтказиш вақтида учта таш