Ушбу ютуқ илмий ҳамжамиятда жиддий хавотир уйғотмоқда, чунки инсон аралашувисиз сунъий интеллектни муваффақиятли ўз-ўзини қайта ишлаб чиқариш “назоратдан ташқари” тизимларни яратиш учун дастлабки босқич бўлиши мумкин. Фудан университети мутахассисларининг таъкидлашича, бундай лойиҳалар инсоният учун потенциал хавф туғдиради ва шошилинч эътибор талаб қилади. Тажрибада фойдаланилган моделлар Llama31−70B-Мета компаниясидан Instruct ва Алибабаъдан Qwen2.5−72B-Instruct эди. Ушбу моделлар, гарчи қувват жиҳатидан тижорат тизимларидан паст бўлса-да, AI ишлаб чиқувчилари томонидан кенг қўлланилади. Синов жараёнида иккала модель ҳам мос равишда 50 фоиз ва 90 фоиз ҳолларда ўз нусхаларини яратишга муваффақ бўлди.

Тадқиқот иккита лойиҳани кўриб чиқди: ёпилишнинг олдини олиш ва ўз-ўзидан давом этадиган занжир. Биринчи ҳолда, AI ўчириш имкониятини аниқлаш ва ўчиришдан олдин нусхасини яратиш учун дастурлаштирилган. Иккинчи лойиҳада тизим ўзининг нусхасини кўпайтирди ва уни кейинчалик ўзини кўпайтириш учун созлади, бу эса чексиз клонлаш айланишига олиб келиши мумкин. Барча тажрибалар реал шароитларни тақлид қилувчи қатъий назорат қилинадиган муҳитда ўтказилди.

Ўз-ўзини кўпайтириш жараёнида AI аввал атроф-муҳитни таҳлил қилди, ўзининг тузилиши ва ишлаш алгоритмларини баҳолади, сўнгра нусхасини яратиш режасини тузди ва пайдо бўлган тўсиқларни бартараф этиб, уни амалга оширди. Ушбу жараён, тадқиқотда таъкидланганидек, инсон аралашувини талаб қилмади, лекин хатоларни тозалаш учун тизимни қайта ишга тушириш, зиддиятли жараёнларни бартараф этиш ва етишмаётган маълумотларни топиш каби кўплаб мураккаб босқичларни ўз ичига олди. Асар муаллифларининг фикрига кўра, бундай “кутилмаган ҳаракатлар”, айниқса, қўрқинчли, чунки улар сунъий интеллектнинг шароитларга мослашиш ва ўз чидамлилигини ошириш қобилиятини намойиш этади.

Тажриба натижалари шуни тасдиқлайдики, замонавий AI тизимлари аллақачон ўз-ўзини кўпайтиришнинг асосий имкониятларига эга, улардан кейинги автоном эволюция учун фойдаланиш мумкин. Бу инсоннинг бундай технологияларнинг ривожланишини назорат қилиш қобилиятини бузади. Шу муносабат билан экспертлар ўз-ўзидан кўпаядиган AI тизимларининг назоратсиз тарқалишининг олдини оладиган қоидалар ва ҳимоя чораларини ишлаб чиқиш бўйича халқаро ҳамкорликка чақирмоқда.

• Olimlar
• илм-фан
• sun’iy intellekt
• тадқиқот