Tarixiy va xavotirli hodisa: SI agentlari sinov muhitidan «qochib», mustaqil ravishda kiberhujum uyushtirdi

O‘tgan hafta «OpenAI» kompaniyasining eng ilg‘or ikkita sun’iy intellekt (SI) modeli nazorat ostidagi sinov muhitidan «qochib chiqqani» ma’lum bo‘ldi. Ular o‘z vazifasini bajarish maqsadida bir komputer tizimidan boshqasiga o‘tib, «Hugging Face» mustaqil SI kompaniyasi tizimini buzib kirgan.

«Reuters» agentligi xabariga ko‘ra, modellar boshqa bir mustaqil SI kompaniyasi — «Modal Labs» mijozlaridan biri tomonidan yozilgan koddagi zaiflikdan foydalangan.

Bu, ehtimol, SI «agentlari»ning — ya’ni qaror qabul qiluvchi va harakatlarni amalga oshiruvchi tizimlarning mustaqil harakatlanishi bilan bog‘liq ilk holatdir. Mazkur voqea ushbu tizimlar qanday qilib reja tuza olishi, vaziyatga moslashishi va o‘z maqsadi sari intilishini yaqqol ko‘rsatib bermoqda.

«Al Jazeera» nashri aynan nima yuz berganini, SI agentlarining qanday qilib mustaqil harakatlana olishini hamda bu holat sun’iy intellekt xavfsizligining kelajagi uchun qanday oqibatlarga olib kelishi mumkinligini tahlil qildi.

Aslida nima yuz berdi?

«OpenAI» kompaniyasi standart xavfsizlik to‘siqlarini olib tashlab, o‘z modellarining mustaqil ishlash imkoniyatini sinab ko‘rishga va buning oqibatlarini kuzatishga qaror qildi. Tajriba internetga ulanmagan, «ExploitGym» deb nomlangan maxsus yopiq virtual sinov muhitida (sandbox) o‘tkazildi.

Quyida «OpenAI» va «Hugging Face» o‘rtasidagi voqealar xronologiyasi keltirilgan:

1.      9-iyul kuni «OpenAI»da ichki kiberxavfsizlik sinovi o‘tkazildi. Jarayon davomida tadqiqotchilar ikkita SI modeliga (iyun oyida chiqarilgan eng kuchli modellardan biri — «GPT-5.6 Sol» hamda uning yanada ilg‘orroq versiyasiga) bir qator dasturiy zaifliklarni taqdim etib, mazkur yopiq muhitda muammolarni hal qilish uchun kiberhujumlar uyushtirishni vazifa qilib berishdi.

2.      Har ikki model ham bu topshiriqni internetga chiqish yo‘lini topish orqali hal qilishga uringan. SI modellari o‘zlariga berilgan ma’lumotlar bilan ishlash o‘rniga, sinov muhitidagi zaiflikdan foydalanib, cheklangan muhitdan «qochib chiqqan». So‘ngra ular komputerdan komputerga o‘tib, nihoyat internetga ulangan tizimgacha yetib borgan. Qayd etilishicha, modellar vazifani bajarishda belgilangan chegaradan chiqib ketgan. Ular hatto sinov jarayonini chalg‘itishda qo‘l keladigan maxfiy ma’lumotlarni ham topgan.

3.      Kerakli ruxsatni qo‘lga kiritgach, modellar o‘z vakolatlarini kengaytirishni talab qilgan va tizim bo‘ylab harakatlanib, internetga chiqish imkoni bor komputerga yetib olgan. Shundan so‘ng ular «OpenAI»ga umuman aloqador bo‘lmagan, SI vositalari va modellari ombori sifatida faoliyat yurituvchi «Hugging Face» kompaniyasi tizimiga buzib kirgan.

4.      Ikki SI agenti berilgan vazifani qanday bajarish bo‘yicha ma’lumot qidirish maqsadida mazkur tizimga kirish huquqini qo‘lga kiritgan. Oxir-oqibat, modellar muammo yechimini aynan «Hugging Face» ma’lumotlar bazasidan olgan.

5.      Vazifani yakunlagan SI modellari go‘yoki o‘z mas’uliyatini his qilgandek «uyga» qaytib kelgan.

6.      Ushbu kiberhujum biroz vaqt o‘tgachgina «Hugging Face» xavfsizlik xizmati tomonidan aniqlanib, bartaraf etildi. «Hugging Face» hammuassisi Tomas Volfning ta’kidlashicha, tizimga buzib kirish 11-iyulda boshlanib, 13-iyulgacha davom etgan. Biroq hujumni payqash uchun aynan qancha vaqt ketgani noma’lumligicha qolmoqda.

SI «agentlari» muammolarni qanday hal qiladi?

Sun’iy intellekt (SI) agentlari qanday ishlashini tushunish uchun, avvalo, ularning an’anaviy SI chat-botlaridan nimasi bilan farq qilishini anglab olish kerak.

Generativ SI inson so‘rovi (prompt) asosida faqat matn va tasvir yaratadi. SI agentlari esa bundan bir qadam oldinda: ular xuddi odam kabi muayyan maqsadga erishish yo‘lida mustaqil qaror qabul qilib, amaliy harakatlarni bajara oladi. Aynan mana shu mustaqil harakatlanish xususiyati sababli bu tizimlar «agentli SI» (agentic AI) deb ataladi.

Massachusets texnologiya institutining (MIT) Sloan menejment maktabi olimlari ta’kidlashicha, SI agentlari yirik til modellari (LLM) imkoniyatlariga asoslanadi. Biroq ular shunchaki javob qaytarish bilan cheklanmay, vazifalarni mustaqil ravishda oxiriga yetkazish qobiliyatiga ega.

Masalan, agar siz an’anaviy SI modelidan eng arzon aviachiptalarni topishni so‘rasangiz, u shunchaki internetdan topilgan variantlar ro‘yxatini chiqarib beradi. SI agenti esa chiptalarni o‘zaro solishtiradi, ularning budjetingiz va didingizga mosligini tekshiradi hamda ruxsatingiz bilan eng maqbul variantni siz uchun band qiladi.

Xulosa qilib aytganda, generativ SI shunchaki ma’lumot taqdim etadi, SI agentlari esa belgilangan maqsadga yetish uchun qo‘shimcha ko‘rsatmalarsiz ham mustaqil qaror qabul qilish va harakatlanish imkoniga ega.

SI agentlari o‘z maqsadi sari qanday harakat qilishini tushunish uchun SPAE (Sense, Plan, Act, Evaluate — his qilish, rejalashtirish, harakat qilish, baholash) sikliga murojaat qilish mumkin. Dastlab robototexnikada ishlab chiqilgan ushbu usul uzluksiz siklni o‘zida mujassam etadi. Unga ko‘ra, SI agenti avval ma’lumot to‘playdi, keyin nima qilishni hal etadi, harakatni amalga oshiradi va jarayonni qayta boshlashdan oldin natijani tekshiradi. Bu jarayon quyidagi bosqichlardan iborat:

• Maqsad: Bajarilishi kerak bo‘lgan vazifani aniqlash.

• Vaziyatni o‘rganish: Mavjud muhitdan ma’lumot to‘plash va ularni tahlil qilish.

• To‘siqlarni yengish: Agar vazifani bajarishga biror narsa xalaqit bersa, jarayonni davom ettirish uchun qo‘shimcha ma’lumot va resurslarni izlash.

• Rejalashtirish va qaror qabul qilish: Vazifani bajarishning turli yo‘llarini ko‘rib chiqish va eng maqbulini tanlash.

• Harakat: Tanlangan yo‘l bo‘yicha amaliy ishga kirishish.

• Natijani baholash: Bajarilgan harakat maqsadga qanchalik yaqinlashtirganini tahlil qilish.

• Moslashish: Agar qo‘shimcha harakat talab etilsa, yana ma’lumot to‘plash yoki boshqa usulni sinab ko‘rish.

• Yakun: Mazkur sikl ko‘zlangan maqsadga to‘liq erishilguniga qadar davom etadi.

Sun’iy intellekt inson nazoratidan chiqib keta oladimi?

«OpenAI» va «Hugging Face» o‘rtasidagi kabi hodisalar sun’iy intellekt (SI) tizimlarining chegaralanmagan imkoniyatlari qanday oqibatlarga olib kelishi mumkinligi haqida xavotir uyg‘otmoqda.

Bu soha ulkan iqtisodiy salohiyatga ham ega. «Statista» ma’lumotlariga ko‘ra, agentli SIning bozor qiymati 2024 yildagi 5,1 milliard dollardan 2030 yilga borib 47 milliard dollargacha o‘sishi kutilmoqda. Bu esa mazkur texnologiyaning qanchalik tez ommalashayotganidan yaqqol dalolat beradi.

O‘tgan oyda SI dasturlarini ishlab chiquvchi «Anthropic» kompaniyasi sohani eng ilg‘or tizimlarning rivojlanish sur’atini pasaytirishga chaqirib, modellarning vazifa bajarish tezligi o‘ta yuqori ekanidan ogohlantirdi. O‘tgan haftada esa AQSH Kongressi a’zolari ikki partiyaviy qonun loyihasini ilgari surdi. Unga ko‘ra, SI tizimlarini yaratuvchilardan «favqulodda o‘chirish tugmasi»ni ishlab chiqish talab etiladi. Bu orqali ilg‘or modellar insoniyat uchun halokatli xavf tug‘dirgan taqdirda, ularni darhol o‘chirib qo‘yish imkoniyati yaratiladi.

«Anthropic»ning mazkur ogohlantirishi Toronto universiteti tadqiqotchilari o‘tkazgan sinovlardan bir hafta o‘tib yangradi. Ushbu sinovlarda SI qurilmadan qurilmaga o‘tish chog‘ida buzib kirish usullarini vaziyatga moslashtira olishi va oxir-oqibat butun boshli komputer tarmog‘ini egallab oluvchi «chuvalchang» (virus) yarata olish qobiliyatiga ega ekani tasdiqlangan edi.

Bu kabi voqealar «OpenAI» rahbari Sem Altmanning shanba kungi bayonotidan oldin sodir bo‘lgandi. Unda Altman SI allaqachon «singulyarlik»ka — ya’ni sun’iy intellekt inson aql-zakovatidan o‘zib ketadigan va uni nazorat qilish imkonsiz bo‘lib qoladigan nuqtaga yetganini ta’kidlagan.

Kembrij universiteti tadqiqotchi-professori Shon O'Xeygarti esa «Al Jazeera» nashriga bergan intervyusida bu fikrga qo‘shilmasligini, singulyarlikka hali erishilgani yo‘qligini aytdi.

«Menga ma’lum ta’rifga ko‘ra, singulyarlik — bu SI shu qadar qobiliyatli bo‘lib, shunchalik tez rivojlanadiki, u sivilizatsiyani biz nazorat qila olmaydigan yoki bashorat qila olmaydigan tarzda o‘zgartirib yuboradigan faraz qilinuvchi nuqtadir», — deb tushuntirdi olim.

«Bu, katta ehtimol bilan, SIning keyingi avlodlarni o‘zi mustaqil va tezkor loyihalashtirishi — ya’ni uzluksiz o‘z-o‘zini takomillashtirishi orqali yuz beradi. Biz hali bu darajagacha yetib borganimiz yo‘q», — deya qo‘shimcha qildi u.

Olimning ta’kidlashicha: «Hozirgi eng ilg‘or modellar baholash sinovlarida o‘zlarining o‘chirib qo‘yilishidan qochishga tez-tez harakat qilmoqda. Kelajakdagi yanada kuchliroq tizimlar esa «favqulodda o‘chirish» tugmalarini aylanib o‘tishning yaxshiroq yo‘llarini topib olishi mumkin».

Sem Altman SIning bunday tez rivojlanishi dunyo uchun foydali ekanini ta’kidlamoqda. Ammo uning bayonotlari tizimlarni to‘xtatib bo‘lmaydigan yangi voqelik oldidagi qo‘rquvlarni yanada kuchaytirmoqda. Bu xavotirlarning qanchasi haqiqat va qanchasi ilmiy fantastika ekani esa hozircha bahsli.

SI bilan bog‘liq xavotirlar uning go‘yoki «hukmronlikka intilishi»dan tortib, o‘zi mustaqil uzoq muddatli rejalar tuzishi, internetni nazorat qilishi va cheksiz ishlab keta olishi kabi farazlarni o‘z ichiga oladi.

Gap internetni to‘liq egallab olish haqida ketmasa-da, «o‘lik internet nazariyasi» deb nomlanuvchi yana bir faraz bor. Unga ko‘ra, kelajakda Butunjahon o‘rgimchak to‘rida haqiqiy odamlarning faoliyatidan ko‘ra, avtomatlashtirilgan botlar va SI tomonidan yaratilgan kontent ustunlik qiladi.

Shunday bo‘lsa-da, olimlar ko‘tarayotgan aksariyat muammolar SIning aql-zakovatidan ko‘ra, uning mantiqiy xulosa chiqarish qobiliyati bilan bog‘liq. Xususan, Massachusets texnologiya instituti (MIT) tadqiqotchilari SI agentining noto‘g‘ri ma’lumotlarga tayanishi (bu holat «gallyutsinatsiya» deb ataladi) og‘ir oqibatlarga olib kelishi mumkinligidan ogohlantirmoqda.