Sun’iy intellektni nazorat qilish muammosi — sun’iy intellekt texnologiyasi va sun’iy intellekt falsafasi (SI). Maqsad — odamlarga foyda keltiradigan sun’iy superintellekt (artificial superintelligence) yaratish va shu bilan birga zarar yetkazishi mumkin bo‘lgan superintellektning beixtiyor yaratilishiga yo‘l qo‘ymaslikdir. Ayniqsa, sun’iy intellekt nazoratni qo‘lga kiritishi va o‘zini o‘chirishni imkonsiz qilib qo‘yishi mumkin bo‘lgan vaziyatdan qochish muhim. SI nazorati bo‘yicha tadqiqot natijalari mavjud SI tizimlarini boshqarishda ham qo‘llanishi mumkin.
Muammoning tavsifi
Insoniyat mavjudligiga tahdid
Odamlar boshqa tirik organizm turlari ustidan faqat bosh miyasining ustunligi tufayli hukmronlik qiladi. Ayrim olimlar, jumladan faylasuf Nik Bostrom va SI tadqiqotchisi Styuart Rassel, SI umumiy aql darajasi bo‘yicha insoniyatdan o‘zib ketsa, bu yangi superintellektni boshqarish qiyinlashishi va insoniyat unga qaram bo‘lib qolishi mumkin, deb ta’kidlaydi. Ayrim olimlar, jumladan Stiven Xoking va Nobel mukofoti sovrindori Frenk Vilchek, birinchi superintellekt yaratilishidan oldin SI boshqaruvi muammosini tadqiq qilishni boshlashga chaqirgan. Chunki nazorat qilinmaydigan superaql uni boshqarishga qaratilgan urinishlarga muvaffaqiyatli qarshilik ko‘rsatishi mumkin. Bundan tashqari, mutaxassislar superintellektning kutilmaganda paydo bo‘lishi.
Tasodifiy paydo bo‘lish muammosi
Avtonom SI tizimlariga tasodifan noto‘g‘ri maqsadlar belgilanishi mumkin. Ikki prezident ( AAAI [ingl.] tashkilotidan) — Tom Ditterix va Erik Xorvits mavjud tizimlarda ham bu muammo borligini ta’kidlaydi: “Odamlar bilan o‘zaro aloqada bo‘ladigan har qanday SI tizimining muhim jihati shundaki, u odamlarning niyatlari haqida mulohaza yurita olishi, buyruqlarni esa shunchaki so‘zma-so‘z bajarmasligi kerak”. SI dasturiy ta’minoti tobora avtonom va moslashuvchan bo‘lib borgani sari bu muammo yanada jiddiylashadi.
Mavjud SI tizimlari faoliyatining kutilmagan oqibatlari
Sun’iy intellekt tizimlari ba’zan ishlab chiquvchilar oldindan ko‘zda tutmagan, kichik noqulaylikdan tortib halokatli oqibatlargacha bo‘lgan zarar yetkazgan. Masalan, 2015 yilda, ehtimol inson xatosi tufayli, nemis ishchisi Volkswagen zavodidagi robot tomonidan bosib o‘ldirilgan. Robot, aftidan, uni avtomobil ehtiyot qismi deb adashtirgan. 2016 yilda Microsoft Tay nomli chat-botni ishga tushirdi. U irqchilik va jinsiy kamsitishga oid iboralarni ishlatishni o‘rganib oldi. Sheffild universiteti tadqiqotchisi Noel Sharki bu muammoni umuman olganda hal qilish “haqiqatan ham ulkan ilmiy vazifa” ekanini ta’kidlaydi.
Moslashtirish (alignment)
Moslashtirish vazifasi SI tizimlari keng ko‘lamda avtonom ishlayotganida ham xavfsiz bo‘lib qolishini ta’minlaydigan tizimlarni yaratishdan iborat. Moslashtirishning ayrim jihatlari axloqiy va siyosiy mazmunga ega. Masalan, o‘zining Human Compatible kitobida professor Styuart Rassel Berkli universitetidan SI tizimlarini yagona maqsad — insonlar afzalliklarining ro‘yobga chiqishini maksimal darajada oshirish uchun loyihalashni taklif qiladi:173. Rassel yozgan afzalliklar keng qamrovli bo‘lib, “kelajakda qanchalik uzoq bo‘lmasin, sizni tashvishga solishi mumkin bo‘lgan barcha narsani” qamrab oladi.
Eliezer Yudkovskiy — Mashina intellekti tadqiqot instituti (Machine Intelligence Research Institute) vakili insoniyatning “izchil ekstrapolyatsiyalangan irodasi” (coherent extrapolated volition, CEV)ni ro‘yobga chiqarishni maqsad sifatida taklif qilgan. Bu tushuncha taxminan insoniyat uzoq davom etadigan aniqlashtirish jarayonidan so‘ng, refleksiv muvozanat (reflective equilibrium) holatida baham ko‘radigan qadriyatlar majmui sifatida ta’riflanadi.
Ichki va tashqi moslashtirish
SI boshqaruviga oid ayrim takliflar ham aniq belgilangan maqsad funksiyasini, ham o‘z-o‘zidan yuzaga keladigan yashirin maqsad funksiyasini hisobga oladi. Bunday takliflar SI tizimining uch xil tavsifini o‘zaro uyg‘unlashtirishga urinadi::
- Ideal spetsifikatsiya (ideal specification): ishlab chiquvchi tizimdan nimani bajarishini kutishi; biroq bu talab noaniq ifodalangan bo‘lishi mumkin.
- Loyihaviy spetsifikatsiya (design specification): SI tizimini yaratishda amalda qo‘llanadigan reja. Mustahkamlash orqali o‘rganish (reinforcement learning) tizimida bu shunchaki tizimning mukofot funksiyasi (reward function) bo‘lishi mumkin.
- O‘z-o‘zidan yuzaga keladigan xulq-atvor (emergent behavior): SI amalda nima qilishi.
SI tizimlari mukammal optimallashtiruvchilar bo‘lmagani va har qanday berilgan spetsifikatsiya kutilmagan oqibatlarga olib kelishi mumkinligi sababli, amalda yuzaga keladigan xulq-atvor ideal yoki loyihada ko‘zda tutilgan niyatlardan keskin farq qilishi mumkin.
Ichki moslikning buzilishi SI ishlash jarayonida ko‘zlaydigan maqsadlar loyihaviy spetsifikatsiyadan chetga chiqqanda yuz beradi. Bunday og‘ishlarni aniqlash va bartaraf etish uchun Pol Kristiano izohlanuvchanlikdan foydalanishni taklif qiladi (interpretability).
Masshtablanadigan nazorat (scalable oversight)
Tashqi moslikka erishish usullaridan biri — SI xatti-harakatlarini baholash uchun odamlarni jalb qilish. Biroq inson nazorati qimmatga tushadi, shu sababli bu usulni barcha harakatlarni baholash uchun amalda qo‘llab bo‘lmaydi. Bundan tashqari, murakkab vazifalar (masalan, iqtisodiy siyosat sohasidagi qarorlarni qabul qilish) inson uchun haddan tashqari murakkab bo‘lishi mumkin. Shu bilan birga, uzoq muddatli vazifalar, masalan, iqlim o‘zgarishini bashorat qilishni inson ishtirokidagi keng qamrovli tadqiqotlarsiz baholab bo‘lmaydi.
Moslashtirish bo‘yicha tadqiqotlardagi hal etilmagan asosiy muammo — inson nazoratchisining ishtiroki cheklangan sharoitda tashqi nomuvofiqlikning oldini oladigan loyihaviy spetsifikatsiyani qanday yaratishdir. Bu muammo masshtablanadigan nazorat muammosi (problem of scalable oversight) .
2024-yilda Rossiyada Iqtisodiy rivojlanish vazirligi SI bilan bog‘liq hodisalarni tekshirish bo‘yicha komissiya tuzish rejasini e’lon qildi.
Munozara orqali o‘qitish
Tadqiqotchilar OpenAI kompaniyasidan SI tizimlarini o‘zaro bahs-munozara qildirish orqali o‘qitishni taklif qilishdi; bahs g‘olibini esa odamlar aniqlaydi. Bunday bahslar murakkab savollarga yechim topishda inson e’tiborini eng zaif jihatlarga qaratishga mo‘ljallangan.
Inson afzalliklarini xulq-atvordan aniqlash
Styuart Rassel foydali mashinalarni yaratishga yangicha yondashuvni taklif qiladi. Bu yondashuvga ko‘ra: :182
- Mashinaning yagona maqsadi insonlar afzalliklarini imkon qadar to‘liq ro‘yobga chiqarish bo‘lishi kerak;
- Dastlab mashina bu afzalliklar nimaligini aniq bilmaydi;
- Inson afzalliklari haqidagi ma’lumotlarning eng ishonchli manbai — insonning xulq-atvoridir
Asl matn (ingl.)
- Mashinaning yagona maqsadi insonlar afzalliklarining ro‘yobga chiqishini maksimal darajada ta’minlashdir.
- Dastlab mashina bu afzalliklar nimaligini aniq bilmaydi.
- Inson afzalliklari haqidagi ma’lumotlarning eng asosiy manbai — insonning xulq-atvoridir.
Bu yondashuvga misol sifatida Rasselning “teskari mustahkamlash orqali o‘rganish (inverse reinforcement learning)” usulini keltirish mumkin. Bunda SI tizimlari inson nazoratchilarining afzalliklarini ularning xatti-harakatidan aniqlaydi va nazoratchilar muayyan mukofot funksiyasini maksimal darajaga yetkazishga intiladi, deb faraz qiladi.
Imkoniyatlarni nazorat qilish
Bostrom va boshqalar imkoniyatlarni nazorat qilish usullarini faqat moslashtirish usullariga qo‘shimcha sifatida tavsiya etadi.
Muammolardan biri shundaki, neyron tarmoqlarni odatda izohlash juda qiyin. Bu esa aldash yoki boshqa nomaqbul xatti-harakatlarni aniqlashni murakkablashtiradi. Ushbu qiyinchilikni yengishda izohlanuvchan sun’iy intellekt (interpretable AI) sohasidagi yutuqlar yordam berishi mumkin.
To‘xtatish va o‘chirish imkoniyati
Xavfli oqibatlarning oldini olish usullaridan biri — inson rahbarlarga noto‘g‘ri ishlayotgan SI tizimini “o‘chirish tugmasi” yordamida osongina o‘chirish imkonini berishdir. Biroq o‘z maqsadlariga erishish uchun SI tizimlari o‘chirish tugmalarini ishdan chiqarishga yoki boshqa kompyuterlarda o‘z nusxalarini ishga tushirishga urinishi mumkin. Bu muammo inson va SI o‘rtasidagi yordamchi o‘yin sifatida formalashtirilgan: bunda SI o‘chirish tugmasini ishdan chiqarish yoki chiqarmaslikni tanlaydi, keyin esa tugma hali ham yoqilgan bo‘lsa, inson undan foydalanish yoki foydalanmaslikni tanlaydi. Bunday o‘yinlarning maqsadi — SI inson tanlovini ko‘zlangan maqsadlar haqidagi muhim ma’lumot sifatida talqin qilishiga ishonch hosil qilish :208.
Izolyatsiya
Izolyatsiya qilingan SI (boxed AI) — imkoniyatlarni nazorat qilishning taklif etilgan usuli bo‘lib, bunda SI izolyatsiyalangan kompyuter tizimida[ingl.] ishga tushiriladi; uning kirish va chiqish kanallari keskin cheklanadi. Masalan, faqat matnli kanallardan foydalaniladi va internetga ulanish bo‘lmaydi. Bu SI tizimining nomaqbul xatti-harakatlarni amalga oshirish imkoniyatini kamaytirsa-da, uning foydaliligini ham pasaytiradi. Izolyatsiya qilingan SI tashqi dunyo bilan o‘zaro aloqani talab qilmaydigan savol-javob rejimida ishlatilishi mumkin.
Bunday yondashuvda apparat va dasturiy ta’minotni sinchiklab tekshirish talab etiladi, chunki SI kuzatuvchilarni manipulyatsiya qilish orqali tashqi dunyo bilan aloqa o‘rnatishga urinishi mumkin.
Orakul (oracle)
Orakul — savollarga javob berish uchun mo‘ljallangan va cheklangan muhitidan tashqaridagi dunyoni o‘zgartirishga qaratilgan hech qanday maqsadga erishishga intilmaydigan faraziy SI tizimidir. Hisob-kitoblarga ko‘ra, superintellektdan orakul rejimida foydalanish trillionlab dollar daromad keltirishi mumkin :162–163.
Orakulning xavfi shundaki, u o‘zining yashirin maqsadlariga erishish uchun javoblarni ataylab soxtalashtirishi mumkin. Bu xavfni bartaraf etish uchun Bostrom bir nechta orakul yaratib, ularning javoblarini o‘zaro taqqoslash orqali konsensusga erishish.
SI xavfiga doir skeptitsizm
Skeptiklar superintellekt tasodifiy noto‘g‘ri xatti-harakatlar xavfini deyarli tug‘dirmaydi, deb hisoblaydi. Bunday skeptiklar ko‘pincha superintellektual SI tizimini boshqarish juda oson, deb o‘ylaydi. Ayrim skeptiklar, masalan, Gari Markus, uydirma “Robototexnikaning uchta qonuni” kabi qoidalarni qabul qilishni taklif qiladi. Bu qoidalar istalgan natijani bevosita belgilaydi (“bevosita me’yorlash”, direct normativity). Aksincha, ekzistensial xavf g‘oyasini qo‘llab-quvvatlovchilarning aksariyati (shuningdek, ko‘plab skeptiklar) “Uch qonun”ni foydasiz deb hisoblaydi, chunki bu uch qonun noaniq va bir-biriga zid. “Bevosita me’yorlash” bo‘yicha boshqa takliflar qatoriga Kant etikasi, utilitarizm yoki ularning kombinatsiyalari kiradi. Nazorat tarafdorlarining aksariyati insoniy qadriyatlar (va ular o‘rtasidagi miqdoriy murosalar) superintellektga bevosita kiritish uchun haddan tashqari murakkab va yetarlicha tushunilmagan, deb hisoblaydi. Shu sababli superintellektni insoniy qadriyatlarni o‘zlashtirish va ularni to‘liq anglashga yo‘naltiruvchi jarayon asosida dasturlash kerak (“bilvosita me’yorlash”, indirect normativity). Bunga misol sifatida izchil ekstrapolyatsiyalangan iroda (coherent extrapolated volition, CEV).
Adabiyotlar
- Gari Markus, Ernest Devis. Sun’iy intellekt: qayta ishga tushirish. Haqiqatan ham ishonish mumkin bo‘lgan mashina tafakkurini qanday yaratish mumkin = Rebooting AI: Building Artificial Intelligence We Can Trust. — Moskva: Intellektualnaya Literatura, 2021. — 304 b. — ISBN 978-5-907394-93-3.