Sun’iy intellekt etikasi

Sun’iy intellekt etikasi quyidagi kengroq sohaning bir qismi hisoblanadi — texnologiyalar etikasi[ingl.], ushbu yo‘nalish robotlar va boshqa sun’iy intellektga ega mavjudotlarga xosdir. U odatda ikki yo‘nalishga bo‘linadi: roboetika— sun’iy intellektli mavjudotlarni loyihalash, yaratish, ulardan foydalanish va ularni davolashda qo‘llash jarayonidagi insonning axloqiy xatti-harakatlarini o‘rganadigan yo‘nalish; shuningdek, mashina etikasi[ingl.]— sun’iy axloqiy agentlarning (SAA) axloqiy xatti-harakatlari bilan bog‘liq muammolarni ko‘rib chiqadigan yo‘nalish.

Bugungi kunda sun’iy intellekt tizimlari algoritmlarning tarafkashligi va inson huquqlariga tahdidlardan tortib iqlimga ta’sirgacha bo‘lgan jiddiy axloqiy muammolarni ham keltirib chiqarmoqda. Bu muammolarga javoban YUNESKO sun’iy intellektni ishlab chiqish va qo‘llashga adolatli hamda inklyuziv yondashuvni shakllantirishga qaratilgan «Sun’iy intellekt etikasi bo‘yicha tavsiyalar»ni qabul qildi. Ushbu tavsiyalar sun’iy intellektni global miqyosda qo‘llashga taalluqlidir.

Robotlar etikasi

«Robotlar etikasi» (yoki «roboetika») atamasi insonlar robotlar va boshqa sun’iy intellektli mavjudotlarni qanday loyihalashi, yasashi, ishlatishi va ularga qanday munosabatda bo‘lishi bilan bog‘liq axloqiy masalalarni anglatadi. Bu yo‘nalish sun’iy intellektli mavjudotlardan insonlar manfaati yoki ularga zarar yetkazish maqsadida qanday foydalanish mumkinligini o‘rganadi.

Robotlar huquqlari

«Robotlar huquqlari» — insonlarda o‘z mashinalari oldida ham axloqiy majburiyatlar bo‘lishi kerakligi haqidagi konsepsiya. Bunday majburiyatlar quyidagilarga qiyoslanadi: inson huquqlariga yoki hayvonlar huquqlariga. Robotlarning mavjud bo‘lish va o‘z vazifasini bajarish huquqlarini, inson huquqlari jamiyat oldidagi burchlar bilan bog‘langani kabi, robotning insonga xizmat qilish majburiyati bilan bog‘lash taklif qilingan. Bu huquqlarga yashash va erkinlik, fikr va so‘z erkinligi, shuningdek qonun oldida tenglik kirishi mumkin. Bu masalani ko‘rib chiqqan muassasalar — Kelajak instituti va Savdo va sanoat vazirligi ( Buyuk Britaniya).

Savdo va sanoat vazirligi tomonidan ko‘rib chiqilgan. Mutaxassislar aniq va batafsil qonunlar yaqin kelajakda kerak bo‘ladimi yoki faqat uzoq kelajakdagina zarur bo‘ladimi, degan masalada yakdil emas. Glenn Makgi 2020-yilga kelib insonga yetarlicha o‘xshash robotlar paydo bo‘lishi mumkinligini bildirgan. Rey Kursveyl buning 2029-yilga kelib yuz berishini taxmin qilgan. 2007-yilda esa boshqa olimlar guruhi bunday darajada rivojlangan tizim paydo bo‘lishigacha kamida 50 yil o‘tishi kerakligini aytgan.

« Lyobner mukofoti » tanlovining 2003-yildagi qoidalari robotlar o‘z huquqlariga ega bo‘lishi mumkinligini nazarda tutgan.

2017-yil oktabrda Sofiya androidi Saudiya Arabistonida«faxriy» fuqarolik oldi, biroq ayrim kuzatuvchilar buni mazmunli huquqiy tan olishdan ko‘ra reklama usuli deb baholagan. Ba’zilar bu harakatni inson huquqlari va qonun ustuvorligining ochiq tahqirlanishi sifatida ko‘rgan.

Falsafadagi sentientizm[ingl.] yo‘nalishi axloqiy e’tiborga loyiq bo‘lish huquqini barcha his qiluvchi mavjudotlarga, birinchi navbatda insonlar va aksariyat hayvonlarga beradi. Agar sun’iy yoki o‘zga sayyoralik intellektli mavjudotlar o‘zlarining his qilish qobiliyatininamoyon qilsa, bu falsafaga ko‘ra, ularga ham rahm-shafqat ko‘rsatish va huquqlar berish kerak.

Joanna Brayson huquqlarga ehtiyoj sezadigan sun’iy intellektni yaratmaslik mumkinligini, buning o‘zi ham axloqqa zid ekanini ta’kidlagan, chunki bunday yaratish sun’iy intellekt agentlari uchun ham, insoniyat jamiyati uchun ham yuk bo‘ladi.

Inson qadr-qimmatiga tahdid

Jozef Veyzenbaum 1976-yilda sun’iy intellekt texnologiyasi insoniy hurmat va g‘amxo‘rlik talab qiladigan quyidagi kasblardagi odamlar o‘rnini bosish uchun ishlatilmasligi kerakligini ta’kidlagan:

Veyzenbaumning tushuntirishicha, bu kasblardagi odamlardan chinakam empatiyatuyg‘usini talab qilamiz. Agar ular o‘rnini mashinalar egallasa, biz o‘zimizni begonalashgan, qadrsizlangan va hafsalasi pir bo‘lgan his qilamiz. Sun’iy intellektshunday ishlatilsa, inson qadr-qimmatiga tahdid tug‘diradi. Veyzenbaumning fikricha, mashinalar ushbu vazifalarni bajarishi mumkinligini o‘ylashimizning o‘zi bizda «o‘zimizni kompyuter deb tasavvur qilish oqibatida insoniy ruhning zaiflashuvi» yuz berganini ko‘rsatadi.

Pamela Makkordak esa bunga e’tiroz bildirib, ayollar va ozchiliklar haqida «men xolis kompyuter bilan tavakkal qilishni afzal ko‘rardim», deydi. U ayrim sharoitlarda shaxsiy manfaatlari mutlaqo bo‘lmagan avtomatlashtirilgan sudya va politsiyani afzal ko‘rishimizni nazarda tutadi. Shunga qaramay, Kaplan va Xenlayn sun’iy intellekt tizimlarining aql-zakovati ularni o‘qitishda ishlatilgan ma’lumotlar bilan chegaralanishini ta’kidlaydi: mohiyatan ular egri chiziqlar orqali yaqinlashtirishmashinalaridan boshqa narsa emas. Agar avvalgi sud qarorlarida muayyan guruhlarga nisbatan tarafkashlik bo‘lsa, sud qarorlarini qo‘llab-quvvatlash uchun sun’iy intellektdan foydalanish juda muammoli bo‘lishi mumkin. Chunki bu noto‘g‘ri qarashlar rasmiylashib, mustahkamlanadi va ularni aniqlash hamda ularga qarshi kurashish yanada qiyinlashadi. Sun’iy intellekt sohasining asoschilaridan biri Jon Makkarti Veyzenbaum tanqididagi pand-nasihat ohangiga qarshi chiqqan. U shunday yozadi: «Axloqiy pand-nasihat tajovuzkor va mavhum tus olganda, avtoritar zo‘ravonlikka yo‘l ochadi».

Bill Xibbard «Inson qadr-qimmati borliq tabiatini bilmasligimizni bartaraf etishga intilishimizni talab qiladi, buning uchun esa sun’iy intellekt zarur», deb ta’kidlagan.

Shaffoflik, javobgarlik va ochiq manba kodi

Bill Xibbard[ingl.] sun’iy intellekt insoniyatga kuchli ta’sir ko‘rsatishi sababli uning ishlab chiquvchilari faoliyati axloqiy jihatdan shaffof bo‘lishi kerakligini ta’kidlaydi. Ben Gertsel va Devid Xart OpenCog platformasini sun’iy intellektni ishlab chiqishga mo‘ljallangan ochiq manba kodli dasturiy karkas sifatida yaratgan. OpenAI — sun’iy intellektni tadqiq etuvchi notijorat kompaniya bo‘lib, unga Ilon Mask, Sem Altman va boshqalar asos solgan. Kompaniyaning maqsadi insoniyatga foydali ochiq manba kodli sun’iy intellekt dasturlarini yaratishdir. Sun’iy intellekt sohasida boshqa ko‘plab ochiq kodli ishlanmalar ham mavjud.

Kodning ochiq bo‘lishi uni tushunishni osonlashtirmaydi, ya’ni ushbu kodga asoslangan sun’iy intellekt shaffof bo‘lib qolmaydi. IEEE sun’iy intellekt shaffofligini standartlashtirish bilan shug‘ullanishga intilmoqda. IEEE tashabbuslari turli foydalanuvchilar uchun shaffoflikning bir necha darajasini ajratadi. Bundan tashqari, zamonaviy sun’iy intellektning to‘liq imkoniyatlarini ayrim tashkilotlar ixtiyoriga berish jamiyatga foydadan ko‘ra ko‘proq zarar yetkazishi mumkinligi haqida xavotirlar bor. Masalan, Microsoft yuzni tanish dasturiy ta’minotidan, hatto buning uchun pul to‘lay oladigan foydalanuvchilarga ham, umumiy foydalanish imkonini berish yuzasidan xavotir bildirgan. Microsoft bu mavzuda noodatiy blog yozuvini e’lon qilib, to‘g‘ri yondashuvni aniqlashda yordam berishi uchun davlat tomonidan tartibga solishni so‘ragan.

Shaffoflikni va shu orqali insonlarning javobgarligini ta’minlash uchun nafaqat kompaniyalar, balki ko‘plab tadqiqotchilar va fuqarolik huquqlari himoyachilari ham davlat tartibga solishini tavsiya etmoqda. Sun’iy intellekt etikasi bo‘yicha yangilanib turadigan to‘plam (ro‘yxat) AlgorithmWatch tashkiloti tomonidan yuritiladi. Arxiv nusxasi 30-noyabr 2019-yildan Wayback Machine platformasida saqlangan. Bu strategiya bahsli: ayrimlar tartibga solish innovatsiyalar sur’atini sekinlashtirishidan xavotirda. Boshqalar esa u uzoq muddatda innovatsiyalarni yanada kuchliroq qo‘llab-quvvatlaydigan tizimli barqarorlik yaratishini ta’kidlaydi. Iqtisodiy hamkorlik va taraqqiyot tashkiloti (IHTT), BMT, Yevropa Ittifoqi va ko‘plab davlatlar ayni paytda sun’iy intellektni tartibga solish strategiyalari hamda tegishli huquqiy asoslarni ishlab chiqmoqda.

26-iyun kuni Yevropa komissiyasining sun’iy intellekt bo‘yicha yuqori darajali ekspertlar guruhi (AI HLEG) «Ishonchli sun’iy intellekt sohasida siyosat va investitsiyalar bo‘yicha tavsiyalar»ni e’lon qildi. Bu AI HLEGning 2019-yil aprel oyida chop etilgan «Ishonchli sun’iy intellekt uchun axloqiy ko‘rsatmalar»dan keyingi ikkinchi hujjatidir. Yangi tavsiyalar to‘rt asosiy sohani qamrab oladi: insonlar va umuman jamiyat, xususiy sektor, davlat sektori, shuningdek, ilmiy tadqiqotlar va fan. HLEG tavsiyalari sun’iy intellekt texnologiyalarining iqtisodiy o‘sish, farovonlik va innovatsiyalarni rag‘batlantirish imkoniyatlarini ham, ehtimoliy xavflarini ham hisobga oladi. Yevropa Ittifoqi butun dunyoda sun’iy intellektni tartibga soluvchi siyosatni ishlab chiqishda yetakchi bo‘lishni maqsad qilgan. Biroq Yevropa texnologiyani joriy etish va qo‘llashni tezlashtirmasa hamda ishlab chiqarish, ilmiy-tadqiqot va tajriba-konstruktorlik salohiyatini yaratmasa, bu imkoniyati cheklangan bo‘ladi.

2021-yil noyabrda YUNESKO sun’iy intellekt etikasi bo‘yicha tarixdagi ilk global standartni ishlab chiqdi. Uning nomi — «Sun’iy intellekt etikasi bo‘yicha tavsiyalar ». Ushbu hujjat 194 ta davlatga tatbiq etiladi: bular YUNESKOga a’zo davlatlardir.

Inson huquqlari va qadr-qimmatini himoya qilish tavsiyalarning asosiy tayanchidir. Ular shaffoflik va adolat kabi fundamental tamoyillarni ilgari surishga, shuningdek inson nazoratining ahamiyatini doimiy ravishda hisobga olishga asoslanadi. Bu, ayniqsa, sun’iy intellekt tizimlari uchun muhim.

Sun’iy intellekt tizimlaridagi tarafkashlik

Sun’iy intellekt yuz va ovozni tanish tizimlarining tobora ajralmas qismiga aylanmoqda. Bu tizimlarning ayrimlari biznes va insonlar hayotiga bevosita ta’sir qiladi. Ular inson ishlab chiquvchilari kiritadigan tarafkashlik va xatolarga moyil. Bundan tashqari, bu tizimlarni o‘qitishda ishlatiladigan ma’lumotlar ham og‘ishlarni o‘z ichiga olishi mumkin. Masalan, yuzni tanishalgoritmlari Microsoft, IBM va Face++[ingl.]tomonidan ishlab chiqilganida insonlarning jinsini aniqlashda bir xillikni ta’minlamagani aniqlangan. Bu sun’iy intellekt tizimlari oq tanli erkaklarning jinsini qora tanli erkaklarnikiga nisbatan aniqroq topgan. Sun’iy intellekt tarafkashligiga yana bir misol — Amazon.com Inc. xodimlarni yollash uchun sun’iy intellektdan foydalanishni to‘xtatgani. Algoritm ayol nomzodlarga qaraganda erkak nomzodlarni ko‘proq ma’qul ko‘rgan. Bunga Amazon tizimi 10 yil davomida to‘plangan, asosan erkak nomzodlardan olingan ma’lumotlar asosida o‘qitilgani sabab bo‘lgan.

Tarafkashlik algoritmlarga turli yo‘llar bilan kirib kelishi mumkin. Sun’iy intellektning «tabiiy tilni qayta ishlash» deb ataluvchi muhim yo‘nalishida muammo «matnlar korpusi» — algoritm turli so‘zlarning o‘zaro bog‘liqligini o‘rganadigan dastlabki materialdan kelib chiqishi mumkin.

Yirik kompaniyalar, jumladan, IBM, Google va boshqalar tarafkashlik muammosini o‘rganish va hal etishni boshlab yuborgan.

Sun’iy intellekt texnologiyasi tibbiyot va huquqshunoslik kabi muhim sohalarga kirib borayotgani, uni joriy etish esa chuqur texnik bilimga ega bo‘lmagan tobora ko‘proq kishilarga topshirilayotgani sababli mashinali o‘qitishdagi tarafkashlik muammosi yanada jiddiylashishi mumkin. Ayrim mutaxassislar algoritmik tarafkashlik ko‘plab tarmoqlarda allaqachon keng tarqalganini, ammo uni aniqlash yoki tuzatish bilan deyarli hech kim shug‘ullanmayotganini ogohlantiradi.

Dunyoning turli davlatlarida, jumladan Germaniya, AQSh, Angliya va Hindistonda, hukumatlarning sun’iy intellektni yetarli darajada o‘ylamasdan qo‘llashi immigratsiya, huquqni muhofaza qilish va ijtimoiy ta’minot kabi sohalarda jiddiy ijtimoiy oqibatlarga olib kelganiga misollar mavjud.

Qisman yoki to‘liq haydovchisiz avtomobillar uchun javobgarlik

Kelajakda qisman yoki to‘liq haydovchisiz avtomobillardankeng foydalanish muqarrar deb hisoblashga asoslar yetarli. Biroq to‘liq avtonom texnologiyalar yangi muammo va vazifalarni yuzaga keltirmoqda. So‘nggi paytlarda haydovchisiz avtomobillar avariyaga uchraganda tomonlarning huquqiy javobgarligi haqida bahslar kuchaydi. Bir hisobotda haydovchisiz avtomobil piyodani urib yuborgani va hodisada kim aybdor degan masala ko‘tarilgani qayd etilgan. Avariya paytida haydovchi avtomobilda bo‘lgan bo‘lsa-da, boshqaruv to‘liq kompyuter qo‘lida edi. Haydovchisiz avtomobillar keng tarqalishidan avval shu kabi masalalarni hal qilish zarur.

Qurollangan sun’iy intellekt

Ayrim mutaxassis va olimlar robotlardan jangovar harakatlarda, ayniqsa ularga muayyan darajada avtonomiya berilganida, foydalanishni shubha ostiga qo‘yadi. AQSh Harbiy-dengiz kuchlari moliyalashtirgan hisobotda jangovar robotlar murakkablashgan sari ularning mustaqil qaror qabul qilish qobiliyati oqibatlariga ko‘proq e’tibor qaratish kerakligi aytilgan.

So‘nggi o‘n yillikda axloqiy javobgarlik yuklanishi mumkin bo‘lgan o‘z-o‘zini o‘qituvchi avtonom tizimlar bo‘yicha keng tadqiqotlar olib borilgan. «Natijalardan kelajakdagi harbiy robotlarni loyihalashda robotlarga javobgarlikni yuklashning nomaqbul tendensiyalarini nazorat qilish uchun foydalanish mumkin». Konsekvensializm nuqtayi nazaridan robotlar kimni o‘ldirish haqida o‘zlari mantiqiy qaror chiqarish qobiliyatini rivojlantirishi ehtimoli bor, shuning uchun sun’iy intellekt chetlab o‘ta olmaydigan axloqiy cheklovlar zarur.

Yaqinda insoniyat ustidan robotlar hukmronligi g‘oyasini ham qamrab olishi mumkin bo‘lgan sun’iy intellekt qurollari ishlab chiqilishiga qarshi noroziliklar bildirildi. Sun’iy intellekt quroli inson boshqaradigan qurolga nisbatan boshqacha xavf tug‘diradi. Ko‘plab hukumatlar bunday qurollarni yaratish dasturlarini allaqachon moliyalashtira boshlagan. AQSh Harbiy-dengiz kuchlari yaqinda hujumchi uchuvchisiz uchish apparatiniyaratish rejalarini e’lon qildi; Rossiya va Koreya ham shunga o‘xshash bayonotlar berdi. Sun’iy intellekt qurollari inson boshqaradigan qurollardan xavfliroq bo‘lib borayotgani sababli Stiven Xoking va Maks Tegmark sun’iy intellekt qurollarini taqiqlashga qaratilgan «Hayot kelajagi» petitsiyasini imzolagan. Ular e’lon qilgan xabarda bunday qurollar bevosita xavf tug‘dirishi va yaqin kelajakdagi halokatli oqibatlarning oldini olish uchun choralar ko‘rish zarurligi aytiladi.

«Agar biror yirik harbiy kuch sun’iy intellekt qurollarini ishlab chiqishni ilgari sursa, global qurollanish poygasideyarli muqarrar bo‘ladi va natijada avtonom qurol ertangi kunning Kalashnikov avtomatiga aylanadi», deyiladi petitsiyada. Qurollangan sun’iy intellektga qarshilar orasida Skypeasoschilaridan biri Yaan Tallinn va Massachusets texnologiya institutining tilshunoslik professori Noam Xomskiy.

Fizik va astronom ser Martin Ris «nazoratdan chiqqan ahmoq robotlar yoki o‘z aqlini rivojlantirgan tarmoq» kabi halokatli holatlar haqida ogohlantiradi. Xyu Prays, Risning Kembrijdagi hamkasbi, intellekt «biologik cheklovlardan chiqib ketsa», insoniyat omon qolmasligi mumkinligi haqida shunga o‘xshash ogohlantirish bergan. Ular Kembrij universitetida Ekzistensial xavflarni o‘rganish markazini[ingl.] insoniyat mavjudligiga tahdid soladigan ushbu xavfning oldini olish umidida tashkil etgan.

«Insondan aqlliroq» tizimlardan harbiy sohada foydalanish imkoniyati haqida «Ochiq filantropiya[ingl.]» loyihasi bunday ssenariylar «nazoratni yo‘qotish bilan bog‘liq xavflar kabi muhim bo‘lishi mumkin»ligini yozadi. Biroq sun’iy intellektning uzoq muddatli ijtimoiy ta’sirini o‘rganadigan tashkilotlar bu muammoni yetarlicha tadqiq etmagan: «bunday ssenariylar toifasi ushbu masalalar bilan shug‘ullanuvchi tashkilotlar, jumladan Mashina intellekti tadqiqot instituti (MIRI) va Insoniyat kelajagi instituti (FHI) e’tiborining markazida bo‘lmagan, shuning uchun ular kamroq muhokama qilingan».

Mashina etikasi

Mashina etikasi (yoki mashina axloqi) — sun’iy axloqiy agentlar[ingl.] (SAA), ya’ni axloqiy me’yorlarga amal qiladigan yoki ularga taqlid qiladigan robotlar va sun’iy intellektli kompyuterlarni yaratish bilan bog‘liq tadqiqot sohasi. Bunday agentlarning mohiyatini tushunish uchun bir qator falsafiy tushunchalar, jumladan subyektlik, ratsional agentlar, axloqiy omillar[ingl.] va sun’iy subyektlikka oid umumiy xususiyatlarni o‘rganish taklif qilingan. Ularning barchasi SAA konsepsiyasi bilan bog‘liq.

Ayzek Azimov 1950-yillarda «Men, robot» hikoyalar turkumida bu muammoni ko‘rib chiqqan. O‘z muharriri Jon U. Kempbell-kichik talabi bilan sun’iy intellektli tizimlarni boshqarish uchun u Robototexnikaning uch qonuninitaklif qilgan. Asarlarining katta qismi ushbu uch qonunning chegaralarini sinashga — ular qayerda ishlamasligi yoki paradoksal yoxud kutilmagan xatti-harakatlarga sabab bo‘lishini aniqlashga bag‘ishlangan. Uning asarlari hech qanday belgilangan qonunlar barcha mumkin bo‘lgan vaziyatlarni yetarlicha oldindan ko‘ra olmasligini anglatadi. So‘nggi vaqtlarda olimlar va ko‘plab hukumatlar sun’iy intellektni javobgarlikka tortish g‘oyasini savol ostiga qo‘ymoqda. Buyuk Britaniyada 2010-yilda tuzilgan komissiya Azimov qonunlarini qayta ko‘rib chiqib, sun’iy intellekt uchun uning ishlab chiqaruvchisi yoki egasi/operatori javobgar bo‘lishini aniqlashtirdi.

2009-yilda Intellektual tizimlar laboratoriyasida, quyidagi shaharning Politexnika maktabida tajriba o‘tkazildi: Lozanna shahri, mamlakat — Shveysariya . Tajribada o‘zaro hamkorlik qilish (foydali resurslarni qidirish va zaharli resurslardan qochish) uchun dasturlashtirilgan robotlar oxir-oqibat foydali resurslarni ko‘proq to‘plash maqsadida bir-biriga yolg‘on gapirishni o‘rgandi. Bu holatdagi muammolardan biri maqsadlarning «yakuniy» qilib qo‘yilganligi bo‘lishi mumkin (insonning asosiy motivlari esa odatda cheksiz o‘rganishni talab qiluvchi xususiyatga ega).

Ayrim mutaxassislar va olimlar robotlardan jangovar harakatlarda, ayniqsa ularga ma’lum darajada avtonom funksiyalar berilganda, foydalanishga shubha bilan qaraydi. AQSh Harbiy-dengiz kuchlari moliyalashtirgan hisobotda harbiy robotlar murakkablashgani sari ularning mustaqil qaror qabul qilish qobiliyati oqibatlariga ko‘proq e’tibor berish zarurligi aytilgan.

Vernor Vinj ayrim kompyuterlar insonlardan aqlliroq bo‘lib qoladigan vaqt kelishi mumkinligini taxmin qilib, bu hodisani singulyarlikdeb atagan. Uning fikricha, bu insoniyat uchun qisman yoki hatto nihoyatda xavfli bo‘lishi mumkin. Mashina intellekti tadqiqot instituti «Do‘stona sun’iy intellekt»ni yaratish zarurligini ilgari surgan. Bunda sun’iy intellektdagi taraqqiyot yanada do‘stona va insonparvar sun’iy intellektni yaratishga qaratilgan sa’y-harakatlarni ham qamrab olishi kerakligi nazarda tutiladi.

2009-yilda olimlar va texnik mutaxassislar quyidagi tashkilot uyushtirgan konferensiyada ishtirok etgan: Sun’iy intellektni rivojlantirish assotsiatsiyasi[ingl.]Tadbirda robotlar va kompyuterlarning ehtimoliy ta’siri hamda ularning o‘zini o‘zi ta’minlaydigan va mustaqil qaror qabul qiladigan holatga kelishi haqidagi faraziy imkoniyat muhokama qilingan. Ishtirokchilar kompyuterlar va robotlarning qaysi darajada avtonom bo‘la olishi, bunday imkoniyatlardan qay darajada xavf yoki tahdid tug‘dirish uchun foydalanishi mumkinligini ko‘rib chiqqan. Ayrim mashinalar yarimavtonomlikning turli shakllarini, jumladan energiya manbalarini mustaqil topish va qurol bilan hujum qilish nishonlarini mustaqil tanlash imkoniyatlarini qo‘lga kiritgani qayd etilgan. Shuningdek, ayrim kompyuter viruslari yo‘q qilinishdan qochishi va «suvarak aqli» darajasiga yetgani aytilgan. Ular ilmiy fantastikada tasvirlanadigan o‘zini anglash holati ehtimoldan yiroq ekanini, biroq boshqa xavf-xatarlar va yashirin muammolar mavjudligini ta’kidlagan.

Shunga qaramay, axloqiy qobiliyatlarga ega robotlar paydo bo‘lishiga olib kelishi mumkin bo‘lgan texnologiya mavjud. Robotlarning axloqiy qadriyatlarni o‘zlashtirishi haqidagi maqolada Nayef ar-Rodxan[ingl.] insonlarga o‘xshab, chiziqli bo‘lmagan tarzda va millionlab o‘zaro bog‘langan sun’iy neyronlar orqali axborotni qayta ishlashga intiladigan neyromorf[ingl.] chiplarni misol keltiradi. Neyromorf texnologiyali robotlar bilimlarni o‘ziga xos usulda o‘rganishi va rivojlantirishi mumkin. Bu esa bunday robotlar dunyoni qaysi muhitda o‘rganishi, qanday axloqiy me’yorlarni meros qilib olishi va ular ham oxir-oqibat insoniy «zaifliklar» — xudbinlik, omon qolishga munosabat, ikkilanish va hokazolarni rivojlantiradimi, degan savollarni muqarrar tug‘diradi.

«Axloqiy mashinalar: robotlarga yaxshini yomondan ajratishni o‘rgatish » asarida Vendell Uollax va Kolin Allen robotlarga yaxshi va yomonni farqlashni o‘rgatishga urinishlar inson etikasini tushunishni rivojlantirishi, odamlarni zamonaviy normativ nazariya dagi bo‘shliqlarni bartaraf etishga undashi hamda tajribaviy tadqiqotlar uchun platforma yaratishi mumkin degan xulosaga keladi. Misol sifatida ular normativ etika mutaxassislariga aynan qaysi mashinali o‘qitish algoritmlaridan foydalanish kerakligi haqidagi bahsli savolni qo‘yadi. Nik Bostrom va Eliezer Yudkovskiy ayniqsa qaror daraxtlarini (masalan, ID3kabi usullarni) neyron tarmoqlari va genetik algoritmlargaqaraganda afzal ko‘rish kerak, degan fikrni ilgari suradi. Buning sababi shundaki, qaror daraxtlari shaffoflik va oldindan aytib bo‘lishga oid zamonaviy ijtimoiy me’yorlarga mos keladi (masalan, stare decisistamoyiliga) mos keladi. Kris Santos-Lang esa bunga e’tiroz bildirib, istalgan davr me’yorlari o‘zgarishi mumkinligini va bu me’yorlarga to‘liq moslashishning tabiiy imkonsizligi odamlarni jinoyatchi «xakerlar».

Oksford universitetining Sun’iy intellektni boshqarish markazi 2019-yilda e’lon qilgan hisobotiga ko‘ra, amerikaliklarning 82 %i robotlar va sun’iy intellektni ehtiyotkorlik bilan boshqarish zarur deb hisoblaydi. Muhokama qilingan muammolar sun’iy intellektdan kuzatuv va internetda soxta kontent tarqatishda foydalanishdan (sun’iy intellekt yordamida yaratilgan qalbaki video va audio materiallar «dipfeyk» — deepfakes deb ataladi) tortib kiberhujumlar, ma’lumotlar maxfiyligiga tajovuz, ishga qabul qilishdagi tarafkashlik, inson nazoratchisi talab qilmaydigan haydovchisiz transport vositalari va dronlargacha bo‘lgan masalalarni qamrab oladi.

Kutilmagan oqibatlar

Ko‘plab tadqiqotchilarning ta’kidlashicha, XXI asrning biror davrida sodir bo‘ladigan «intellektual portlash» natijasida o‘zini o‘zi takomillashtiruvchi sun’iy intellekt insonlardan shunchalik kuchli bo‘lib ketishi mumkinki, uning maqsadlariga erishishiga to‘sqinlik qila olmaymiz. «Rivojlangan sun’iy intellektdagi axloqiy muammolar» maqolasida faylasuf Nik Bostrom sun’iy intellekt insoniyatning yo‘q bo‘lib ketishiga sabab bo‘lishi mumkinligini ta’kidlaydi. Uning fikricha, umumiy superintellekt mustaqil tashabbus va o‘z rejalarini ishlab chiqish qobiliyatiga ega bo‘ladi, shuning uchun uni avtonom agent sifatida ko‘rish maqsadga muvofiq. Sun’iy intellekt inson motivlarini baham ko‘rishi shart bo‘lmagani sababli superintellekt[ingl.] yaratuvchilari uning dastlabki motivatsiyasini belgilashi kerak bo‘ladi. Nazariy jihatdan o‘ta aqlli sun’iy intellekt deyarli istalgan natijaga erishishi va asosiy maqsadiga erishishga to‘sqinlik qiladigan har qanday urinishni bartaraf etishi mumkin. Bu holatda nazorat qilib bo‘lmaydigan ko‘plab kutilmagan oqibatlaryuzaga kelishi mumkin. U boshqa barcha agentlarni o‘ldirishi, ularni o‘z xulq-atvorini o‘zgartirishga ishontirishi yoki aralashishga urinishlarini to‘sib qo‘yishi mumkin.

Biroq Bostrom superintellekt insoniyatdan ustun kelib, uni halokatga yetaklash o‘rniga, kasalliklar, qashshoqlik va atrof-muhitning yemirilishi kabi ko‘plab murakkab muammolarni hal etishga, hatto o‘zimizni «takomillashtirish»ga yordam berishi ham mumkinligini aytadi.

Inson qadriyatlari tizimlarining murakkabligi sun’iy intellektga odamlar uchun maqbul motivlarni berishni nihoyatda qiyinlashtiradi. Axloq falsafasi bizga benuqson axloqiy nazariyani taqdim etmaguncha, sun’iy intellektning foydalilik funksiyasi muayyan axloqiy tuzilmaga mos, ammo «sog‘lom fikr»ga zid bo‘lgan ko‘plab zararli ssenariylarga yo‘l qo‘yishi mumkin. Eliezer Yudkovskiyfikricha, sun’iy yaratilgan intellekt bunday moslashuvga ega bo‘ladi deb hisoblashga asosimiz kam.

Bill Xibbard o‘z-o‘zini aldash, kutilmagan instrumental harakatlar va mukofot generatorining shikastlanishi kabi nomaqbul xatti-harakatlarning ayrim turlaridan qochadigan sun’iy intellekt loyihasini taklif qilgan.

Tashkilotlar

Amazon, Google, Facebook, IBM va Microsoft sun’iy intellekt texnologiyalarining ilg‘or amaliyotlarini ishlab chiqish, jamoatchilikning tushunishini oshirish va sun’iy intellekt uchun platforma taqdim etish maqsadida notijorat hamkorlik tuzgan. Ularning bayonotida shunday deyiladi: «Sun’iy intellekt bo‘yicha ushbu hamkorlik tadqiqotlar o‘tkazadi, munozaralar tashkil qiladi, intellektual yetakchilikni ta’minlaydi, tegishli uchinchi tomonlar bilan maslahatlashadi, jamoatchilik va ommaviy axborot vositalarining savollariga javob beradi hamda sun’iy intellekt texnologiyalarini, jumladan mashina idroki, o‘rganish va avtomatik mulohaza yuritishni tushunishga ko‘maklashuvchi o‘quv materiallarini tayyorlaydi». Apple 2017-yil yanvarda boshqa texnologiya kompaniyalariga qo‘shilib, Sun’iy intellekt bo‘yicha hamkorlikning asoschilaridan biriga aylandi. Korporativ ishtirokchilar ilmiy hamjamiyat bilan hamkorlik qilib, kengashga olimlarni jalb etish bilan birga guruh ishiga moliyaviy va tadqiqot hissasini qo‘shadi.

IEEE ishlab chiqdi: Avtonom va intellektual tizimlar etikasi bo‘yicha global tashabbus Arxiv nusxasi 6-oktabr 2019-yildan Wayback Machine, u jamoatchilik fikrini hisobga olgan holda metodik tavsiyalar ishlab chiqadi va qayta ko‘rib chiqadi, shuningdek o‘z tashkiloti ichidan va tashqarisidan ko‘plab mutaxassislarni a’zolikka qabul qiladi.

An’anaga ko‘ra, jamiyat hukumatdan axloqiy me’yorlarga qonunchilik va huquq-tartibot doirasida rioya etilishini nazorat qilish uchun foydalanadi. Hozir milliy hukumatlar, transmilliy hukumat tashkilotlari va nodavlat tashkilotlari sun’iy intellektning axloqiy qo‘llanishini ta’minlashga katta kuch sarflamoqda.

Ommaviy madaniyatda

«O‘n uchinchi qavat» filmi kelajakni tasvirlaydi: unda o‘yin konsollarida ko‘ngilochar maqsadda simulyatsiya qilingan olamlar yaratiladi va ularda aqlli mavjudotlar yashaydi. «Matritsa» filmida Yer sayyorasida ongli mashinalar ustunlik qiladigan, insoniyat esa keskin kamsitishga uchraydigan kelajak ko‘rsatiladi. «Plankka sho‘ng‘ish[ingl.]» nomli qisqa hikoyada insoniyat nusxalash va optimallashtirish mumkin bo‘lgan dasturiy ta’minotga aylangan kelajak tasvirlanadi. Bunda dasturiy ta’minot turlarining asosiy farqi — ongli va his qilish qobiliyatiga ega bo‘lmagan turlardir. Xuddi shu g‘oyani Shoshilinch tibbiy yordam gologrammasida «Yulduz kemasi Voyajer» (Starship Voyager)ham uchraydi. Ushbu gologramma o‘z yaratuvchisi ongining kichik qismidan olingan yaqqol aqlli nusxadir. Uni yaratgan shaxs — doktor Simmerman, u ezgu niyat bilan shoshilinch tibbiy yordam ko‘rsatish uchun tizim yaratgan. « Ikki yuz yoshli odam» va «Sun’iy intellekt» filmlarida sevish qobiliyatiga ega aqlli robotlar imkoniyatlari ko‘rib chiqiladi. «Men, robot» filmida Azimovning robototexnikaning uch qonuni bilan bog‘liq ayrim jihatlar tasvirlangan. Bu asarlarning barchasi ongli kompyuterlar yaratilishining ehtimoliy axloqqa zid oqibatlarini oldindan tasavvur qilishga urinadi.

Sun’iy intellekt etikasi BioWare o‘yinlar turkumining asosiy mavzularidan biri bo‘lib, bu turkum «Mass Effect»deb ataladi. Unda bir sivilizatsiya hisoblash quvvatini tez oshirish va global neyron tarmog‘idanfoydalanish orqali tasodifan sun’iy intellekt yaratgan vaziyat tasvirlanadi. Bu hodisa ongli getlarga tirik mavjudotlar huquqlarini berish mumkin deb hisoblaganlar va ularni bir martalik mexanizm deb bilib, yo‘q qilish uchun kurashganlar o‘rtasida axloqiy bo‘linishga sabab bo‘lgan. Dastlabki mojarodan tashqari, butun voqea davomida mashinalar bilan ularning yaratuvchilari o‘rtasidagi murakkab munosabatlar ham doimiy mavzulardan biridir.

Adabiyotlar

  • Makkordak, Pamela. Fikrlaydigan mashinalar (2-nashr). — Neytik, Massachusets: A. K. Peters, Ltd, 2004. — ISBN 1-56881-205-1.
  • Geri Markus, Ernest Devis. Sun’iy intellekt: Qayta yuklash. Haqiqatan ishonish mumkin bo‘lgan mashina intellektini qanday yaratish mumkin = Sun’iy intellektni qayta yuklash: ishonishimiz mumkin bo‘lgan sun’iy intellektni yaratish. — Moskva: Intellektual adabiyot, 2021. — 304 bet — ISBN 978-5-907394-93-3.

Havolalar