Sun’iy intellektdagi gallyutsinatsiya

Gallyutsinatsiya — ishonch bilan javob qaytaradigan sun’iy intellekt tizimining javobi bo‘lib, u tizimni o‘qitish uchun ishlatilgan dastlabki ma’lumotlarga mos kelmaydi; ya’ni tizimning voqelikka aloqasi bo‘lmagan, to‘qib chiqarilgan javobidir.

Masalan, chatbot, dastlabki ma’lumotlarda Tesla kompaniyasining daromadlari haqida ma’lumot bo‘lmasa, tasodifiy sonni (masalan, «$13,6 mlrd») tanlashi, uni o‘z bilimlar tizimiga kiritishi va keyinchalik hech qanday tanqidiy qayta ko‘rib chiqish alomatlarisiz bu raqamni qayta-qayta qat’iy ta’kidlashi mumkin.

Bunday hodisalarga keng jamoatchilik e’tibori 2022 yilda ommaviy ravishda joriy etilgan katta til modellari bilan bog‘liq holda kuchaydi: foydalanuvchilar bunday botlar ko‘pincha «sotsiopatik» ko‘rinishini va javoblariga o‘rinsiz ravishda ishonarli eshitiladigan yolg‘on da’volarni kiritishini aytishdi; 2023 yilda tahlilchilar gallyutsinatsiyalarni katta til modellari texnologiyasining jiddiy muammolaridan biri deb baholashdi; shu munosabat bilan Ilon Mask va Stiv Voznyak sun’iy intellekt dasturlarini ishlab chiqishni vaqtincha to‘xtatib turish taklifi bilan ochiq xat yo‘llashdi. Ularning murojaatini sohadagi mingdan ortiq tadbirkor va ekspert qo‘llab-quvvatladi.

Ayrim tadqiqotchilar fikricha, foydalanuvchilar gallyutsinatsiya deb baholaydigan sun’iy intellekt tizimlarining ayrim javoblarini foydalanuvchilarning javob to‘g‘riligini baholay olmasligi bilan izohlash mumkin. Bunga misol tariqasida rastrli tasvir keltiriladi: u odamga oddiy it tasviridek ko‘rinadi, biroq dasturiy tizim unda faqat mushuklarga xos jun naqshining bo‘laklarini aniqlaydi va odamlar sezmaydigan belgilarga yuqori ustuvorlik beradi; bu xulosalar boshqa tadqiqotchilar tomonidan shubha ostiga olingan.