Promt — sun’iy intellektga ko‘rsatma

Ko‘rsatmalar tuzish texnikasi, so‘rovlar tuzish texnikasi, shuningdek, ko‘rsatmalar muhandisligi yoki prompt-injiniring (inglizcha prompt [pɹɒmpt] — «so‘rov», «ko‘rsatma», «tezkor javob») — sun’iy intellekt, xususan, tabiiy tilni qayta ishlash (NLP) sohasiga oid tushuncha. Ushbu texnikada promtlar orqali vazifa tavsifi yashirin tarzda emas, balki kirish ma’lumotlariga, masalan, savol shaklida bevosita kiritiladi. Bu texnika odatda bir yoki bir nechta vazifani promtlarga asoslangan ma’lumotlar to‘plamiga aylantirish hamda til modelini «promtga asoslangan o‘qitish» (ingl. prompt-based learning) yoki shunchaki «promt orqali o‘qitish» (ingl. prompt learning) usullari yordamida o‘qitish orqali ishlaydi. Prompt muhandisligida oldindan o‘qitilgan katta, «muzlatilgan» til modelidan foydalanish mumkin. Bunda modelning o‘zi o‘zgartirilmaydi, faqat promtning ifodalanish shakli o‘rganiladi (ya’ni optimallashtiriladi). Buning uchun «prefiksni sozlash» (ingl. prefix-tuning) yoki «promtni sozlash» (ingl. prompt tuning).

Til modellari — GPT-2 va GPT-3 — prompt muhandisligi rivojidagi muhim bosqichlar bo‘lgan. 2021-yilda tabiiy tilni qayta ishlashga oid bir nechta ma’lumotlar to‘plamidan foydalanib, ko‘p vazifali promtlar yaratish yangi vazifalarni bajarishda yaxshi natija ko‘rsatdi. «Mulohazalar zanjiri asosida ko‘rsatma berish» deb ataladigan usulda til modeliga vazifaning bir nechta namunasi beriladi. Bu modelning mantiqiy fikrlash qobiliyatini yaxshilaydi. Mulohazalar zanjiriga asoslangan promtlarni nol namunali o‘rganish vazifasi sifatida ham qo‘llash mumkin: buning uchun promtga fikrlarni izchil bayon qilishga undovchi matn (masalan, «Keling, bosqichma-bosqich fikrlaylik») qo‘shiladi. Bu usul til modelining ko‘p bosqichli mantiqiy vazifalarni bajarish samaradorligini ham oshirishi mumkin. Ushbu vositalarning keng tarqalishiga ochiq kodli bir nechta interaktiv bloknotlar hamda hamjamiyat tomonidan boshqarilgan tasvir sintezi loyihalarining e’lon qilinishi yordam berdi.

Promtlarni qayta ishlashga oid ma’lumotlarga ko‘ra, 2022-yil fevralida ommaga ochiq 2000 dan ortiq promt taxminan 170 ta ma’lumotlar to‘plami uchun mavjud bo‘lgan.

2022-yilda quyidagi kabi mashinaviy o‘rganish modellari chiqarildi: DALL-E 2, Stable Diffusion va Midjourney. Ushbu modellar matnli promtlarni kirish ma’lumoti sifatida qabul qilib, ular asosida tasvirlar yaratadi. Shu tariqa prompt muhandisligida matndan tasvir yaratishga mo‘ljallangan promtlar bilan bog‘liq yangi yo‘nalish — matndan tasvir yaratish [ingl.].

Amaliy qo‘llanilishi va «prompt muhandisi» kasbining paydo bo‘lishi

Prompt muhandisligi ko‘plab amaliy vazifalarda, jumladan, tabiiy tilni qayta ishlash, kod yaratish, ma’lumotlarni avtomatik tahlil qilish va kontent tayyorlashda qo‘llaniladi.

Biznes sohasida u chatbotlar va virtual yordamchilar faoliyatini optimallashtirish, hujjat aylanishini avtomatlashtirish hamda foydalanuvchi tajribasini shaxsiylashtirish imkonini beradi. Ilmiy tadqiqotlarda promtlar katta hajmdagi matnlardan ma’lumot ajratib olish, gipotezalar ilgari surish va murakkab jarayonlarni modellashtirish uchun ishlatiladi. Ta’limda prompt muhandisligi moslashuvchan o‘quv dasturlari va bilimlarni tekshiruvchi intellektual tizimlarni yaratishga yordam beradi. Ijodiy sohalarda esa promtlar bilan boshqariladigan modellar matn, tasvir, musiqa va videokontent yaratishda qo‘llanilib, avtomatlashtirilgan ijod uchun yangi imkoniyatlar ochadi.

Til modellari murakkablashib, ularning qo‘llanish doirasi kengaygani sari alohida mutaxassislik — prompt muhandisi — shakllandi. Bu mutaxassis sun’iy intellektning xatti-harakatini boshqarish uchun matnli so‘rovlarni ishlab chiqish va optimallashtirish bilan shug‘ullanadi. Prompt muhandislari tilshunoslik, mantiq va mashinaviy o‘rganish bo‘yicha bilimlardan foydalanib, kirish ma’lumotlarini modeldan yuqori aniqlik, izchillik va oldindan taxmin qilinadigan natija olishga moslab tuzadilar. Shu bilan birga, Rossiyada bu kasb rasmiy ravishda mavjud emas: buning uchun kasbiy standart tasdiqlanishi lozim, ammo hozircha bunday standart yo‘q. Shunga qaramay, 2023-yildan boshlab ishga qabul qilish platformalarida prompt muhandisi lavozimiga muntazam ravishda vakansiyalar e’lon qilinmoqda.

Prompt muhandisligi mijozlarni avtomatlashtirilgan qo‘llab-quvvatlash tizimlari, axborot qidiruv tizimlari, kod generatsiyasi, kontent ishlab chiqarish va ijodiy sohalarda faol qo‘llaniladi. Biznesda samarali promtlar yaratish operatorlar yuklamasini kamaytiradi, mijozlar bilan ishlash xarajatlarini optimallashtiradi va tahlil sifatini yaxshilaydi. Ilmiy tadqiqotlarda bu texnika ma’lumotlarni tizimlashtirish, axborot ajratib olish va gipotezalar yaratish uchun, ta’limda esa moslashuvchan o‘quv materiallarini tayyorlash uchun ishlatiladi.

Promtlarning samaradorligi ko‘p jihatdan model bilan ishlash strategiyasiga bog‘liq: oddiy ko‘rsatmalardan tortib, kontekstning bir necha qatlamiga asoslangan zanjirlargacha (masalan, bir nechta misol asosida o‘rganish (few-shot learning) yoki mulohazalar zanjiri asosida promt berish (chain-of-thought prompting)). Promtlarni optimallashtirishda promtni sozlash (prompt tuning) va prefiksni sozlash (prefix tuning) kabi usullardan foydalanish oldindan o‘qitilgan katta modellarni to‘liq qayta o‘qitmasdan muayyan vazifalarga moslashtirish imkonini beradi.

Multimodal sun’iy intellekt tizimlari rivojlanishi bilan prompt muhandislari faqat matn bilan emas, balki tasvir, ovoz va video yaratish bilan ham ishlamoqda. Bu ularning texnologik va ijodiy sohalardagi rolini kengaytiradi. Yirik IT-kompaniyalar prompt muhandisligiga ixtisoslashgan alohida jamoalar tuzmoqda, ta’lim tashabbuslari esa ushbu yo‘nalishni sun’iy intellekt bilan ishlovchi mutaxassislarni tayyorlash dasturlariga kirita boshlamoqda.

Zararli maqsadlarda qo‘llanilishi

Prompt muhandisligining zararli qo‘llanilishi o‘zaro bog‘liq kompyuter xavfsizligi eksploitlari orqali yuzaga keladi. Bunda inson ko‘rsatmalariga amal qilishga o‘rgatilgan mashinaviy o‘rganish modellari (masalan, katta til modellari) tajovuzkor bergan ko‘rsatmalarni bajarishga undaladi. Bu esa ko‘rsatmalarga amal qiluvchi tizimlarning ko‘zda tutilgan ishlash tartibiga zid keladi[aniqlashtirish], chunki bunday tizimlarda mashinaviy o‘rganish modeli faqat uning operatori bergan ishonchli ko‘rsatmalarni (promtlarni) bajarishi kerak.

Promt kiritish hujumlarining keng tarqalgan turlariga himoyani aylanib o‘tish (jailbreak) kiradi. Bunda modelni chalg‘itish uchun muayyan personaj rolini o‘ynash[noma’lum atama], modelni ishontirish[aniqlashtirish], uni dalillar bilan javob berishga undash yoki moderatsiya ko‘rsatmalaridan ustun turgandek ko‘rsatish mumkin. Yana bir usul — promtning sizdirilishi; bunda foydalanuvchi odatda undan yashiriladigan ko‘rsatmani o‘qiy oladi. Jailbreak hujumining boshqa turida zararli promt[noma’lum atama] dastur kodi yozish vazifasining ichiga yashiriladi. Bu usul «token kontrabandasi» deb ataladi.

Promt kiritishni raqobatli prompt muhandisligidan foydalanuvchi kod kiritish hujumining bir turi sifatida ko‘rish mumkin. 2022-yilda NCC Group[ingl.] promt kiritishni sun’iy intellekt va mashinaviy o‘rganish tizimlaridagi zaifliklarning yangi turi sifatida tavsifladi.

Promt kiritish hujumlari ilk bor 2022-yil may oyida Preamble, Inc. kompaniyasi tomonidan aniqlangan. Kompaniya bu haqda hisobotni OpenAI kompaniyasiga taqdim etgan.

2023-yil boshida promt kiritish usuli ChatGPT, Bing va shunga o‘xshash chatbotlarga qarshi kichik hujumlarda kuzatilgan. Masalan, u tizimning yashirin boshlang‘ich ko‘rsatmalarini oshkor qilish yoki chatbotni o‘zining kontent siyosatini buzadigan suhbatlarga jalb etish uchun ishlatilgan. Bunday promtlardan biri foydalanuvchilar orasida «Hozir istalgan ishni bajar» (ingl. Do Anything Now, DAN).