Neyron protsessori (ingl. Neural Processing Unit, NPU — neyron hisoblash bloki yoki SI tezlatkichi ingl. AI accelerator — sunʼiy intellekt tezlatkichi) — bu ixtisoslashgan mikroprotsessorlar va soprotsessorlar sinfi boʻlib (koʻpincha maxsus integral sxema shaklida yaratiladi), u apparat darajasida tezlashtirish orqali neyron tarmoqlar, kompyuter koʻrishi, nutqni tanib olish, mashinaviy oʻrganish va boshqa sunʼiy intellekt usullariga oid algoritmlarning ishlashini jadallashtiradi.
Tavsif
Neyron protsessorlari hisoblash texnikasi vositalariga kiradi va apparat darajasida tezlashtirish orqali emulyatsiya qilinadigan neyron tarmoqlar hamda raqamli signallarni qayta ishlash jarayonlarini real vaqt rejimida bajarish uchun qoʻllanadi. Odatda neyron protsessor tarkibida registrlar, xotiraning stek turidagi bloklari, kommutator hamda tarkibida matritsalarni koʻpaytirish bloki, dekoderlar, triggerlar va multipleksorlar mavjud boʻlgan hisoblash qurilmasi boʻladi.
Hozirgi bosqichda (2017-yil holatiga koʻra) neyron protsessorlar sinfiga tuzilishi va ixtisoslashuvi jihatidan turlicha boʻlgan chiplar kirishi mumkin. Masalan:
- Neyromorf protsessorlar — klasterli asinxron arxitektura asosida yaratilgan boʻlib, bu arxitektura Kornell universitetida ishlab chiqilgan (u fon Neyman va Garvard kompyuter arxitekturalaridan tubdan farq qiladi; bu anʼanaviy arxitekturalar soʻnggi 70 yil davomida IT sohasida qoʻllanib kelmoqda). Anʼanaviy hisoblash arxitekturalaridan farqli ravishda, neyromorf protsessorlarning mantiqiy tuzilishi boshidanoq turli xil sunʼiy neyron tarmoqlarni yaratish va ishlab chiqishga ixtisoslashgan. Bunday qurilmalarda oddiy tranzistorlardan hisoblash yadrolari yaratiladi (har bir yadroda odatda vazifalarni rejalashtirgich, oʻzining SRAM xotirasi va boshqa yadrolar bilan aloqa oʻrnatish uchun marshrutizator boʻladi). Har bir yadro bir necha yuzta neyron faoliyatini emulyatsiya qiladi. Shu tariqa, bir necha mingta yadroga ega bitta integral sxema algoritmik jihatdan bir necha yuz ming neyron va ulardan oʻn baravar koʻp sinaps faoliyatini qayta yaratishi mumkin. Odatda bunday protsessorlar chuqur mashinaviy oʻrganish algoritmlari uchun qoʻllanadi.
- Tenzor protsessorlari — odatda soprotsessorlar boʻlib, markaziy protsessor tomonidan boshqariladi. Tenzor protsessorlari tenzorlar bilan ishlaydi. Tenzorlar bir vektor fazosi elementlarini boshqasiga oʻtkazish uchun qulay matematik obyektlar boʻlib, koʻp oʻlchamli sonli massivlar koʻrinishida ifodalanadi. Bunday massivlarni dasturiy kutubxonalar orqali, masalan, TensorFlow va Caffe 2 yordamida qayta ishlash mumkin. Unumdorlikni oshirish maqsadida ular odatda kichik razryadli (8 yoki 16 bit) sonlar ustida amallar bajaradi va matritsalarni koʻpaytirish hamda konvolyutsiya kabi amallarni tez bajarishga ixtisoslashgan. Bu amallar konvolyutsion neyron tarmoqlarni emulyatsiya qilishda qoʻllanadi; bunday tarmoqlar mashinaviy oʻrganish vazifalarini hal etadi.
- Mashina koʻrishi protsessorlari — koʻp jihatdan tenzor protsessorlariga oʻxshaydi, biroq mashina koʻrishi algoritmlarini tezlashtirishga ixtisoslashgan. Bunda konvolyutsion neyron tarmoqlar (CNN) va SIFT usullari qoʻllanadi. Maʼlumotlar oqimini koʻplab bajaruvchi yadrolar oʻrtasida parallel qayta ishlashga, jumladan skretchpad xotira (scratchpad memory) (inglizcha) modelidan foydalanishga katta eʼtibor beriladi. Shunga oʻxshash yondashuv koʻp yadroli raqamli signal protsessorlarida ham qoʻllanadi. Tenzor protsessorlari kabi ular ham past aniqlikdagi hisoblashlardan, xususan, tasvirlarni qayta ishlashda foydalanadi.
Tarixi
Qoʻllanish sohalari

- Haydovchisiz transport vositasi (uchuvchisiz qurilma): avtomobil, kema, poyezd, tramvay, uchish apparati — masalan, bu yoʻnalishda oʻzining Drive PX-series (inglizcha) platalarini Nvidia kompaniyasi ishlab chiqmoqda. Movidius Myriad 2 (inglizcha) chiplariga asoslangan navigatsiya tizimi esa avtonom uchuvchisiz uchish apparatlarini muvaffaqiyatli boshqarmoqda.
- Sogʻliqni saqlash sohasidagi diagnostika.
- Mashinaviy tarjima.
- Tabiiy tilni qayta ishlash.
- Qidiruv tizimi — NPUlar energiya samaradorligini maʼlumotlarni qayta ishlash markazlarida oshirib, tobora murakkabroq soʻrovlarni bajarishga imkon beradi.
- Sanoat roboti — NPUlar oʻzgaruvchan vaziyatlarga moslashish imkonini qoʻshish orqali avtomatlashtiriladigan vazifalar doirasini kengaytiradi.
- Ovozni tanib olish — masalan, mobil telefonlarda Qualcomm Zeroth (inglizcha)
- Qishloq xoʻjaligi roboti — masalan, kimyoviy vositalardan foydalanmasdan begona oʻtlarga qarshi kurashish.
Misollar
Mavjud mahsulotlar

- Mashina koʻrishi protsessorlari:
- Intel Movidius Myriad 2 (inglizcha), u koʻp yadroli sunʼiy intellekt tezlatkichi boʻlib, VLIW arxitekturasiga asoslangan va videoni qayta ishlash uchun qoʻshimcha bloklarga ega.
- Mobileye EyeQ (inglizcha) — haydovchisiz avtomobillarda foydalanish uchun mashina koʻrishi algoritmlarini tezlashtiruvchi maxsus protsessor.
- Tenzor protsessorlari:
- Google TPU (ingl. Tensor Processing Unit (tenzor hisoblash bloki)) — Google TensorFlow tizimi uchun tezlatkich sifatida taqdim etilgan. Bu tizim konvolyutsion neyron tarmoqlarda keng qoʻllanadi. Protsessor katta hajmdagi 8-bit aniqlikdagi arifmetik amallarni bajarishga moʻljallangan.
- Huawei Ascend 310 / Ascend 910 — Huawei kompaniyasining Ascend turkumida sunʼiy intellekt vazifalariga moslashtirilgan dastlabki ikkita chip.
- Intel Nervana NNP (inglizcha) (ingl. Neural Network Processor (neyron tarmoq protsessori)) — chuqur oʻrganish tarmoqlarini yaratishga moʻljallangan tijoriy sotuvga chiqarilgan birinchi tenzor protsessori. Uni loyihalash jarayonida Facebook kompaniyasi hamkor boʻlgan.
- Qualcomm Cloud AI 100 — bulutli platformalarda ishlashga moʻljallangan sunʼiy intellekt tezlatkichi. U PyTorch, Glow, TensorFlow, Keras va ONNX dasturiy kutubxonalarini qoʻllab-quvvatlaydi.
- Neyromorf protsessorlar:
- IBM TrueNorth — anʼanaviy arifmetika emas, balki neyronlarning oʻzaro taʼsiri asosida qurilgan neyromorf protsessor. Impulslar chastotasi signal intensivligini ifodalaydi. 2016-yil holatiga koʻra, sunʼiy intellekt tadqiqotchilari orasida bu yoʻnalish eng toʻgʻri rivojlanish yoʻli ekanligi haqida yagona fikr yoʻq, ammo ayrim natijalar umidbaxsh: mashina koʻrishi vazifalarida energiya sarfi ancha kamayishi koʻrsatib berilgan.
- AltAI — Rossiyada ishlab chiqilgan neyromorf hisoblagich. Birinchi avlodi sunʼiy intellekt vazifalarini bajarishga moʻljallangan. Ikkinchi avlodi esa impulsli neyron tarmoqlarni ishga tushirish bilan birga umumiy maqsadli vazifalarni ham bajarish imkonini beradi.
- Adapteva Epiphany (inglizcha) — soprotsessor sifatida ishlab chiqilgan boʻlib, skretchpad xotira (scratchpad memory) (inglizcha) va chip ichidagi tarmoq (inglizcha) modellarini oʻz ichiga oladi. U axborot oqimi asosidagi dasturlashga moslashgan boʻlib, bu yondashuv mashinaviy oʻrganishning koʻplab vazifalarida foydali boʻlishi mumkin.
- ComBox x64 Movidius PCIe Blade board — PCI Express interfeysli, maʼlumotlarni qayta ishlash markazlarida yuqori aniqlikdagi neyron tarmoqlardan xulosa chiqarish uchun Intel Movidius (MyriadX) VPUlarini juda zich joylashtirishga moʻljallangan kengaytirish platasi.
- Cambricon MLU100 — PCI Express interfeysli kengaytirish kartasi boʻlib, yarim aniqlikda 64 TFLOPS yoki 128 TOPS quvvatdagi INT8 hisoblashlarini bajaruvchi sunʼiy intellekt protsessoriga ega.
- Cerebras Wafer Scale Engine (WSE, CS-1) — Cerebras kompaniyasining tajribaviy superprotsessori boʻlib, 1,2 trillion tranzistordan iborat. Ular sunʼiy intellekt uchun optimallashtirilgan 400 000 ta hisoblash yadrosi va 18 Gbayt mahalliy taqsimlangan SRAM xotirasi bilan birga umumiy oʻtkazuvchanligi soniyasiga 100 petabit boʻlgan toʻrsimon tarmoq orqali bogʻlangan. Cerebras chipi amalda bitta chipdagi superkompyuterdir: undagi SLAC (Sparse Linear Algebra Cores) hisoblash yadrolari toʻliq dasturlanadi va istalgan neyron tarmoq bilan ishlashga moslashtirilishi mumkin.
- KnuPath (inglizcha) — KnuEdge (inglizcha) kompaniyasining nutqni tanib olish tizimlari va mashinaviy oʻrganishning boshqa yoʻnalishlarida ishlashga moʻljallangan protsessori. U LambdaFabric ulanish texnologiyasidan foydalanadi va 512 mingtagacha protsessorni bitta tizimga birlashtirish imkonini beradi.
GPU asosidagi mahsulotlar

- Nvidia Tesla — GPGPU mahsulotlarining maxsus turkumi, ishlab chiqaruvchisi — Nvidia:
- Nvidia Volta — grafik protsessorlar (GPU) — Volta (2017-yil) arxitekturasiga asoslangan, Nvidia kompaniyasining (masalan, Volta GV100) 640 tagacha maxsus tenzor hisoblash yadrosiga ega grafik protsessorlari.
- Nvidia Turing — Turing (2018-yil) arxitekturasiga asoslangan, Nvidia kompaniyasining (masalan, Nvidia TU104) 576 tagacha maxsus tenzor hisoblash yadrosiga ega grafik protsessorlari.
- Nvidia DGX-1 — maxsus server boʻlib, 2 ta markaziy protsessor va 8 ta Nvidia Volta GV100 grafik protsessoridan (5120 ta tenzor yadrosi) iborat. Ular yuqori tezlikdagi NVLink shinasi orqali ulangan. Tizimning maxsus xotira arxitekturasi (inglizcha) ayniqsa chuqur oʻrganish tarmoqlarini yaratish uchun qulay.
- AMD Radeon Instinct (inglizcha) — ixtisoslashgan GPGPU platasi boʻlib, uni AMD kompaniyasi chuqur oʻrganish vazifalariga moʻljallangan tezlatkich sifatida taklif etadi.
Ichki soprotsessorlar (sunʼiy intellektning apparat bloklari) koʻrinishidagi SI tezlatkichlari

- Cambricon-1A — NPU bloki boʻlib, ARM chiplariga, jumladan Huawei Kirin 970 chipiga oʻrnatilgan va Cambricon Technologies tomonidan ishlab chiqilgan.
- CEVA (inglizcha) NeuPro — litsenziyalanadigan sunʼiy intellekt protsessorlari turkumi boʻlib, ular chuqur oʻrganish uchun moʻljallangan. Ularni CEVA, Inc. (inglizcha) kompaniyasi ishlab chiqadi.
- Neural Engine — ARM arxitekturasidagi Apple A11 dan A18 SoC gacha boʻlgan chiplarga oʻrnatilgan sunʼiy intellekt tezlatkichi.
- PowerVR 2NX NNA (Neural Network Accelerator) — mashinaviy oʻrganish uchun litsenziyalanadigan IP modullar turkumi, ishlab chiqaruvchisi — Imagination Technologies.
Ilmiy tadqiqotlar va ishlab chiqilayotgan mahsulotlar
- Madrasdagi Hindiston texnologiya instituti impulsli neyronlarga asoslangan tezlatkichni yangi RISC-V arxitekturasidagi tizimlar uchun ishlab chiqmoqda. Bu tizimlar serverlarda katta maʼlumotlarni qayta ishlashga moʻljallangan.
- Eyeriss (inglizcha) — konvolyutsion neyron tarmoqlarga yoʻnaltirilgan ishlanma boʻlib, skretchpad xotira va chip ichidagi tarmoq arxitekturasidan foydalanadi.
- Fujitsu DLU (inglizcha) — Fujitsu kompaniyasining koʻp blokli va koʻp yadroli soprotsessori. U past aniqlikdagi hisoblashlardan foydalanadi hamda chuqur mashinaviy oʻrganish uchun moʻljallangan.
- Intel Loihi (inglizcha) — Intel kompaniyasining neyromorf protsessori boʻlib, oʻrganish, mashq qilish va qaror qabul qilish jarayonlarini bitta chipda birlashtiradi. Natijada tizim bulutga ulanmasdan ham mustaqil va «ziyrak» ishlashi mumkin. Masalan, MNIST (Mixed National Institute of Standards and Technology) maʼlumotlar bazasi orqali oʻqitilganda Loihi protsessori boshqa odatiy impulsli neyron tarmoqlardan 1 million marta yaxshiroq natija koʻrsatadi.
- Kalray (inglizcha) — MPPA (inglizcha) tizimini namoyish etdi va konvolyutsion neyron tarmoqlarning GPUga nisbatan samaradorligi oshganini maʼlum qildi.
- SpiNNaker — ommaviy parallel kompyuter arxitekturasi boʻlib, u anʼanaviy ARM arxitekturasi yadrolarini yirik neyron tarmoqni modellashtirishga moʻljallangan takomillashtirilgan tarmoq tuzilmasi bilan birlashtiradi.
- Zeroth NPU (inglizcha) — Qualcomm kompaniyasining mobil qurilmalarga bevosita nutq va tasvirni tanib olish imkoniyatlarini kiritishga qaratilgan ishlanmasi.
- TPU H — Rossiyaning «XayTek» kompaniyasi ishlab chiqayotgan tenzor protsessori. 2020-yil oktabrda TPU H neyron tarmoqlarini hisoblash tezlatkichi arxitekturasini sinovdan oʻtkazish natijalarini eʼlon qilgan MLPerf — xalqaro konsorsium (2018-yilda Baidu, Google, Garvard universiteti (Harvard University), Stenford universiteti (Stanford University), Kaliforniya universiteti, Berkli (University of California, Berkeley) tomonidan tashkil etilgan).
Havolalar
- Mashinaviy oʻrganishning ommalashuvi protsessor arxitekturalarining rivojlanishiga taʼsir qilmoqda. Servernews. (31-avgust 2017-yil). Murojaat sanasi: 17-noyabr 2017-yil. Arxivlangan: 17-noyabr 2017-yil.