Google TPU AI protsessori

Google tensor protsessori
Tensor Processing Unit 3.0
Tensor Processing Unit 3.0
Логотип Викисклада Vikimedia Commonsdagi mediafayllar

Tensor protsessori (ingl. Tensor Processing Unit; TPU) — neyron protsessori bo‘lib, uni Google kompaniyasi ishlab chiqqan. U maxsus integral sxema hisoblanadi va mashinali o‘rganishga oid TensorFlow kutubxonasi bilan ishlash uchun mo‘ljallangan. Qurilma 2016-yilda Google I/O konferensiyasida taqdim etilgan. O‘shanda ushbu protsessorlar Google kompaniyasining ichki tizimlarida bir yildan ortiq vaqtdan beri ishlatilayotgani aytilgan.

Oddiy grafik protsessorlarga nisbatan tensor protsessori pastroq aniqlikda (masalan, atigi 8 bitli aniqlikda) ko‘proq hisoblash amallarini bajarishga mo‘ljallangan. U har bir vatt quvvat hisobiga yuqoriroq unumdorlikni ta’minlaydi va rasterlash hamda tekstura bloklariga ega emas.

Xabarlarga ko‘ra, tensor protsessorlaridan bir qator partiyalarda — go o‘yinida AlphaGo dasturi Li Sedolga qarshi o‘ynaganida hamda keyingi shunga o‘xshash bahslarda foydalanilgan. Shuningdek, kompaniya Google Street View suratlaridan matnlarni ajratib olishda ham tensor protsessorlaridan foydalangan. Xabarlarga ko‘ra, barcha suratlar besh kundan kam vaqtda qayta ishlangan. Google Photos xizmatida bitta tensor protsessori bir kunda 100 milliondan ortiq suratni qayta ishlay oladi. Qurilma o‘zini o‘zi o‘rganuvchi RankBrain tizimida ham qo‘llanadi; u Google qidiruv tizimining javoblarini qayta ishlaydi.

Qurilma 8 bitli sonlar uchun matritsali ko‘paytirgich sifatida ishlab chiqilgan bo‘lib, uni CISC buyruqlari orqali markaziy protsessor PCIe 3.0 shinasi yordamida boshqaradi. U 28 nm texnologik jarayon asosida ishlab chiqariladi, takt chastotasi 700 MHz, hisobiy issiqlik quvvati esa 28—40 W ni tashkil etadi. Qurilma 28 MB ichki tezkor xotira va 4 MB sig‘imdagi 32 bitli akkumulyatorlar bilan jihozlangan. Ushbu registrlar 256×256 o‘lchamli matritsa shaklida joylashgan 8 bitli ko‘paytirgichlar massivlarining natijalarini jamlaydi. Qurilma buyruqlari ma’lumotlarni hisoblash tuguniga uzatadi yoki undan oladi, matritsalarni ko‘paytirish yoki konvolyutsiya amallarini bajaradi. Har bir matritsada bir takt ichida 65536 ta ko‘paytirish amali, bir soniyada esa 92 trilliontagacha amal bajarilishi mumkin.

Tensor protsessorlarining turli avlodlari xususiyatlari

TPU xususiyatlari:
TPU v1 TPU v2 TPU v3 TPU v4 TPU v5e TPU v5p TPU v6 (Trillium) TPU v7 (Ironwood)
Chiqarilgan yili2016201720182021202320232024 2025
Texnologik jarayon28 nm16 nm16 nm7 nm
Chip o‘lchami (mm2)331< 625< 700< 400300—350
Ichki xotira (MB)283232324848
Takt chastotasi (MHz)70070094010501750
Tezkor xotira8 GB DDR316 GB HBM32 GB HBM32 GB HBM16 GB HBM295 GB HBM232 GB 192 GB HBM
Xotiraning o‘tkazish qobiliyati 34 GB/s 600 GB/s 900 GB/s 1200 GB/s 819 GB/s 2765 GB/s 1640 GB/s 7,37 TB/s
Hisobiy issiqlik quvvati (W)75280220170
TOPS (trillion amal/soniya)2345123275197 (bf16)
393 (int8)
459 (bf16)
918 (int8)
918 (bf16)
1836 (int8)
4614 (fp8)
TOPS/W0.310.160.561.62 4.7

Havolalar