Google Cloud Next tədbirində "Google" şirkəti süni intellekt hesablamalarına artan tələbatı qarşılamaq üçün iki yeni ixtisaslaşdırılmış çipini – TPU 8t və TPU 8i prosessorlarını təqdim edib. Səkkizinci nəsil olan bu avadanlıqlar Google AI Hypercomputer platformasını gücləndirmək üçün yaradılıb. Uzun illərdir Gemini kimi daxili sistemləri işlədən TPU sürətləndiriciləri, artıq "Nvidia"nın infrastrukturuna alternativ axtaran müştərilər üçün də əlçatan olacaq.
TPU 8t: Təlim üçün nəhəng hesablama gücü
Yeni TPU 8t prosessoru irihəcmli süni intellekt modellərinin təlimi üçün optimallaşdırılıb. Bir superpod 9600 çipə qədər genişlənərək 121 ekzaflops məhsuldarlıq təmin edə bilir. Əvvəlki Ironwood nəsli ilə müqayisədə hər pod üçün hesablama gücü demək olar ki, üç dəfə artırılıb. Şirkətin məlumatına görə, bu çip məhsuldar hesablama vaxtını ölçən "goodput" göstəricisini 97 faizdən yuxarı qaldırmağı hədəfləyir ki, bu da mürəkkəb sistemlərin təlimindəki gecikmələrin qarşısını alır.
TPU 8i: Sürətli nəticə və səmərəlilik
Təlim edilmiş modellərin sorğulara cavab verməsi və proqram agentlərini idarə etməsi üçün isə TPU 8i çipi hazırlanıb. Bu prosessor 288 GB HBM yaddaşı və 384 MB SRAM ilə təchiz olunub. Cihaz həmçinin "Google"un Axion Arm prosessorlarından istifadə edir və xərcləri azaltmaq üçün yalnız müəyyən hissələri aktivləşdirən "Mixture of Experts" (MoE) modellərini dəstəkləyir. Əvvəlki nəslə nisbətən 80 faiz daha yaxşı məhsuldarlıq göstərən bu çip, eyni qiymətə ikiqat çox iş yükünü emal etməyə imkan verir.
Enerji səmərəliliyi və proqram dəstəyi
Hər iki yeni çip məlumat mərkəzlərində Ironwood nəsli ilə müqayisədə hər vatta görə iki dəfə daha yüksək məhsuldarlıq təklif edir. Enerji istehlakına nəzarət etmək və yüksək hesablama sıxlığını dəstəkləmək üçün dördüncü nəsil maye soyutma sistemindən istifadə olunur. JAX, PyTorch, SGLang və vLLM kimi freymvörkləri dəstəkləyən bu prosessorlar, tərtibatçılara mövcud proqram təminatlarını dəyişmədən işlətmək imkanı verir. Yeni avadanlıqların bu ilin sonlarında Google Cloud vasitəsilə istifadəyə verilməsi planlaşdırılır.
