"Qualcomm" şirkəti 22 sentyabr tarixində keçiriləcək "Snapdragon Summit" tədbirində yeni nəsil "Snapdragon 8 Gen 6" mikroprosessorlarını, o cümlədən "Elite" seriyasını təqdim etməyə hazırlaşır. Şirkət rəsmi olaraq yeni çiplərin süni intellekt imkanlarını artıran "Hexagon NPU" (neyron prosessoru) haqqında mühüm detalları açıqlayıb. Bu yeniliklər, xüsusilə cihaz daxilində çalışan İİ-agentlərin daha sürətli və səmərəli fəaliyyət göstərməsinə hesablanıb.
Yeni NPU arxitekturası nələri dəyişir?
Yeni nəsil "Hexagon NPU"-nun əsasını təşkil edən "Element Accelerator" komponenti skalyar, vektor və tenzor hesablamaları bloklarının yanında yerləşdirilərək generativ alqoritmlərin işini əhəmiyyətli dərəcədə sürətləndirir. Modulun daxili yaddaşının artırılması isə əsas operativ yaddaşdan asılılığı azaldır. Bu təkmilləşdirmə sayəsində prosessor daha çox kontekst məlumatını yaddaşda saxlaya bilir ki, bu da ağır İİ tapşırıqlarının icrası üçün geniş imkanlar yaradır.
"Mixture-of-Experts" texnologiyasının rolu nədir?
Yeni çiplər xüsusi olaraq "Mixture-of-Experts" (MoE) arxitekturasını dəstəkləyir. Bu yanaşma sorğuları müvafiq ekspert modellərinə yönləndirməklə resurs tələbatını azaldır və 30 milyard parametrə qədər olan böyük İİ modellərinin smartfonlarda lokal şəkildə işlədilməsinə şərait yaradır. "Qualcomm"-un məlumatına görə, bu yeniliklər INT4 hesablamaları rejimində ilkin emal mərhələsində 50%-ə qədər daha yüksək məhsuldarlıq və daha geniş dekodlaşdırma ötürmə qabiliyyəti təmin edir.
