Pekin Universiteti-nin tədqiqatçıları süni intellektin emal prosesini optimallaşdırmaq üçün inqilabi bir yanaşma təqdim ediblər. Onlar tərəfindən hazırlanan eksperimental sistem, adi elektron prosessorların məlumat mübadiləsini silikon fotonik ötürücülər və optik kommutatorlar vasitəsilə həyata keçirir. Nəticədə, sistem neyroşəbəkənin səs-küyün azaldılması tapşırığını standart qrafik prosessordan (GPU) 149 dəfə daha sürətli yerinə yetirib.
Bu texnologiya necə işləyir?
Sistem beş ədəd FPGA (proqramlaşdırıla bilən məntiqi matris) lövhəsindən ibarətdir və hər biri beş qatlı konvolyusiya neyroşəbəkəsinin bir qatını emal edir. Lövhələr arasında 400 Gbit/s sürətli silikon fotonik ötürücülər və 16x16 ölçülü optik kommutator quraşdırılıb. Əsas üstünlük konveyer üsulu ilə emaldadır: hər bir FPGA öz işini bitirdikdən sonra nəticəni dərhal növbəti çipə ötürür.
Nə üçün bu yanaşma vacibdir?
Bu metod sayəsində məlumatların xarici yaddaşa yazılması və oradan yenidən yüklənməsi ehtiyacı aradan qalxır. Məhz bu proseslər ənənəvi GPU-ların işini ləngidən "yaddaş divarı" problemini yaradır. Eksperiment zamanı 32x32 piksel ölçüsündə 1000 təsvir cəmi 105,16 mikrosaniyəyə emal edilib, GPU-da isə bu proses 15,643 millisaniyə çəkib.
- Sistem nominal olaraq GPU-nun gücünün cəmi 11,6%-ni təşkil edir.
- Optik kommutator 6,4 Tbit/s ümumi ötürmə qabiliyyətinə malikdir.
- FPGA bloklarının səmərəlilik göstəricisi 94,7%-ə çatıb.
Tədqiqatçıların fikrincə, bu struktur məlumat mərkəzlərində enerji sərfiyyatını əhəmiyyətli dərəcədə azalda bilər. Gələcəkdə bu texnologiyanın böyük dil modelləri və digər müasir generativ süni intellekt sistemlərində tətbiqi nəzərdən keçirilir.
