Proqram təminatı tərtibatçısı Aloshdenny, "Google DeepMind" tərəfindən hazırlanan "SynthID" sistemini tərs mühəndislik (reverse-engineering) vasitəsilə sındırdığını açıqlayıb. O, süni intellektlə yaradılmış təsvirlərdən su nişanlarının silinməsi və ya digər şəkillərə əlavə edilməsi prosesini nümayiş etdirib. Tərtibatçı öz işinin nəticələrini açıq mənbə kimi "GitHub" platformasında yerləşdirib və prosesi "Medium" bloqunda sənədləşdirib. Lakin "Google" şirkəti bu iddiaların həqiqəti əks etdirmədiyini vurğulayıb.
Bu texnologiya necə sındırılıb?
Tərtibatçının sözlərinə görə, bu proses üçün heç bir neyron şəbəkəsinə və ya xüsusi giriş hüququna ehtiyac qalmayıb. O, sadəcə olaraq "Gemini" vasitəsilə 200 ədəd tamamilə qara və ya ağ rəngli təsvir yaradaraq siqnalların emalı metodundan istifadə edib. Aloshdenny qeyd edir ki, bu qara təsvirlərin ortalamasını çıxardıqda, hər bir sıfır olmayan piksel birbaşa su nişanını ifşa edir.
Prosesin texniki tərəfi olduqca mürəkkəbdir və bir neçə mərhələdən ibarətdir. İlk növbədə yaradılan təsvirlərin kontrastı və doymuşluğu artırılır, daha sonra isə su nişanı naxışlarını aşkar etmək üçün küy (noise) təmizlənir. Əldə edilən naxışların ortalaması çıxarılaraq hər bir tezlik diapazonunda su nişanı siqnalının böyüklüyü və fazası tapılır. Yekunda bu tezliklərin əlamətləri axtarılır və onların generasiya zamanı daxil edildiyi bucaq altında qismən silinməsi həyata keçirilir.
"SynthID" nə üçün vacibdir?
"SynthID" sistemi "Google" şirkətinin süni intellekt alətləri tərəfindən yaradılan məzmunları etiketləmək üçün istifadə edilən, demək olar ki, görünməz bir su nişanı texnologiyasıdır. Bu sistem təsvir yaradılan anda birbaşa piksellərə inteqrasiya olunur və şəklin keyfiyyətini pozmadan silinməsi çox çətindir. Hazırda bu texnologiya "Nano Banana" və "Veo 3" kimi modellər, həmçinin "YouTube" platformasındakı süni intellekt klonları da daxil olmaqla, şirkətin bir çox məhsullarında geniş tətbiq edilir.
Tərtibatçı və "Google" nə düşünür?
Bütün cəhdlərinə baxmayaraq, Aloshdenny sistemi tamamilə silə bilmədiyini və sadəcə "SynthID" dekoderlərini çaşdırmağa nail olduğunu etiraf edib. O, sistemin mükəmməl olmadığını, lakin sui-istifadə xərclərini artırmaq üçün çox yaxşı dizayn edildiyini bildirib.
"Bu alətin 'SynthID' su nişanlarını sistemli şəkildə silə bildiyini söyləmək səhvdir,"deyə "Google" sözçüsü Myriam Khan "The Verge" nəşrinə açıqlamasında qeyd edib.
