"Anthropic" şirkəti süni intellekt tərəfindən yaradılan məzmunun müəyyən edilməsi üçün yeni addım atıb. Şirkət "Claude" modelinin mətnlərinə görünməz nişanlar daxil edəcəyini bildirib. Bu yenilik Avropa İttifaqının AI Aktı çərçivəsində süni intellektin şəffaflığı ilə bağlı qoyulan tələbləri yerinə yetirmək məqsədi daşıyır.
İstifadə olunan texnologiya "Google DeepMind" tərəfindən işlənib hazırlanan və açıq kodlu olan "SynthID-Text" yanaşmasının bir versiyasıdır. Sistem mətnin yaradılması zamanı sözlərin seçilmə ehtimallarından istifadə edərək, insan gözü üçün görünməz, lakin xüsusi açar vasitəsilə aşkarlana bilən nümunələr yaradır. "Anthropic" qeyd edir ki, bu proses istifadəçilər üçün əlavə xərc yaratmır və "Claude" tərəfindən təqdim olunan məzmunun keyfiyyətinə heç bir mənfi təsir göstərmir.
Texnologiyanın iş prinsipi modelin söz seçimi zamanı etdiyi kiçik, lakin məna dəyişməyən seçimlərə əsaslanır. Məsələn, cümlənin davamı üçün eyni dərəcədə uyğun olan iki sözdən biri seçilərkən, sistem təsadüfi rəqəm generatoru əvəzinə xüsusi açardan istifadə edir. Bu yanaşma mətnin daxilində gizli bir iz buraxır. Qeyd edək ki, "Google" özünün "Gemini" çatbotunda "SynthID-Text" həllini artıq 2024-cü ildən etibarən tətbiq edir.
