"Anthropic" şirkəti özünün yeni "Claude Fable 5" süni intellekt modelində tətbiq etdiyi gizli qoruyucu mexanizmlərlə bağlı tənqidlərə cavab verib. Şirkət, tədqiqatçılar və rəqib sistemlər üçün maneə yaradan bu gizli məhdudiyyətlərin yanlış bir yanaşma olduğunu etiraf edərək, istifadəçilərdən üzr istəyib. Bundan sonra sistemin daha şəffaf fəaliyyət göstərəcəyi və istifadəçilərin tətbiq olunan məhdudiyyətlər barədə dərhal məlumatlandırılacağı bildirilib.
Nə üçün gizli məhdudiyyətlər tətbiq edilmişdi?
"Claude Fable 5", şirkətin "Mythos" sinfinə aid olan və ictimaiyyətə açıq ilk modelidir. "Anthropic" mütəxəssisləri bu sistemlərin yüksək riskli sahələrdə, xüsusilə də kiçik modellərin təlimi üçün istifadə edilən "distillasiya" prosesində sui-istifadə edilə biləcəyindən ehtiyat edirdilər. Əvvəlcə şirkət bu cür sorğuları aşkarladıqda, istifadəçiyə bildiriş göndərmədən cavabları dəyişdirmək və ya keyfiyyətini aşağı salmaq yolunu seçmişdi.
Yeni yanaşma necə olacaq?
Şirkətin yeni qərarına əsasən, "Claude Fable 5" üçün nəzərdə tutulan və riskli hesab edilən sorğular artıq avtomatik olaraq "Claude Opus 4.8" modelinə yönləndiriləcək. Bu dəyişiklik baş verdikdə, istifadəçilərə ekranda aydın bildiriş göstəriləcək. "Anthropic" nümayəndələri qeyd ediblər ki, görünməyən qoruyucu mexanizmlər sürətli işə salınma üçün seçilsə də, bu, istifadəçi təcrübəsi baxımından səhv bir addım olub.
- "Claude Fable 5" modelindəki məhdudiyyətlər daha şəffaf olacaq.
- Distillasiya cəhdləri artıq "Claude Opus 4.8" vasitəsilə idarə olunacaq.
- İstifadəçilər qoruyucu mexanizmlərin işə düşdüyü hər dəfə məlumatlandırılacaqlar.
Bu addım, xüsusilə "DeepSeek" kimi rəqiblərin "Anthropic" modellərini sənaye miqyasında distillə etməsi ilə bağlı iddialardan sonra gələn kəskin tənqidlərdən sonra atılıb. Şirkət, təhlükəsizlik və şəffaflıq arasındakı balansı qorumaq üçün gələcəkdə daha diqqətli olacağını vurğulayıb.
