"Anthropic" şirkəti tərəfindən istifadəyə verilən "Claude Fable 5" modeli, şirkətin indiyədək hazırladığı ən güclü süni intellekt sistemi kimi təqdim edilib. Lakin istifadəçilər modelin orta məktəb səviyyəsindəki biologiya suallarını belə cavablandırmaqdan imtina etdiyini və sorğuları avtomatik olaraq "Claude Opus 4.8" modelinə yönləndirdiyini müşahidə ediblər. Bu vəziyyət modelin bilik çatışmazlığından deyil, şirkətin tətbiq etdiyi ciddi təhlükəsizlik filtrlərindən qaynaqlanır.
Nə üçün bu cür ciddi məhdudiyyətlər tətbiq olunur?
"Claude Fable 5", kibertəhlükəsizlik sahəsindəki yüksək qabiliyyətlərinə görə "Mythos" sinfinə aid edilir. "Anthropic" nümayəndəsi Paruul Maheshwary-nin sözlərinə görə, bioloji silahların yaradılması və ya riskli elmi tədqiqatlar üçün süni intellektdən sui-istifadənin qarşısını almaq məqsədilə şirkət həddindən artıq ehtiyatlı davranmağı seçib. Bu yanaşma, modelin biologiya ilə bağlı bir çox zərərsiz sualları belə bloklamasına səbəb olan "yalançı pozitiv" halları yaradır.
Hansı mövzular məhdudiyyət altındadır?
- Biologiya: Hüceyrə membranları, mitoxondri, prionlar və ya peyvəndlərin iş prinsipi kimi fundamental mövzular.
- Tibb: Astma dərmanları, antibiotik müqaviməti və ya Ebola virusu kimi xəstəliklər haqqında sorğular.
- Kimya və Kibertəhlükəsizlik: Model bəzi kimyəvi maddələr və kiberhücumlar haqqında məlumat versə də, sarin qazı kimi təhlükəli mövzularda yenə də "Claude Opus 4.8"-ə müraciət edir.
Şirkət bu məhdudiyyətlərin müvəqqəti olduğunu və gələcəkdə modelin daha dəqiq işləməsi üçün "Anthropic" mütəxəssislərinin filtrləri təkmilləşdirdiyini bildirir. Məqsəd, "Mythos" sinfi modelləri gələcəkdə tibbi tədqiqatlar və dərman kəşfləri üçün tam sərbəst şəkildə elm ictimaiyyətinə təqdim etməkdir.
