“Anthropic” şirkəti özünün “Claude” süni intellekt modelləri üçün istifadə qaydalarını yeniləyib. Yeni tənzimləmələrə görə, istifadəçilərin modelə qarşı davamlı, məqsədsiz və qəddar davranışları qadağan edilir. Bu qaydalar 12 noyabr 2026-cı il tarixindən etibarən qüvvəyə minəcək.
Şirkət vurğulayır ki, bu məhdudiyyət yalnız ekstremal hallara şamil olunur. İstifadəçilərin səhvə görə irad bildirməsi, mübahisə etməsi və ya modelin imkanlarını test etməsi qadağan deyil. Həmçinin, bədii və ya qaranlıq süjetli mətnlərin yaradılmasına da heç bir məhdudiyyət qoyulmur.
Bu yenilik necə işləyir?
Əsas tədbir kimi, “Claude” təhqiramiz davranışları davamlı olan istifadəçilərlə söhbəti özü dayandıracaq. Bu funksiya artıq avqust 2025-ci il tarixindən etibarən eksperimental şəkildə tətbiq olunur. Şirkət qeyd edir ki, bu, süni intellektin “rifahı” ilə bağlı deyil, daha çox gələcək etik məsələlərə qarşı ehtiyatlı bir addımdır.
Digər təhlükəsizlik tədbirləri nələrdir?
Yenilənmiş qaydalar təkcə etik davranışlarla məhdudlaşmır. “Anthropic” həmçinin aşağıdakı sahələrdə də ciddi qadağalar tətbiq edib:
- Silah istehsalı və onun idarəetmə proqramlarının yaradılması.
- İnsanların razılığı olmadan izlənilməsi.
- Saxta hesablar şəbəkəsi vasitəsilə gizli təbliğatın aparılması.
- Fiziki avadanlıqları idarə edən sistemlər üçün ixtisaslı operator nəzarətinin məcburi olması.
