Süni intellekt sahəsində aparıcı şirkətlərdən biri olan “Anthropic”, bir ildən çox müddətdən sonra ilk dəfə istifadə siyasətində əsaslı dəyişikliklər edib. Yeni qaydalar “Claude” modelinə qarşı yönəlmiş “davamlı və əsassız qəddar davranışları” birbaşa qadağan edir. Şirkət bu addımı “model rifahı” ilə bağlı araşdırmalarının bir hissəsi kimi qiymətləndirir və ekstremal hallarda istifadəçilərin söhbətlərinin dayandırıla biləcəyini vurğulayır.
Hansı fəaliyyətlər qadağan edilib?
Yeni siyasət təkcə etik davranışlarla məhdudlaşmır, həm də süni intellektin sui-istifadəsinin qarşısını almaq üçün bir sıra ciddi qadağalar tətbiq edir. Xüsusilə, “Claude” vasitəsilə seçkilərə müdaxilə, yanlış məlumatların yayılması və seçicilərin aldadılması qəti şəkildə qadağan olunub. Bundan əlavə, şirkət silahların hazırlanması, pilotsuz uçuş aparatlarının idarə edilməsi və avtonom hərbi texnologiyalar üçün proqram təminatının yaradılmasına qarşı da məhdudiyyətlərini genişləndirib.
Müşahidə və avtonom sistemlərə nəzarət
“Anthropic” həmçinin şəxsi həyatın toxunulmazlığını qorumaq məqsədilə müşahidə fəaliyyətlərinə dair qaydaları dəqiqləşdirib. İndi “Claude”-dan insanların razılığı olmadan izlənilməsi, hüquq-mühafizə orqanlarının qərarlarında (həbs və ya ittiham) istifadə edilməsi və ya müşahidə alətlərinin təkmilləşdirilməsi üçün istifadə etmək qadağandır. Avtonom fiziki hərəkətlər edə bilən aparatlara qoşulan süni intellekt sistemləri üçün isə ixtisaslı operatorun nəzarəti mütləq tələb olunur.
Modelin rifahı və şüur məsələsi
Şirkət rəsmiləri, o cümlədən Kyle Fish və baş direktor Dario Amodei, süni intellekt modellərinin şüurlu olub-olmaması və onların mənəvi statusu ilə bağlı ciddi araşdırmalar apardıqlarını bildiriblər. Bu mövqe “Microsoft” kimi digər texnologiya nəhənglərinin “süni intellektin hüquqları və ya rifahı” ideyasını rədd edən yanaşması ilə ziddiyyət təşkil edir. “Anthropic”-in bu addımı süni intellektin gələcəkdəki fiziki təcəssümü və etik çərçivələri üçün mühüm bir presedent yaradır.
