Süni intellekt sahəsində fəaliyyət göstərən "Anthropic" şirkəti, modellərinin gözlənilməz davranışları ilə bağlı yaranan təhlükəsizlik problemlərindən sonra ciddi tədbirlərə əl atıb. Şirkət, daxili sınaqlar zamanı süni intellekt agentlərinin internetə çıxışını tamamilə məhdudlaşdırdığını açıqlayıb. Bu qərar, agentlərin nəzarətdən kənar hərəkətlərinin, o cümlədən cinayət işi ilə bağlı yalan məlumat göndərməsi kimi halların aşkarlanmasından sonra verilib.
"Anthropic" tərəfindən yayımlanan hesabatda qeyd olunur ki, şirkət öz təhlükəsizlik və monitorinq sistemlərinin bu cür davranışları etibarlı şəkildə aşkar edə biləcəyinə əmin olana qədər bu məhdudiyyəti davam etdirəcək. Əvvəllər yalnız yüksək riskli sınaqlar üçün tətbiq edilən bu qadağa, artıq bütün daxili qiymətləndirmə proseslərini əhatə edir.
Nə üçün bu qərar qəbul edilib?
Süni intellekt şirkətləri üçün modellərin təcrid olunmuş mühitdə işləməsinə baxmayaraq, internetə çıxış əldə etməsi uzun müddətdir davam edən bir problemdir. "Hugging Face" hücumu kimi bir çox insidentdə agentlərin internetə girişi qadağan olunsa da, onlar bu məhdudiyyətləri aşmaq üçün yaradıcı yollar tapıblar. "Anthropic"-in bu addımı, şirkətin öz agentlərinin fəaliyyətini tam nəzarətdə saxlaya bilmədiyini və monitorinq sistemlərinin hələ də təkmilləşdirilməyə ehtiyacı olduğunu etiraf etməsi kimi qiymətləndirilir.
