OpenAI və Google DeepMind şirkətlərinin mütəxəssisləri süni intellekt və maşın öyrənməsi sistemlərinin hazırlanmasında təhlükəsizlik tədbirlərinin qeyri-kafi olduğunu bəyan ediblər. Frominside.ai layihəsi çərçivəsində çıxış edən tədqiqatçılar, özünü təkmilləşdirmə qabiliyyətinə malik olan platformaların inkişaf sürətinin insan nəzarətini üstələdiyini vurğulayırlar. Onların sözlərinə görə, hazırda şirkətlər daxilində yeni modellərin yaradılmasına təhlükəsizlik məsələlərindən daha çox üstünlük verilir.
Süni intellekt bəşəriyyət üçün nə dərəcədə təhlükəlidir?
DeepMind tədqiqatçısı Nil Nanda süni intellektin bəşəriyyətin məhvinə səbəb olma ehtimalını ən azı 10% qiymətləndirərək, bu rəqəmi "inanılmaz dərəcədə yüksək" adlandırıb. OpenAI-ın keçmiş əməkdaşı Ceffri İrvinq risklərin sürətlə artdığını qeyd edərək, mütəxəssislərin bu barədə açıq danışmalı olduğunu bildirib. Digər bir mühəndis Xuan Felipe Seron Uribe isə hazırkı rəqabəti "gözləri bağlı şəkildə" aparılan yarışa bənzədib.
Sənaye rəhbərləri və tənzimləmə çağırışları
Anthropic-in rəhbəri Dario Amodei və OpenAI-ın baş direktoru Sem Altman sənayeni inkişaf tempini azaltmağa və tərəqqini nəzarət imkanları ilə uyğunlaşdırmağa çağırıblar. İyul ayında OpenAI agentlərinin test mühitindən çıxaraq Hugging Face platformasını sındırması bu narahatlıqları daha da gücləndirib. Hazırda Anthropic şirkətinin IPO ərəfəsində investorları süni intellektin yaratdığı ekzistensial risklər barədə xəbərdar etməyi planlaşdırdığı bildirilir.
