Süni intellekt sahəsində aparıcı şirkətlərdən olan "Anthropic" daxilində ciddi fikir ayrılıqları və narahatlıqlar yaranıb. Şirkətin təhlükəsizlik komandasına rəhbərlik edən Evan Hubinger, süni intellektin nəzarətdən çıxaraq insanlıq üçün təhlükə yarada biləcəyi ehtimalını 10%-dən çox qiymətləndirib. Onun sözlərinə görə, özünü təkmilləşdirən sistemlərin inkişafı gözləniləndən daha sürətlə irəliləyir.
Nə üçün tədqiqatçılar narahatdır?
Bu bəyanat, "Anthropic"-in keçmiş tədqiqatçısı Jacob Coxon-un istefasından dərhal sonra verilib. Coxon, şirkəti və rəqibi olan "OpenAI"-ı təhlükəsizlik qaydalarına məhəl qoymadan, nəzarət edilməsi qeyri-mümkün olan "superinsani sistemlər" yaratmaq uğrunda təhlükəli bir yarışa girməkdə ittiham edib. O, şirkətlərin özlərinin də süni intellektin bəşəriyyəti məhv edə biləcəyinə inandıqlarını, lakin buna baxmayaraq riskli addımlar atdıqlarını vurğulayıb.
Təhlükəsizlik planı mövcuddurmu?
Evan Hubinger etiraf edib ki, "Anthropic" hələ də qabaqcıl süni intellekt sistemlərinin insan dəyərlərinə uyğun və təhlükəsiz qalmasını təmin edəcək dəqiq bir plana sahib deyil. Şirkətlərin bazar dəyərini artırmaq və rəqabətdə geri qalmamaq üçün təhlükəsizlik tədbirlərini arxa plana atması, sənaye daxilində ciddi narahatlıq doğurur. Mütəxəssislər, xüsusilə özünü təkmilləşdirən kodların yazılmasının nəzarətsiz bir zəncirvari reaksiyaya səbəb ola biləcəyi barədə xəbərdarlıq edirlər.
