"Palisade Research" qeyri-kommersiya təşkilatı tərəfindən hazırlanan yeni layihə çərçivəsində süni intellekt sahəsində çalışan mütəxəssislərin fikirləri ictimaiyyətə təqdim olunub. "frominside.ai" platformasında yayımlanan müsahibələrdə OpenAI, Google DeepMind və Anthropic kimi qabaqcıl şirkətlərin əməkdaşları texnologiyanın gələcəyi ilə bağlı narahatlıqlarını bölüşüblər.
Süni intellekt bəşəriyyəti məhv edə bilərmi?
Geoffrey Irving, OpenAI və Google DeepMind-in keçmiş əməkdaşı, insanlığın yox olma ehtimalını "yazı-tura" atmaqla müqayisə edərək, bu riskin kifayət qədər yüksək olduğunu bildirib. Google DeepMind-in tədqiqatçısı Neel Nanda isə bu ehtimalı ən azı 10 faiz olaraq qiymətləndirib və bunu "həddindən artıq yüksək" adlandırıb.
Nəzarət mexanizmləri niyə effektiv deyil?
OpenAI-in keçmiş tədqiqatçısı Daniel Kokotajlo superintellektin "allahvari" gücə malik olacağını qeyd edib. O, hazırda bu sistemləri idarə etmək üçün heç bir effektiv mexanizmin mövcud olmadığını vurğulayaraq, vəziyyətin göründüyündən daha təhlükəli olduğunu əlavə edib. Mütəxəssislər bu texnologiyanın nəzarətsiz inkişafının qarşısının alınmalı olduğunu bildirirlər.
Mütəxəssislər həmçinin niyə bu qədər təhlükəli hesab etdikləri bir sahədə işləməyə davam etdiklərinə də aydınlıq gətiriblər. Mary Phuong maraqlar toqquşmasına diqqət çəkərək, laboratoriyalar tərəfindən ödəniş alan şəxslərin açıqlamalarına şübhə ilə yanaşmağı tövsiyə edib. Neel Nanda isə öz işinin bu ekzistensial riskləri azaltmağa yönəldiyini, lakin şirkətlərin onun istefası ilə fəaliyyətlərini dayandırmayacağını bildirib.
