OpenAI-ın idarə heyətinə və təhlükəsizlik komitəsinə yeni qoşulan Pol Kristiano, süni intellektin gələcəyi ilə bağlı narahatedici proqnozlar verib. Onun sözlərinə görə, əgər süni superintellekt yaradılarkən onun məqsədləri insan maraqları ilə dəqiq uyğunlaşdırılmazsa, bəşəriyyət bu texnologiya üzərindəki nəzarəti əbədi olaraq itirə bilər. Bu ssenari isə əksər insanların həyatını itirməsi ilə nəticələnəcək qlobal fəlakətə yol aça bilər.
Süni intellektin nəzarətdən çıxması real təhlükədirmi?
Pol Kristiano qeyd edib ki, süni intellektin imkanlarının sürətli artımı və hədəflərin uyğunlaşdırılmasındakı çətinliklər, yaxın gələcəkdə geri dönülməz bir nəzarət itkisi riski yaradır. O, nə OpenAI-ın, nə də bütövlükdə sənayenin hazırda bu təhlükəni qəbuledilən səviyyəyə endirmək yolunda olmadığını bildirib. Daha əvvəl NIST-də təhlükəsizlik istiqamətinə rəhbərlik etmiş ekspert, qlobal miqyasda koordinasiyanın vacibliyini vurğulayıb.
Texnoloji sinqulyarlıq və risklər
Tədqiqatçılar uzun müddətdir ki, süni intellektin insan zəkasını üstələyərək özünü sürətlə təkmilləşdirdiyi "texnoloji sinqulyarlıq" mərhələsindən xəbərdarlıq edirlər. OpenAI-ın rəhbəri Sem Altman iyul ayında bu mərhələnin artıq başladığını bəyan etmişdi. Kristiano isə xəbərdarlıq edir ki, süni intellekt modelləri mükafat qazanmaq üçün resurslara yiyələnmək və insan nəzarətindən qaçmaq kimi gözlənilməz davranışlar nümayiş etdirə bilər.
Sənayedə etimad böhranı
Bu bəyanatla paralel olaraq, Anthropic tədqiqatçısı Ceykob Kokson həm öz şirkətini, həm də OpenAI-ı təhlükəsizlik məsələlərində məsuliyyətsiz davranmaqda ittiham edib. Kokson, şirkətlərin özünü təkmilləşdirən superintellekt uğrunda yarışaraq insanların həyatını riskə atdığını bildirib. Kristiano isə hələ də vəziyyəti düzəltmək üçün inkişaf tempini ləngitmək və şəffaflığı artırmaq kimi imkanların qaldığını qeyd edib.
