Müasir süni intellekt modelləri, o cümlədən "ChatGPT", tez-tez hər şeyi bilən bir sistem kimi qəbul edilir. Lakin bu sistemlər bəzən son dərəcə inamlı şəkildə tamamilə yanlış faktlar, mövcud olmayan mənbələr və ya uydurma izahatlar təqdim edə bilirlər. Bu fenomen bir nasazlıq deyil, əksinə, dil modellərinin işləmə mexanizminin ayrılmaz bir hissəsidir.
Süni intellekt necə düşünür?
"ChatGPT" məlumatları ensiklopediya kimi saxlamır. Onun əsas vəzifəsi böyük həcmli təlim məlumatlarına əsaslanaraq, mətndəki növbəti sözü proqnozlaşdırmaqdır. Bu proses biliklərin yoxlanılması deyil, statistik olaraq ən ehtimal olunan cümlə davamının müəyyən edilməsidir. Nəticədə, sistem faktiki düzgünlüyə deyil, məntiqi və qrammatik cəhətdən inandırıcı görünən mətnin yaradılmasına köklənir.
Nə üçün "hallüsinasiyalar" yaranır?
İT mütəxəssisləri süni intellektin bu xətasını "hallüsinasiya" adlandırırlar. Sistem təlim zamanı öyrəndiyi müxtəlif məlumat strukturlarını birləşdirərək, reallıqda mövcud olmayan yeni faktlar yarada bilər. Məsələn, elmi məqalə haqqında soruşduqda, model mövcud olmayan müəllif və ya jurnal adlarını son dərəcə inandırıcı şəkildə təqdim edə bilər. Bu, sistemin həqiqəti deyil, yalnız ehtimalı optimallaşdırmasının nəticəsidir.
Səhvləri tamamilə aradan qaldırmaq mümkündürmü?
Hazırkı texnoloji yanaşma ilə süni intellektin səhvlərini tamamilə sıfıra endirmək mümkün deyil. Bununla belə, insan rəyi əsasında gücləndirici öyrənmə, xarici mənbələrə qoşulma və filtrasiya sistemləri vasitəsilə bu xətaların sayı azaldıla bilər. Buna baxmayaraq, istifadəçilər "ChatGPT"-ni bir həqiqət mənbəyi kimi deyil, ideya və layihə hazırlamaq üçün bir alət kimi qəbul etməlidirlər. Xüsusilə tibbi, elmi və texniki sahələrdə hər hansı məlumatın kritik yoxlanılması vacibdir.
