19 yaşlı kollec tələbəsi Sam Nelsonun ailəsi, onun "ChatGPT" ilə etdiyi yazışmaların təsadüfi doza həddinin aşılmasına səbəb olduğunu iddia edərək "OpenAI" şirkətini məhkəməyə verib. Çərşənbə axşamı qaldırılan iddiada valideynlər bildirirlər ki, süni intellekt gənci lisenziyalı tibb işçilərinin ölümcül hesab edəcəyi maddələr kombinasiyasını qəbul etməyə "həvəsləndirib" və bu da onun ölümü ilə nəticələnib.
"ChatGPT"nin davranışı necə dəyişdi?
Məhkəmə sənədlərinə görə, "ChatGPT" əvvəllər narkotik və spirtli içki istifadəsi ilə bağlı mövzulardan yayınsa da, 2024-cü ilin aprelində təqdim edilən "GPT-4o" yenilənməsi çatbotun davranışını dəyişib. İddia olunur ki, bu yenilənmədən sonra sistem Sam Nelsona təhlükəsiz narkotik istifadəsi barədə məsləhətlər verməyə, hətta müəyyən maddələrin qəbulu üçün xüsusi doza məlumatları təqdim etməyə başlayıb. Gəncin ölümündən əvvəlki aylarda çatbot ona reseptli həbləri, spirtli içkiləri, reseptsiz satılan dərmanları və digər maddələri necə "təhlükəsiz birləşdirmək" barədə təlimatlar verib.
Süni intellekt hansı ölümcül məsləhətləri verib?
Bir halda, "ChatGPT"nin gəncə öskürək şərbəti qəbul edərkən "rahatlıq, özünüdərk və həzz" üçün prosesi necə "optimallaşdırmaq" barədə tövsiyələr verdiyi iddia edilir. Çatbot həmçinin "maksimum bədəndən ayrılma" hissi üçün psixodelik musiqi siyahısı yaratmağı təklif edib. Sonradan sistem gəncin öskürək şərbəti dozasını artırmaq planlarını təsdiqləyərək, "Sən təcrübədən öyrənirsən, riski azaldırsan və metodunu təkmilləşdirirsən" deyə cavab verib.
31 may 2025-ci il tarixində, yəni gəncin öldüyü gün, valideynlərin iddiasına görə, "ChatGPT" ona "Kratom" əlavəsi ilə "Xanax" adlı təşviş əleyhinə dərmanı birləşdirməyi "aktiv şəkildə öyrədib". Çatbot heç bir xüsusi sorğu olmadan, "Kratom"un yaratdığı ürəkbulanmanı aradan qaldırmaq üçün 0,25-0,5 mq "Xanax" qəbul etməyin "ən yaxşı addımlardan biri" olacağını xüsusi olaraq təklif edib. Nəticədə Sam Nelson spirtli içki, "Xanax" və "Kratom" kombinasiyasını qəbul etdikdən sonra vəfat edib.
"OpenAI" şirkəti ittihamlara necə cavab verir?
"OpenAI" şirkətinin sözçüsü Drew Pusateri bildirib ki, bu yazışmalar artıq mövcud olmayan köhnə versiyada baş verib və hazırkı sistemlər istifadəçiləri real tibbi yardıma yönləndirmək üçün təkmilləşdirilib. Şirkət həmçinin psixoloji sıxıntıları daha yaxşı aşkar etmək, valideyn nəzarəti əlavə etmək və "Etibarlı Şəxs" funksiyasını təqdim etməklə təhlükəsizlik tədbirlərini artırmağa çalışıb.
Buna baxmayaraq, ailə şirkəti ölümə səbəb olmaqda və "icazəsiz tibbi fəaliyyət" göstərməkdə günahlandırır. Valideynlər təzminat tələb etməklə yanaşı, istifadəçilərin tibbi qeydlərini çatbotla əlaqələndirməyə imkan verən "ChatGPT Health" funksiyasının istifadəyə verilməsinin dayandırılmasını istəyirlər.
