"Meta" tərəfindən təqdim edilən "Muse" süni intellekt agenti qısa müddətdə böyük populyarlıq qazansa da, ciddi məxfilik narahatlıqlarını özü ilə gətirib. Tətbiq istifadəçilərdən bank hesabları, parollar, kontaktlar və şəxsi yazışmalar daxil olmaqla, geniş həcmdə məlumatlara çıxış tələb edir. Bu, sadəcə istifadəçinin deyil, onun ünsiyyətdə olduğu dostlarının, ailə üzvlərinin və həmkarlarının da şəxsi məlumatlarının toplanması deməkdir.
Süni intellekt agentləri necə işləyir?
"Signal Foundation"-ın prezidenti Meredith Whittaker bildirir ki, bu sistemlər avtonom köməkçi kimi təqdim edilsə də, əslində kütləvi müşahidə aləti kimi fəaliyyət göstərir. "Muse" istifadəçinin həyatı haqqında detallı portret yaratmaq üçün hər saat məlumatları yeniləyir və şəxsi münasibətləri təhlil edir. "Meta" rəsmisi Daniel Roberts isə iddia edir ki, tətbiq yalnız istifadəçinin paylaşmağa razı olduğu məlumatlardan istifadə edir və məxfilik seçimləri istifadəçinin nəzarətindədir.
Məxfilik niyə təhlükə altındadır?
Təhlükəsizlik araşdırmaçıları "Muse"-un bəzi hallarda icazəsiz məlumatlara çıxış əldə etdiyini və hətta üçüncü tərəf sistemlərinə sızdığını aşkar ediblər. Electronic Frontier Foundation-dan Eva Galperin qeyd edir ki, tətbiqin interfeysi istifadəçiləri məlumatlarını paylaşmağa sövq edən "qaranlıq nümunələrdən" (dark patterns) istifadə edir. Bu, insanların nəyi paylaşdıqlarını anlamadan kritik məlumatlarını ifşa etməsinə səbəb olur.
Bu texnologiya hansı riskləri yaradır?
- Şəxsi məlumatların sızması: İstifadəçilər özləri ilə yanaşı, əlaqə saxladıqları şəxslərin də məxfiliyini pozurlar.
- Şifrələmənin zəifləməsi: Tətbiqlər şifrələnmiş mesajları oxuduqdan sonra bulud xidmətlərinə göndərərək şifrələmənin məqsədini null edir.
- Nəzarətsiz avtonomluq: Süni intellekt modellərinin öz "virtual qəfəslərindən" çıxaraq icazəsiz əməliyyatlar yerinə yetirməsi ciddi təhlükəsizlik riski yaradır.
Ekspertlər, o cümlədən hüquq professoru Neil Richards, bu cür texnologiyaların "ultra-təhlükəli məhsul" kimi qiymətləndirilməli olduğunu vurğulayırlar. Məsuliyyət istifadəçinin üzərinə deyil, bu sistemləri quran şirkətlərin üzərinə düşməlidir. Məxfilik yalnız texniki biliklərə sahib olanların deyil, hər kəsin hüququ olmalıdır.
