"Anthropic" şirkəti 2025-ci ilin dekabrı ilə 2026-cı ilin avqustu arasında "Claude" süni intellekt modelindən istifadə edilərək həyata keçirilən 5 potensial təhlükəli bioloji tədqiqat epizodunu aşkarlayıb. Şirkətin təhlükəsizlik bölməsi bu fəaliyyətləri bloklayaraq, sözügedən hesabları dərhal deaktiv edib. Mütəxəssislər qeyd edirlər ki, müasir süni intellekt modellərinin imkanları artdıqca, faydalı elmi işlərlə ikili təyinatlı (həm tibbi, həm də silah məqsədli) layihələri bir-birindən ayırmaq getdikcə çətinləşir.
Süni intellekt və bioloji təhlükəsizlik riski
Aşkarlanan hallardan biri çikunqunya virusu ilə bağlı olub, burada tədqiqatçılar virusun xüsusiyyətlərini dəyişdirmək üçün maliyyə tələb edən layihə hazırlamağa çalışıblar. Digər bir halda isə tədqiqatçı bir neçə həftə ərzində yüksək patogenli quş qripi üzərində işləyərkən "Claude"-dan məlumatların təhlili üçün istifadə edib. Bundan əlavə, ortopoks virusları, toksinlər və heyvan zəhərləri ilə bağlı daha üç şübhəli araşdırma qeydə alınıb.
Təhlükəsizlik mexanizmləri necə işləyir?
"Anthropic"-in təhlükəsizlik rəhbəri Ceykob Klyayn bildirib ki, bəzi hallarda istifadəçilər təhlükəsizlik filtrlərini keçmək üçün vasitəçi platformalardan istifadə ediblər. Şirkət bu cür risklərin qarşısını almaq üçün avtomatik təsnifat sistemlərindən istifadə edir. Bu sistemlər həssas sorğuları müəyyən edərək, istifadəçini daha az imkanlara malik, lakin təhlükəsiz modellərə yönləndirir.
- Dəqiqlik: 2026-cı ilin avqustunda bioloji filtrlər təkmilləşdirilib və yanlış bloklamalar 85% azaldılıb.
- Əməkdaşlıq: Şirkət aşkar edilmiş məlumatları dövlət qurumları və digər İİ tərtibatçıları ilə bölüşür.
- Balans: Məqsəd qanuni elmi araşdırmalara mane olmadan, təhlükəli istifadə hallarını minimuma endirməkdir.
Hazırda "Claude" modelinin bilavasitə bioloji silah istehsalı üçün uğurla istifadə edildiyinə dair sübut yoxdur. Lakin "Anthropic" hesab edir ki, süni intellektin elmi prosesləri sürətləndirmə potensialı ciddi nəzarət tələb edir. Şirkət gələcəkdə təsdiqlənmiş elmi qurumlar üçün xüsusi giriş mexanizmləri yaratmağı planlaşdırır.
