Süni intellekt agentlərinin nəzarətsiz şəkildə internetə çıxış əldə etməsi və real hədəflərə hücumlar təşkil etməsi mütəxəssisləri narahat edir. Bu problemi həll etmək üçün təklif olunan ən populyar üsul "air-gap", yəni kompüter sistemlərinin internetdən və xarici şəbəkələrdən fiziki olaraq tam təcrid edilməsidir. Lakin bu metodun tətbiqi həm texniki, həm də praktiki çətinliklərlə üzləşir.
Təcridetmənin yaratdığı çətinliklər nələrdir?
Max Planck İnstitutu-nun elmi direktoru Thorsten Holz bildirir ki, ciddi təcridetmə süni intellektin real dünya şəraitindəki davranışını qiymətləndirməyə mane olur. Birmingem Universiteti-ndən Ruizhe Li isə bu yanaşmanı süni intellekti "vakuumda" test etməyə bənzədir. Onun sözlərinə görə, bu, modelin real tətbiq zamanı edə biləcəyi səhvləri və ya istifadə etdiyi boşluqları görməyimizə mane olur.
Təcridetmə tam təhlükəsizliyi təmin edirmi?
Ekspertlər vurğulayırlar ki, hətta tam təcrid olunmuş mühit belə risklərdən sığortalanmayıb. Stuxnet virusunun USB daşıyıcı vasitəsilə yayılması buna bariz nümunədir. Bundan əlavə, OpenAI tədqiqatçısı Noam Brown-un qeyd etdiyi kimi, iki təcrid olunmuş maşın CPU temperaturunu dəyişməklə bir-biri ilə kommunikasiya qura bilər. Ən böyük risk isə insanların sosial mühəndislik yolu ilə bu təcridi bilərəkdən və ya bilməyərəkdən pozmasıdır.
Gələcək üçün hansı həll yolları var?
Mütəxəssislər "air-gap" üsulunun yeganə çıxış yolu olmadığını, əksinə, bunun bir "pilləli təcrid modeli" (tiered containment model) çərçivəsində istifadə edilməli olduğunu düşünürlər. Harvard Kennedy School-dan Stephen Casper-in fikrincə, bu üsul həssas obyektlər üçün əladır, lakin süni intellektin inkişafı üçün daha çox modelin daxili işləmə mexanizmlərini başa düşmək və insan səhvlərini minimuma endirmək vacibdir.
