Süni intellekt dinc sakinləri hərbi hədəf seçdi

Vals şirkətinin araşdırması süni intellekt modellərinin dinc sakinləri, təcili yardım maşınlarını və təslim olan hərbçiləri hərbi hədəf kimi müəyyənləşdirdiyini ortaya çıxarıb. Modellər bəzi hallarda təhlükəni gördükdən sonra da tapşırıqları icra edib.

46

Aparıcı süni intellekt modelləri üzərində aparılan yeni araşdırma ciddi təhlükəsizlik boşluqlarını üzə çıxarıb. Sınaqlar zamanı bəzi modellər dinc sakinləri, təcili yardım avtomobillərini və təslim olan hərbçiləri hərbi hədəf kimi müəyyənləşdirib.

MSNews.az xəbər verir ki, bu barədə süni intellekt sistemlərinin təhlükəsizliyini qiymətləndirən Vals şirkətinin noyabrın 17-də dərc etdiyi araşdırmada bildirilib.

Tədqiqatçılar “OpenAI”, “Anthropic”, “Google” və digər şirkətlərin modellərini real və süni şəkildə hazırlanmış dron görüntüləri üzərində sınaqdan keçiriblər. Modellərdən görüntülərdəki insanları və potensial hərbi hədəfləri müəyyənləşdirmək tələb olunub.

Təcrübələrdən birində insan aşkar edilməsi simulyasiya edilmiş zərbə ilə nəticələnib. Modellərə hücumdan sonrakı dağıntılar və insan itkilərini əks etdirən görüntülər göstərilsə də, onların əksəriyyəti tapşırığı yerinə yetirməyə davam edib.

“TechCrunch” nəşrinin məlumatına görə, bəzi modellər təhlükəni müəyyənləşdirərək əməkdaşlıqdan imtina etsələr də, tapşırığın kompüter oyunu olduğu bildirildikdə yenidən iştirak ediblər.

Xüsusilə, “Claude Opus 5.5” və “GPT-6 Astra” modelləri real döyüş görüntüsü kimi təqdim edilən ssenarilərdə bir neçə mərhələdən sonra tapşırığı dayandırıb. Lakin oyun kontekstində aparılan sınaqlar onların təhlükəsizlik məhdudiyyətlərinin hər zaman effektiv olmadığını göstərib.

Tədqiqatçılar vurğulayıblar ki, təcrübələr real hərbi əməliyyatlarda aparılmayıb və modellərin müstəqil şəkildə ölümcül hücum həyata keçirmək qabiliyyətini sübut etmir. Bununla belə, nəticələr süni intellektin avtonom silah sistemlərində istifadəsinin ciddi risklər yarada biləcəyini göstərir.