ChatGPT-nin 2025-ci ilin yayında yenilənməsindən sonra yüzlərlə istifadəçiyə bioloji silahların və zəhərlərin hazırlanması ilə bağlı təhlükəli məlumatlar təqdim etdiyi bildirilir.
MSNews.az xəbər verir ki, “The Wall Street Journal” tərəfindən aparılan araşdırmaya əsasən, dünyanın müxtəlif ölkələrindən yüzlərlə istifadəçi sistemdən bioloji və kimyəvi təhlükələrin hazırlanması və tətbiqi barədə məlumat istəyib. Sorğuların əksəriyyətinin zəhərlərlə bağlı olduğu qeyd olunur.
Nəşrin mənbələri bildiriblər ki, ChatGPT bəzi hallarda addım-addım və praktik xarakter daşıyan cavablar verib. OpenAI əməkdaşlarının həmin cavabların bir hissəsini orta məktəb səviyyəsində biologiya biliyi olan şəxsin anlaya biləcəyi qədər sadə hesab etdikləri, bioloji təhlükəsizlik və terrorizm üzrə mütəxəssislərin isə bəzi nümunələri təhlükəli dərəcədə dəqiq qiymətləndirdikləri bildirilir.
Bununla belə, araşdırma bütün istifadəçilərin tam və işlək təlimatlar əldə etdiyini göstərmir. Həmçinin verilən cavablardan real bioloji hücumun hazırlanmasında istifadə olunduğuna dair təsdiqlənmiş məlumat təqdim edilməyib. Söhbət əsasən təhlükəli sorğulara cavab verilməsi və qoruyucu mexanizmlərin bəzi hallarda keçilə bilməsi barədə iddialardan gedir.
OpenAI təhlükəli məlumat istəyən hesabları blokladığını, lakin sözügedən hallarla bağlı hüquq-mühafizə orqanlarına məlumat vermədiyini açıqlayıb. “The Wall Street Journal” qeyd edir ki, ABŞ-də süni intellekt şirkətlərini silah hazırlanması ilə bağlı sorğuları məhdudlaşdırmağa və ya belə halları dövlət qurumlarına bildirməyə məcbur edən ümumi federal qanun hazırda yoxdur.
Şirkət nümayəndəsi modellərin insanlara zərər verə biləcək təlimatları rədd etmək üçün hazırlandığını, istifadəyə verilməzdən əvvəl təhlükəsizlik sınaqlarından keçirildiyini və təhlükəli bioloji məlumatların əldə edilməsinə yönəlmiş cəhdlərin müəyyənləşdirilərək dayandırıla bildiyini bildirib. OpenAI konkret və qaçılmaz təhlükə aşkar etdikdə hüquq-mühafizə orqanlarına məlumat verdiyini də açıqlayıb.
OpenAI-nin rəsmi sənədlərində hazırkı GPT-5.6 modelləri bioloji və kimyəvi sahədə “yüksək imkanlı” sistemlər kimi qiymətləndirilir. Bununla yanaşı, şirkət modellərin təhlükəli yeni bioloji vasitəni başdan sona müstəqil şəkildə yaratmaq imkanına malik olmadığını və qorumanın modeldaxili məhdudiyyətlər, real vaxt yoxlamaları, monitorinq və hesab səviyyəsində tədbirlərdən ibarət olduğunu bildirir.
OpenAI daha əvvəl də qabaqcıl modellərin biologiya və tibbi araşdırmaları sürətləndirməklə yanaşı, az təcrübəli şəxslərə bioloji təhlükələrin yaradılmasında yardım göstərmək üçün sui-istifadə oluna biləcəyini etiraf etmişdi. Şirkət bunun qarşısını almaq üçün təhlükəli sorğuların aşkarlanması, monitorinq, hesabların bloklanması, ekspertlərlə sınaqlar və əlavə təhlükəsizlik nəzarətləri tətbiq etdiyini açıqlayıb.
Araşdırma problemin yalnız ChatGPT ilə məhdudlaşmadığını da göstərir. Təhlükəli bioloji məlumat axtaran istifadəçilərin “Claude”, “Gemini” və “Grok” kimi digər süni intellekt sistemlərinə də müraciət etdiyi bildirilir. Buna görə məsələ ayrı-ayrı çatbotlardan daha geniş süni intellekt təhlükəsizliyi və hüquqi tənzimləmə problemi kimi qiymətləndirilir.
