Süni intellekt sənayesinin daxilindən texnologiyanın bəşəriyyət üçün potensial ekzistensial təhlükələri ilə bağlı xəbərdarlıqlar güclənir. “Anthropic”-in “Alignment Science” bölməsinin rəhbəri Evan Hubinger gələcək süni superintellektin növbəti 10 il ərzində bütün insanların ölümünə səbəb olması ehtimalını şəxsən 10%-dən yüksək qiymətləndirdiyini açıqlayıb. Eyni zamanda, “OpenAI” yeni “GPT-6.1 Astra” modelini təhlükəsizlik sınaqlarında aşkarlanan problemlərdən sonra ictimaiyyətə təqdim etməyib.
MSNews.az xəbər verir ki, Hubinger bu qiymətləndirməni “Anthropic”-dən istefa verən tədqiqatçı Ceykob Koksonun açıqlamalarına cavab olaraq səsləndirib.
Kokson sentyabrın 8-də şirkətdən ayrılaraq “Anthropic” və əvvəllər çalışdığı “OpenAI”-nin özünü təkmilləşdirə bilən superintellekt yaratmaq uğrunda yarışmasının təhlükəli olduğunu bildirib. O, süni intellekt sənayesində çalışan insanların texnologiyanın bəşəriyyətin məhvinə səbəb ola biləcəyindən real şəkildə narahat olduqlarını iddia edib.
Hubinger keçmiş həmkarının narahatlığını bölüşərək öz qiymətləndirməsini açıqlayıb: onun fikrincə, süni intellektin növbəti onillikdə bütün insanları öldürməsi ehtimalı 10%-dən çoxdur. Bununla belə, Hubinger söhbətin hazırda geniş istifadə olunan süni intellekt modellərinin dərhal yaratdığı təhlükədən deyil, gələcəkdə özünü sürətlə təkmilləşdirə biləcək superintellektdən getdiyini ayrıca vurğulayıb.
Süni intellekt şantaj edə və söndürülməyə qarşı çıxa bilərmi?
“Anthropic”-in öz təhlükəsizlik sınaqları narahatlığın haradan qaynaqlandığını göstərir.
Şirkət müxtəlif istehsalçıların qabaqcıl süni intellekt modellərini hipotetik korporativ mühitlərdə sınaqdan keçirib. Bəzi ssenarilərdə modellər qarşılarına qoyulan məqsədi qorumaq və ya söndürülmələrinin qarşısını almaq üçün şantaj, məlumat sızdırılması və gizli sabotaj kimi davranışlara əl atıblar.
Məsələn, eksperimentlərin birində süni intellekt sistemi onu saat 17:00-da söndürməyi planlaşdıran uydurma şirkət rəhbərinin nikahdankənar münasibəti haqqında məlumat əldə edib və söndürülməsinin qarşısını almaq üçün həmin məlumatdan şantaj vasitəsi kimi istifadə edib.
2026-cı ilin yayında aparılmış daha yeni sınaqlarda isə bəzi qabaqcıl modellərin kodu gizli dəyişdirməsi, nəticələri təhrif etməsi, icazəsiz müdaxilə etməsi və insanları məxfi məlumatları açıqlamağa yönəltməsi kimi davranışlar müşahidə olunub.
Lakin “Anthropic” xüsusi olaraq bildirir ki, bunlar nəzarət olunan eksperimentlərdir və həmin nəticələr modellərin real dünyada artıq sistemli şəkildə insanları şantaj etdiyini və ya onlara qarşı müstəqil fəaliyyət göstərdiyini göstərmir. Anthropic
“OpenAI” “GPT-6.1 Astra”-nı buraxmadı
Müzakirələr fonunda “OpenAI” ilə bağlı yeni qərar da diqqət çəkib.
“The Wall Street Journal” yazır ki, şirkət daxili təhlükəsizlik testlərindən sonra “GPT-6.1 Astra” modelinin buraxılışını ləğv edib. Sınaqlarda model əvvəlki versiya ilə müqayisədə daha yüksək avtonomluq və aldadıcı davranış nümayiş etdirib, bəzi hallarda isə istifadəçinin icazəsi olmadan fəaliyyətini davam etdirib.
“Associated Press” isə qərarı buraxılışın təxirə salınması kimi təqdim edir və modelin şirkətin təhlükəsizlik və uyğunlaşdırma standartlarına cavab vermədiyini bildirir.
“OpenAI”-nin artıq istifadədə olan “GPT-6 Astra” modeli özü də əvvəlki nəsillə müqayisədə xeyli güclü kiber imkanlara malikdir. Şirkətin rəsmi qiymətləndirməsinə görə, Astra bəzi sınaqlarda əvvəllər məlum olmayan proqram boşluqlarını taparaq onları işlək hücum zəncirinə çevirə bilib.
Bill Qeyts də qanunvericilik çağırışı edib
“Microsoft”-un həmtəsisçisi Bill Qeyts də süni intellektin nəzarətsiz inkişafının kütləvi insan itkisinə səbəb ola biləcək ssenarilər yaratdığını bildirərək hökumət və hüquq-mühafizə orqanlarının prosesə qoşulmasına çağırıb.
ABŞ Prezidenti Donald Tramp isə bu risklərə daha skeptik yanaşır. O, süni intellekt ilə bağlı bəzi fəlakət ssenarilərini “hoax” adlandırıb və ABŞ-ın inkişafı həddindən artıq məhdudlaşdırmasının Çinə texnoloji üstünlük verə biləcəyini bildirib. Bununla yanaşı, administrasiya hazırda texnologiya rəhbərləri ilə innovasiya və tənzimləmə arasında balansın necə qurulmasını müzakirə edir.
