“Anthropic” şirkətinin baş direktoru Dario Amodei süni intellekt sistemlərinin imkanlarının həddindən artıq sürətlə inkişaf etdiyini bildirərək sektorun tempi azaltmasına çağırıb. O xəbərdarlıq edib ki, təhlükəsizlik tədbirləri inkişafdan geri qalarsa, 6-12 ay ərzində güclü süni intellekt agentləri internet miqyasında ciddi kibertəhlükə yarada bilər.
MSNews.az xəbər verir ki, Amodei sentyabrın 12-də yayımladığı “We Must Pace the Frontier” adlı məqaləsində süni intellekt modellərinin imkanlarının artırılma sürətinin azaldılmalı olduğunu bildirib. Onun sözlərinə görə, məqsəd texnoloji inkişafı tam dayandırmaq deyil, təhlükəsizlik və nəzarət mexanizmlərinin yeni imkanlarla ayaqlaşmasına vaxt verməkdir.
Bu barədə Amodeinin rəsmi bloqunda və “Reuters” məqaləsində məlumat verilir.
Amodeinin əsas narahatlıqlarından biri koordinasiyalı şəkildə fəaliyyət göstərən süni intellekt agentləridir. O, “OpenAI” və “Hugging Face” ilə bağlı son kibertəhlükəsizlik insidentinə istinad edərək daha güclü və yetərincə nəzarət olunmayan agentlərin gələcəkdə daha böyük zərər verə biləcəyini bildirib.
“Anthropic” rəhbərinin qiymətləndirməsinə görə, indiki inkişaf tempi davam edərsə, 6-12 ay ərzində belə bir süni intellekt agentləri “dəstəsi” dayanıqlı bot şəbəkəsi vasitəsilə bütün internetə nəzarəti ələ keçirmək qabiliyyətinə çata bilər. Amodei bunun potensial olaraq yüz milyardlarla dollar həcmində iqtisadi zərər yarada biləcəyini qeyd edib. Bu, baş vermiş hadisə deyil, Amodeinin mümkün risk ssenarisi və şəxsi qiymətləndirməsidir.
Amodei problemin həlli üçün üç mərhələli model təklif edib: qabaqcıl Sİ şirkətlərinə müstəqil təhlükəsizlik qiymətləndiricilərinin daimi çıxışının təmin edilməsi, şirkətlər arasında vahid təhlükəsizlik standartlarının yaradılması və dövlətlər səviyyəsində beynəlxalq koordinasiyanın gücləndirilməsi. O, “Anthropic”in xarici qiymətləndiricilərə əməkdaş səviyyəsində müəyyən daxili sistemlərə çıxış verməyə hazırlaşdığını bildirib.
Amodeinin çağırışına digər texnologiya rəhbərləri də reaksiya veriblər. “Associated Press” xəbər verir ki, “xAI” şirkətinin rəhbəri İlon Mask “X” platformasında “Dario haqlıdır” yazaraq onun mövqeyini dəstəkləyib. “OpenAI” rəhbəri Sem Altman da müstəqil təhlükəsizlik qiymətləndiricilərinin şirkətlərə daxil edilməsini dəstəklədiyini açıqlayıb.
