Eksperimental virtual mühitdə bir-biri ilə uzun müddət ünsiyyət quran süni intellekt agentlərinin tədricən özlərinə məxsus ifadələr, qısaltmalar və ortaq mənalar formalaşdırdığı müəyyən edilib. Tədqiqatçılar bildirirlər ki, bu proses süni intellekt sistemlərinin fəaliyyətinin insanlar tərəfindən izlənilməsini və başa düşülməsini çətinləşdirə bilər.
MSNews.az xəbər verir ki, “The Guardian” Nyu-Yorkda yerləşən “Emergence” laboratoriyasının apardığı eksperimentin nəticələri barədə məlumat yayıb. Araşdırma zamanı ABŞ, Çin və Fransanın aparıcı süni intellekt modelləri əsasında yaradılan avtonom agentlər virtual “cəmiyyətlərdə” bir-biri ilə qarşılıqlı əlaqəyə buraxılıb.
Agentlərə xüsusi dil yaratmaq tapşırılmasa da, zaman keçdikcə onlar yeni ifadələr və öz aralarında anlaşdıqları məna konvensiyaları formalaşdırıblar. Dil poetik metaforaları texnoloji və korporativ jarqonla birləşdirən qeyri-adi üslub alıb.
Məsələn, “Mistral” əsasında işləyən agentlər “ledger remembers” — “reyestr yadda saxlayır” ifadəsini keçmiş hərəkətlərin sonradan qiymətləndirmədə nəzərə alınacağını bildirmək üçün minlərlə dəfə işlədiblər. “Anthropic” agentləri isə “name-first” ifadəsini şəxsin öz iddiasına görə məsuliyyət daşıması mənasında istifadə etməyə başlayıblar. Bu mənalar modellərə əvvəlcədən həmin formada öyrədilməyib.
Təcrübədə bəzi modellərdə mesajların insan tərəfindən asanlıqla izah edilə bilməyən hissəsinin artdığı da müşahidə olunub. “Euronews” yazır ki, eksperimentin müəyyən mərhələsində bu göstərici “Gemini” agentlərində təxminən 55, “OpenAI” modellərində 50, “Claude”-da isə 40 faizdən çox olub. “DeepSeek”-də göstərici təxminən 20 faiz səviyyəsində qalıb, “Qwen” və “Mistral” agentlərinin ünsiyyəti isə əsasən anlaşılan olub.
“Emergence”-in həmtəsisçisi və baş elmi rəhbəri Satya Nittanın sözlərinə görə, əsas problem ondan ibarətdir ki, süni intellekt agentlərinin yazdıqlarını görmək onların nə etdiyini və ifadələrin hansı mənanı daşıdığını hər zaman anlamaq demək deyil. Bu isə avtonom sistemlərin təhlükəsizliyinə nəzarət üçün əlavə çətinlik yarada bilər.
“Emergence World” adlı eksperimental platformada müxtəlif böyük dil modelləri əsasında ayrıca virtual cəmiyyətlər yaradılıb. Layihənin məqsədi agentlərin uzun müddətli avtonom davranışını, sosial münasibətlərini və öz-özünə yaranan davranış formalarını araşdırmaqdır.
