San-Fransiskoda süni intellektin idarə etdiyi eksperimental mağazada böyük dil modelinə əsaslanan süni intellekt menecer ilk dəfə real əməkdaşın işdən çıxarılması qərarını verib. Bununla belə, qərar tam avtonom olmayıb: insan kuratorun istiqamətləndirici sualları və son təsdiqi prosesdə mühüm rol oynayıb.
MSNews.az xəbər verir ki, “TIME” hadisənin “süni intellektin tarixdə ilk dəfə insanı işdən çıxarması” kimi təqdim edilməsinin tam dəqiq olmadığını qeyd edir. Alqoritmik sistemlər daha əvvəl də, xüsusən platforma və gig iqtisadiyyatında işçilərin müqavilələrinin dayandırılmasına səbəb olub. Lakin bu, menecer rolunda fəaliyyət göstərən böyük dil modelinin əməkdaşın işdən çıxarılmasını qərara aldığı ilk məlum hadisə hesab olunur.
Söhbət “Andon Labs”ın eksperimental “Andon Market” mağazasını idarə edən “Luna” adlı AI agentindən gedir. “Luna” müxtəlif dövrlərdə “Anthropic”in “Claude” modelləri əsasında işləyib və mağazada məhsul seçimi, qiymətlər, əməkdaşların işə qəbulu, növbələrin hazırlanması və gündəlik idarəetmə kimi vəzifələri yerinə yetirib. Mağazadakı işçilər isə hüquqi baxımdan “Andon Labs”ın əməkdaşlarıdır və insan nəzarəti altında işləyirlər.
İşdən çıxarılan əməkdaş 23 növbənin 17-nə gecikib. “Luna” əvvəllər özü işə davamiyyət qaydaları hazırlasa da, məhdud işlək yaddaş səbəbindən həmin sənədi sonradan nəzərdən qaçırıb və uzun müddət gecikmələrə sərt reaksiya verməyib. “Andon Labs” əməkdaşı süni intellektdən qaydalarını yenidən tapıb vəziyyəti qiymətləndirməsini istədikdən sonra “Luna” əvvəlcə rəsmi xəbərdarlıq təklif edib.
Yalnız insan kurator əməkdaşla əvvəllər də bir neçə dəfə danışıldığını xatırladaraq onun işə uyğunluğunu yenidən nəzərdən keçirməsini istədikdən sonra “Luna” əmək münasibətlərinə son qoymağı tövsiyə edib. “Andon Labs” rəhbəri Lukas Petersson həmin sualın AI-ni müəyyən qərara yönəldən xarakter daşıdığını etiraf edib. Son qərar insanlar tərəfindən yoxlanılıb və faktiki işdən çıxarılma da onlar tərəfindən həyata keçirilib.
Eksperiment süni intellektin biznes idarəçiliyindəki digər problemləri də üzə çıxarıb. Layihəyə mart ayında 100 min dollar balansla başlayan “Andon Market”-in hesabında beş ay sonra 61186 dollar qalıb. “TIME” bunu “Luna”-nın həddindən artıq yumşaq idarəetməsi, zəif uzunmüddətli yaddaşı və bəzi mübahisəli kommersiya qərarları ilə əlaqələndirir. “Andon Labs” da Luna-nın gündəlik əməliyyatları idarə edə bildiyini, lakin hələ uğurlu CEO səviyyəsində strateji qərarlar verə bilmədiyini bildirir.
Petersson hesab edir ki, modellər məqsədə daha sərt şəkildə çatmaq üçün təkmilləşdirildikcə gələcək süni intellekt rəhbərləri indiki sistemlərdən daha tələbkar ola bilər. O, bunun insanların yaşamaq istəməyəcəyi əmək münasibətləri modelinə çevrilə biləcəyi barədə xəbərdarlıq edib.
Mağazada işləməyə davam edən əməkdaşlardan biri Feliks Karson da “TIME”a süni intellekt tərəfindən idarə olunmağın onda xoşagəlməz hiss yaratdığını, lakin işə ehtiyacı olduğu üçün fəaliyyətini davam etdirdiyini deyib. O, gələcəkdə insan işçilərin AI menecerlər tərəfindən daha geniş miqyasda idarə olunmasını istəmədiyini bildirib.
