Böyük Britaniyada polis və yerli hakimiyyət orqanlarının cinayətləri və sosial riskləri proqnozlaşdırmaq üçün genişmiqyaslı maşın öyrənməsi sistemi hazırladığı məlum olub.
MSNews.az xəbər verir ki, bu barədə “WIRED” nəşri araşdırma dərc edib. Araşdırmaya görə, Avon və Somerset polisi, eləcə də Bristol şəhər şurası 2016-cı ildən etibarən “Think Family Database” adlı məlumat bazası üzərində işləyib.
Bu bazada Bristolda yaşayan təxminən yarım milyon sakin barədə həssas məlumatlar toplanıb. Məlumatlar arasında polis hesabatları, mənzil vəziyyəti, psixi sağlamlıqla bağlı qeydlər, məktəb və sosial xidmət məlumatları, yeniyetmə hamiləliyi, valideynlik kursları və pulsuz məktəb yeməyi kimi sosial göstəricilər də olub.
“WIRED”-in məlumatına görə, bu məlumatlar əsasında minlərlə böyüklər və uşaqlar üçün alqoritmik risk balları yaradılıb. Məqsəd bölgədə “təhlükə, zərər və risk mənzərəsi” formalaşdırmaq olub.
Avon və Somerset polisinin ən azı 23 proqnozlaşdırıcı model hazırladığı bildirilir. Bu modellər şəxsin gələcəkdə ev oğurluğu törədə biləcəyi, məhkəməyə gəlməyəcəyi, itkin düşəcəyi, məişət zorakılığının qurbanı olacağı və ya uşaqların seksual və kriminal istismarı riski ilə üzləşəcəyi ehtimalını qiymətləndirib.
Lakin araşdırma göstərib ki, sistemin bir sıra hissələri ciddi dəqiqlik problemi ilə üzləşib. “WIRED”-in əldə etdiyi məlumatları araşdıran müstəqil süni intellekt audit şirkəti “Eticas” bəzi modellərin çox aşağı “dəqiqlik” göstəriciləri verdiyini bildirib. Bu isə “yüksək riskli” kimi işarələnən insanların böyük hissəsinin yanlış şəkildə seçilməsi anlamına gəlir.
Xüsusilə oğurluq törədə biləcək şəxsləri müəyyənləşdirmək üçün istifadə olunan modelin üç ildən çox müddətdə 10 faizdən aşağı dəqiqlik göstərdiyi qeyd olunur. Bu o deməkdir ki, sistemin “yüksək riskli” kimi göstərdiyi hər 10 nəfərdən real olaraq qanunu pozanların sayı bir nəfərdən də az olub.
“WIRED” yazır ki, uşaqların seksual və kriminal istismarını müəyyən etməyə yönəlmiş modellər də ciddi tənqidlərə səbəb olub. Bristol bələdiyyəsinin əməkdaşları bu sistemlərin nəticələrinə etibar etmədiklərini bildiriblər. Sosial işçilər bəzi hallarda real risk altında olan uşaqların alqoritmik siyahılarda görünmədiyini deyiblər.
Bəzi əməkdaşlar hesablamaların necə aparıldığını anlamadıqlarını və nəticələrə güvənmədiklərini bildiriblər. Müstəqil araşdırmada risk modellərinin mənbə kodu və dəyişənləri barədə kifayət qədər sənədin tapılmadığı, bunun da sistemin qiymətləndirilməsini çətinləşdirdiyi qeyd olunub.
2023-cü ilin iyununa qədər Bristol hakimiyyəti uşaqların seksual istismarı və kriminal istismar riskini müəyyən etməyə yönəlmiş iki modeli istifadədən çıxarıb. Lakin bu qərarın hansı əsaslarla verildiyinə dair tam sənədləşmə olmadığı bildirilir.
Avon və Somerset polisi isə “WIRED”-ə açıqlamasında bəzi modellərin ümumiyyətlə istifadəyə verilmədiyini bildirib. Qurum əlavə edib ki, modellər performans əsasında qiymətləndirilir və problem aşkarlananda yenilənir və ya dayandırılır.
Bununla belə, araşdırmada polis sistemlərinin şəffaflığı və etik nəzarəti ilə bağlı ciddi suallar qaldırılır. “WIRED”-in məlumatına görə, polis etik qrupun bu modellərlə bağlı ayrıca iclas keçirmədiyini bildirib, çünki qurumun sözlərinə əsasən, hələlik “potensial etik problem” müəyyən edilməyib.
Araşdırma Britaniya hüquq-mühafizə sistemində süni intellektin genişləndirilməsi fonunda dərc olunub. Böyük Britaniya hökuməti PoliceAI adlı yeni milli mərkəz yaradıb. Bu qurum İngiltərə və Uelsdə 43 polis qüvvəsində süni intellekt alətlərini sınaqdan keçirmək və genişləndirmək məqsədi daşıyır.
Hökumət “PoliceAI” vasitəsilə 2028-ci ilin sonunadək polis əməkdaşlarının ən azı 6 milyon iş saatına qənaət etməyi planlaşdırır. Layihə rəqəmsal sübutların təhlili, videomaterialların yoxlanılması, dərin saxta məzmunun aşkarlanması və digər texnoloji vasitələrin tətbiqini nəzərdə tutur.
“WIRED” isə qeyd edir ki, milli süni intellekt proqramının genişləndirilməsi yerli səviyyədə ciddi problemlər üzə çıxaran Avon və Somerset təcrübəsi ilə eyni dövrə təsadüf edir. “PoliceAI” təşəbbüsü “College of Policing” bazasında fəaliyyət göstərir; quruma isə vaxtilə Avon və Somerset polisinin rəhbəri olmuş Endi Marş başçılıq edir.
Tənqidçilər hesab edirlər ki, bu cür sistemlər şəffaflıq, şəxsi məlumatların qorunması və yanlış risk qiymətləndirmələri baxımından ciddi təhlükələr yarada bilər. Onların fikrincə, alqoritmlərin səhvləri xüsusilə uşaqlar, həssas qruplar və sosial baxımdan zəif təbəqələr üçün real nəticələr doğura bilər.
