Kaip sakote „algoritmas“ Kiswahili?

Šį pranešimą kartu su Mercy Musya ir Grace Kamau iš „Busara“ elgesio ekonomikos centro Nairobyje, Kenijoje, pateikė Danas Bjorkegrenas iš Brauno universiteto ir Joshua Blumenstock iš UC Berkeley ir CEGA.

Kreditas: elgesio ekonomikos centras „Busara“

Sprendimai, kuriuos kadaise priėmė žmonės, vis labiau priimami naudojant algoritmus, nesvarbu, ar tai būtų paskolos suteikimas, ligos diagnozavimas ar net restorano užsakymo priėmimas. Kai kurie iš šių sprendimų yra nereikšmingi, kiti - su asmeniniais finansais - ne, todėl kyla susirūpinimas, kad jei algoritmai naudojami svarbiems sprendimams priimti, jie turėtų paaiškinti, kaip tie sprendimai priimami. Pavyzdžiui, Europos Sąjunga reikalauja skaitmeninių sprendimų priėmimo „į paaiškinimą“. Tačiau kaip turėtume paaiškinti sprendimus, pagrįstus sudėtingais modeliais? Ar įmanoma paaiškinti sprendimus visiems, kuriems tai daro poveikį, net tiems, kurie turi labai mažai ankstesnės patirties su technologijomis ir algoritmais?

Šiuos klausimus mes tyrėme skaitmeninio skolinimo kontekste, tai yra vienas sėkmingiausių mašininio mokymosi pritaikymų besivystančiose visuomenėse.

Kas yra skaitmeninis skolinimas?

Vienas iš keturių kenijiečių yra paėmęs skaitmeninę paskolą („Gubbins and Totolo“, 2018). Skaitmeninis kreditas suteikė daugiau nei 6 milijonams kenijiečių kredito taškų pagal tai, kaip jie naudojasi savo telefonais („Björkegren“ ir „Grissen 2015“), taip suteikdami jiems prieigą prie kredito.

Paprastai vartotojai atsisiunčia skaitmeninio kredito programą iš „Google Play“ parduotuvės, įgalina programos leidimus pasiekti savo socialinės žiniasklaidos duomenis, GPS duomenis, kontaktų sąrašus, SMS, skambučių žurnalus ir pan. Tada programa analizuoja duomenis ir naudoja algoritmus, kad nustatytų kredito rezultatą ir paskolos dydį.

Kreditas: „M-Pesa“

Ar žmonės supranta „algoritmo“ sąvoką?

Tačiau šis procesas kelia klausimą: ar šie vartotojai iš tikrųjų supranta, kaip šie algoritmai veikia ir kaip jų veikla gali juos kvalifikuoti ar atimti iš paskolų? O jei ne, ar įmanoma perduoti algoritmų pobūdį vargšams? O kiek tai yra tikslinga pateikti?

Šešių tikslinių grupių diskusijų (FGD) metu buvo tiriamas kenijiečių bendras supratimas apie skaitmeninio kredito algoritmus, lemiančius paskolos tinkamumą. FGD vyko Nairobio „Busara“ elgesio ekonomikos centre, į kurį buvo pakviesta 50 žmonių: įvairus „Kibera“ ir „Kawangware“ gyventojų rinkinys iš „Busara“ mažas pajamas gaunančių respondentų, kurie turėjo išmaniuosius telefonus ir turėjo bent jau ankstesnės patirties dirbant su kokia nors skaitmenine forma. kreditas. Tik 64% dalyvių buvo įgiję vidurinį išsilavinimą. Tada dalyvių buvo paprašyta paaiškinti savo supratimą apie skaitmeninio kredito patvirtinimo procesą, jiems buvo paaiškintas paprastas algoritmo procesas ir jiems buvo pateiktas hipotetinių pratimų rinkinys, siekiant įvertinti, ar jie suprato algoritmus.

Beveik visi dalyviai turėjo mažai žinių ar supratimo apie algoritmus, kuriuos naudoja skaitmeninio kredito priemonės.

Daugelis atidėjo tradiciškesniems oficialiems procesams, norėdami išsiaiškinti, kokį procesą, jų manymu, šios platformos naudoja vertindami savo tinkamumą paskoloms, t. Y. Santaupas, pirminius pajamų šaltinius, paskolos garantus ir (arba) MPESA operacijas. Dalyviai, mažiau susipažinę su algoritminiais metodais, darė prielaidą, kad tarp visų finansų įstaigų buvo sudarytas didesnis susitarimas, kad būtų dalijamasi informacija apie programas, kurios būtų bendrai naudojamos tinkamumui įvertinti.

„Manau, kad jie [pavyzdžiui, skaitmeninis skolintojas] eina ir kreipiasi į kitas skolinimo įstaigas, [telekomunikacijų tarnybas, pavyzdžiui,„ Safaricom “ir kredito nuorodų biurą CRB], norėdami gauti daugiau informacijos apie tai, ar aš esu geras skolininkas, ar ne. “

Tačiau dalyviai paprastai manė, kad iš telefono naudojimo galima nustatyti kai kurias žmonių savybes.

Telefono duomenys apie skambučius, SMS žinutes, įdiegtas programas, akumuliatorių įkrovimo būdus ir „WiFi“ ryšius, be kitų veiklų, galėtų tinkamai apibrėžti skirtingas demografines charakteristikas. Paprastai FGD respondentai galėjo suprasti, kaip tam tikri duomenys gali padėti nustatyti gerus ar blogus skolininkus. Kai kurie netgi atskyrė elgesį, orientuodamiesi į kasdienę profesinę sąveiką:

„Verslo žmonės labiau linkę priimti daugiau skambučių iš tų pačių telefonų numerių, o jų GPS parodytų, kad jie juda gana mažai, nes jiems reikia apsilankyti pas klientus internetu ar asmeniškai.“

Privatumas yra svarbus, tačiau anonimiškumas išsprendžia daugelį rūpesčių.

Daugeliui dalyvių nebuvo aišku dėl leidimų, kuriuos jie suteikia šioms programoms, tikslo. Kai šių programų surinkti duomenys buvo aiškiai apibūdinti, dalyviai kėlė susirūpinimą dėl jų privatumo, skambučių įrašai ir SMS turinys buvo jautriausios susirūpinimo sritys. Bet jiems buvo žymiai patogiau rinkti anoniminius duomenis, t. Y. Maišyti telefonų numerius, kol nebuvo renkamas joks turinys.

Paprasta skani kalba yra labai svarbi veiksmingam algoritmų specifikacijų perdavimui.

Busara bandė paaiškinti algoritmus, naudodamas skirtingus metodus, pvz. matematinės lygtys arba grafinės iliustracijos. Daugelis dalyvių stengėsi suprasti algoritmus, kai jie buvo pateikiami kaip matematinės lygtys, tuo tarpu dalyviai lengviau suvokė algoritmų scheminius vaizdus. Sėkmingiausiai pavyko paaiškinti proporcijų lentelę su diagramomis.

Supaprastinta terminija atitinka šios visuomenės išsilavinimo lygį ir kasdienes kalbas (daugiausia slengas). Tokie terminai kaip „padidinta proporcija“ arba „atimti“ galėtų būti atitinkamai pakeisti „daugiau“ ir „atimti“. Skolininkai nori suprasti šias sprendimo taisykles, tačiau tik tiek, kiek jiems yra paprasčiau suvokti bendrąją koncepciją.

Ką tai reiškia algoritmais pagrįstą bendravimą?

Tęsiamos pasaulinės diskusijos dėl to, kokiu mastu algoritmų skaidrumas turėtų būti įteisintas teisiškai, siekiant užtikrinti vartotojų apsaugą. Dabartiniu Joshua Blumenstocko ir Danielio Björkegreno vadovaujamu projektu „Busara“ centre, kurį remia „Bill & Melinda Gates“ fondas per CEGA Skaitmeninio kredito observatoriją (DCO), siekiama išsiaiškinti, kaip algoritmus būtų galima tinkamai perduoti, net jei skaitmeninis kreditas ir toliau plečia savo galimybes. .