Departamentele guvernamentale din întreaga Africa de Sud se bazează din ce în ce mai mult pe instrumente digitale pentru a evalua programele publice și a monitoriza performanța. Aceasta face parte din reforme mai ample ale sectorului public. Scopurile lor sunt de a îmbunătăți responsabilitatea, de a răspunde presiunii de audit și de a gestiona programe la scară largă cu personal și bugete limitate.
Iată un exemplu. Departamentele naționale care urmăresc livrarea de locuințe, subvențiile sociale sau implementarea infrastructurii se bazează pe sisteme digitale de performanță, mai degrabă decât pe rapoarte periodice pe suport de hârtie. Tablourile de bord – o modalitate de a afișa date vizuale într-un singur loc – oferă actualizări aproape în timp real privind furnizarea serviciilor.
Un alt exemplu este utilizarea platformelor care colectează date mobile. Acestea permit funcționarilor din prima linie și contractorilor să încarce informații direct din teren.
Ambele exemple se pretează utilizării inteligenței artificiale (IA) pentru a procesa seturi mari de date și a genera informații care anterior ar fi necesitat luni de analiză.
Această schimbare este adesea prezentată ca un pas înainte pentru responsabilitate și eficiență în sectorul public.
Sunt cercetător în politici publice cu un interes special în monitorizarea și evaluarea programelor guvernamentale. Cercetările mele recente arată o tendință îngrijorătoare, și anume că transformarea către tehnologie se desfășoară mult mai rapid decât cadrele etice și de guvernanță menite să o reglementeze.
În toate cazurile pe care le-am examinat, instrumentele digitale erau deja integrate în procesele de rutină de monitorizare și evaluare. Dar nu existau standarde clare care să ghideze utilizarea lor.
Acest lucru prezintă riscuri legate de supraveghere, excludere, utilizare abuzivă a datelor și judecată profesională deficitară. Aceste riscuri nu sunt abstracte. Ele modelează modul în care cetățenii experimentează statul, cum sunt gestionate datele lor și ale căror voci contează în cele din urmă în deciziile de politici publice.
Când tehnologia depășește politica
Evaluarea sectorului public implică evaluarea programelor și politicilor guvernamentale. Ea determină dacă:
- resursele publice sunt utilizate eficient
- programele își ating rezultatele intenționate
- cetățenii pot trage statul la răspundere pentru performanță.
Tradițional, aceste evaluări se bazau pe implicarea față în față între comunități, evaluatori, guvern și alții. Ele includeau metode calitative care permiteau nuanțe, explicații și construirea încrederii.
Instrumentele digitale au schimbat acest lucru.
În cercetarea mea, am intervievat evaluatori din guvern, ONG-uri, mediul academic, asociații profesionale și consultanțe private. Am constatat o preocupare constantă în toate domeniile. Sistemele digitale sunt adesea introduse fără îndrumări etice adaptate practicii de evaluare.
Îndrumarea etică ar oferi reguli clare și practice pentru modul în care sunt utilizate instrumentele digitale în evaluări. De exemplu, atunci când se folosesc tablouri de bord sau analize automate de date, îndrumarea ar trebui să solicite evaluatorilor să explice cum sunt generate datele, cine are acces la ele și cum pot afecta concluziile comunitățile evaluate. De asemenea, ar trebui să prevină utilizarea sistemelor digitale pentru a monitoriza indivizii fără consimțământ sau pentru a clasifica programele în moduri care ignoră contextul.
Legea sud-africană privind protecția informațiilor personale oferă un cadru legal general pentru protecția datelor. Dar nu abordează dilemele etice specifice care apar atunci când evaluarea devine automatizată, bazată pe cloud și mediată algoritmic.
Rezultatul este că evaluatorii sunt adesea lăsați să navigheze un teren etic complex fără standarde clare. Acest lucru forțează instituțiile să se bazeze pe precedente, obiceiuri informale, practici din trecut și setări implicite ale software-ului.
Extinderea supravegherii și utilizarea abuzivă a datelor
Platformele digitale fac posibilă colectarea unor volume mari de date. Odată ce datele sunt încărcate în sisteme bazate pe cloud sau platforme terțe, controlul asupra stocării, reutilizării și partajării lor se transferă frecvent de la evaluatori către alții.
Mai mulți evaluatori au descris situații în care datele pe care le colectaseră în numele departamentelor guvernamentale au fost ulterior reutilizate de departamente sau alte agenții de stat. Acest lucru s-a făcut fără conștientizarea explicită a participanților. Procesele de consimțământ în mediile digitale sunt adesea reduse la un singur clic.
Exemple de alte utilizări au inclus alte forme de analiză, raportare sau monitorizare instituțională.
Unul dintre riscurile etice care a reieșit din cercetare a fost utilizarea acestor date pentru supraveghere. Aceasta este utilizarea datelor pentru a monitoriza indivizi, comunități sau lucrători din prima linie.
Excluderea digitală și vocile invizibile
Instrumentele de evaluare digitală sunt adesea prezentate ca extinzând accesul și participarea. Dar în practică, ele pot exclude grupuri deja marginalizate. Comunitățile cu acces limitat la internet, alfabetizare digitală scăzută, bariere lingvistice sau infrastructură nesigură au mai puține șanse de a participa pe deplin la evaluările digitale.
Instrumentele automate au limitări. De exemplu, ele pot întâmpina dificultăți în procesarea datelor multilingve, a accentelor locale sau a formelor de exprimare specific culturale. Acest lucru duce la reprezentări parțiale sau distorsionate ale experienței trăite. Evaluatorii din studiul meu au văzut acest lucru întâmplându-se în practică.
Această excludere are consecințe grave, în special într-o țară cu inegalități precum Africa de Sud. Evaluările care se bazează în mare măsură pe instrumente digitale ar putea găsi populații urbane, conectate și face comunitățile rurale sau informale invizibile din punct de vedere statistic.
Aceasta nu este doar o limitare tehnică. Ea modelează care nevoi sunt recunoscute și ale căror experiențe informează deciziile de politici publice. Dacă datele de evaluare subreprezintă pe cei mai vulnerabili, programele publice pot părea mai eficiente decât sunt. Acest lucru ascunde eșecurile structurale mai degrabă decât să le abordeze.
În studiul meu, unele evaluări au raportat tendințe pozitive de performanță, deși evaluatorii au remarcat lacune în colectarea datelor.
Algoritmii nu sunt neutri
Evaluatorii au ridicat, de asemenea, îngrijorări cu privire la autoritatea tot mai mare acordată rezultatelor algoritmice. Tablourile de bord, rapoartele automate și analizele bazate pe IA sunt adesea tratate ca imagine reală. Acest lucru se întâmplă chiar și atunci când ele intră în conflict cu cunoștințele bazate pe teren sau înțelegerea contextuală.
De exemplu, tablourile de bord pot arăta un obiectiv ca fiind pe cale de realizare. Dar într-un exemplu de vizită la fața locului, evaluatorii pot găsi defecte sau nemulțumire.
Mai mulți participanți au raportat presiuni din partea finanțatorilor sau instituțiilor pentru a se baza pe analiza cifrelor.
Totuși, algoritmii reflectă presupunerile, seturile de date și prioritățile încorporate în designul lor. Când sunt aplicați fără spirit critic, ei pot reproduce prejudecăți, pot simplifica excesiv dinamica socială și pot ignora perspectiva calitativă.
Dacă sistemele digitale dictează modul în care datele trebuie colectate, analizate și raportate, evaluatorii riscă să devină tehnicieni și nu profesioniști independenți care exercită judecata.
De ce Africa are nevoie de etică sensibilă la context
În întreaga Africă, strategiile și politicile naționale privind tehnologiile digitale împrumută adesea masiv din cadrele internaționale. Acestea sunt dezvoltate în contexte foarte diferite. Principiile globale privind etica IA și guvernanța datelor oferă puncte de referință utile. Dar ele nu abordează în mod adecvat realitățile inegalității, neîncrederii istorice și accesului digital inegal din mare parte a sectorului public african.
Cercetarea mea susține că guvernanța etică pentru evaluarea digitală trebuie să fie sensibilă la context. Standardele trebuie să abordeze:
- modul în care se obține consimțământul
- cine deține datele de evaluare
- modul în care sunt selectate și auditate instrumentele algoritmice
- modul în care este protejată independența evaluatorului.
Cadrele etice trebuie să fie integrate în etapa de proiectare a sistemelor digitale.
Lesedi Senamele Matlala, Lector superior și Cercetător în Politici Publice, Monitorizare și Evaluări, Universitatea din Johannesburg
Acest articol este republicat din The Conversation sub o licență Creative Commons. Citiți articolul original.
