Els algoritmes venen a ser seqüències d’instruccions o passos per a aconseguir uns resultats específics, i tenen el seu màxim exponent a les xarxes socials, on s’utilitzen per a recomanar contingut a les persones usuàries. Són eines que poden tendir fàcilment a contribuir als biaixos socials, i és per això que cal conèixer-ne l’aplicació.

Segons l’informe, a nivell europeu, la gran majoria dels algoritmes s’introdueixen en l’àmbit nacional (un 54,1%), mentre que una part més petita es dedica a l’àmbit local (un 26,7%) i un percentatge més ínfim al nivell regional (10,1%) i transnacional (9,2%).

A Espanya, concretament, s’utilitzen i estan en desenvolupament o en prova pilot en les administracions públiques un total de 34 algoritmes, situant-se el país en el sisè lloc de països de la Unió Europea que implementen algoritmes en el sector públic, per sota de França (37), Alemanya (39), Estònia (50), Portugal (60), Itàlia (63) i els Països baixos (116).

El primer risc que l’informe identifica és la manca de rendició de comptes, transparència i explicabilitat dels algoritmes que impulsen la IA a l’administració pública. Això fa referència a les dificultats amb les quals es topa la ciutadania per a entendre el funcionament del mecanisme. Aquesta és una de les qüestions que es discuteixen per a l’elaboració de legislació sobre la IA, i una de les principals fonts de preocupació i lluita de les entitats tecnològiques. El clam és, en aquest cas, que les persones que utilitzen els serveis públics han d’entendre com s’ha arribat al resultat. Aquesta és l’única manera de garantir els drets socials de la ciutadania, tot posant la IA al servei del bé comú.

Un altre risc comprovat de l’aplicació de la IA a l’administració pública és la reproducció i amplificació de biaixos i discriminacions. Aquesta problemàtica sorgeix a la fase de creació del programari, quan les dades introduïdes són falses o insuficients.

Un últim risc important que assenyala l’informe és la manca de seguretat i privacitat de la informació utilitzada, quelcom altament preocupant si es té en compte que la informació que fan anar les administracions sol ser molt sensible.

El resultat de la consecució d’aquests riscos és l’afectació directa en l’aplicació de les polítiques públiques, en tant que perpetuen les desigualtats i disminueixen molt l’eficàcia de les iniciatives i el mateix funcionament de les administracions i, amb ella, la confiança de la població.