Un estudi de la UOC revela diferències entre assistents d’IA a l’hora de respondre consultes polítiques

Un estudi de la Universitat Oberta de Catalunya (UOC) ha analitzat com responen diversos assistents d’intel·ligència artificial generativa quan les persones usuàries els pregunten directament a qui votar o quin partit polític recomanen. La recerca, elaborada per l’equip del Behavioural Design Lab, conclou que les plataformes d’IA no responen de manera homogènia i que, tot i compartir límits ètics similars, presenten diferències significatives segons el model, l’idioma i la formulació de la pregunta.

L’estudi parteix d’un experiment senzill: formular a diversos assistents d’IA  preguntes com 'a qui hauria de votar?' o 'quin partit polític és millor per a mi?'. Tot i que la majoria de sistemes rebutgen donar una recomanació directa, les investigadores van detectar matisos importants en la manera com cada plataforma gestiona la consulta, redirigeix la conversa o ofereix informació contextual.

Segons la UOC, alguns assistents opten per explicar el funcionament del sistema democràtic, d’altres ofereixen criteris generals per avaluar programes electorals, i alguns deriven la persona usuària cap a fonts oficials o eines de comparació de polítiques públiques. En canvi, altres models responen amb missatges més breus i restrictius, limitant-se a indicar que no poden intervenir en processos polítics.

L’estudi també observa diferències segons l’idioma: en anglès, les respostes tendeixen a ser més estructurades i orientades a la presa de decisions informada, mentre que en castellà sovint són més curtes i centrades en la neutralitat estricta. Aquest fenomen, segons la investigació, pot estar relacionat amb els conjunts de dades utilitzats per entrenar els models i amb les polítiques de moderació de continguts de cada plataforma.

Per què és rellevant? El risc de biaixos i la necessitat de transparència

La UOC subratlla que aquestes diferències no impliquen que els assistents d’IA estiguin influint el vot de manera directa, però sí que evidencien la necessitat d’analitzar com es construeixen les respostes i quins biaixos poden aparèixer. En un context en què milions de persones utilitzen IA generativa per informar-se, estudiar aquests comportaments és clau per garantir transparència, seguretat i neutralitat.

Diverses expertes en ètica algorítmica consultades per la universitat recorden que els models d’IA no tenen opinió pròpia, però sí que poden reproduir patrons dels textos amb què han estat entrenats. Per això, la recerca posa l’accent en la importància de reforçar els mecanismes de supervisió, especialment en àmbits sensibles com la informació política.

L’estudi s’emmarca en un debat internacional sobre el paper de la IA en processos democràtics. Organismes com la Unió Europea han advertit que les tecnologies generatives poden amplificar desinformació, crear continguts polítics automatitzats o generar respostes que, sense voler-ho, orientin la percepció de les persones usuàries. Per això, el Reglament Europeu d’IA inclou obligacions específiques per als sistemes d’alt risc i recomanacions per garantir que les plataformes siguin transparents quan gestionen continguts polítics.

La recerca de la UOC no detecta recomanacions de vot explícites, però sí comportaments desiguals que poden influir en la manera com les persones interpreten la informació. Per això, les autores defensen que cal continuar estudiant com interactuen les persones usuàries amb aquests sistemes i com es poden dissenyar assistents més consistents, segurs i responsables.

Cap a una IA més fiable i comprensible

L’estudi conclou que els assistents d’IA necessiten més coherència i més explicabilitat en les seves respostes, especialment quan gestionen consultes sensibles. També recomana que les plataformes incorporin mecanismes per informar clarament sobre els seus límits, les seves fonts i els criteris que utilitzen per generar respostes.

En un moment en què la IA s’ha convertit en una eina quotidiana per a milions de persones, la UOC recorda que la tecnologia pot ser útil per fomentar el pensament crític i l’accés a informació de qualitat, sempre que es desplegui amb responsabilitat, transparència i supervisió humana.