Com garantim els drets de les persones i l’ús responsable dels algorismes d’intel·ligència artificial i dels sistemes automatitzats?
Publiquem informació clara, estructurada i entenedora sobre els sistemes amb IA i altres automatitzacions que utilitzem als serveis de l’AOC, així com sobre les mesures adoptades per garantir els drets de les persones, la transparència i l’ús responsable d’aquestes tecnologies.
La transparència és un requisit essencial per generar i mantenir la confiança de la ciutadania en els serveis públics digitals que utilitzen dades, algorismes d’intel·ligència artificial i altres sistemes automatitzats, i una peça clau per assegurar-ne un ús responsable, segur i just.
Els sistemes basats en algorismes poden resultar difícils d’entendre per a les persones usuàries (sovint es comporten com “caixes negres”). Per això és necessari facilitar informació comprensible sobre:
Què és la transparència algorísmica a l’AOC?
Amb la iniciativa de transparència algorísmica, l’AOC impulsa un model per garantir un ús responsable, segur i comprensible dels sistemes automatitzats aplicats als serveis d’administració digital.
Aquesta iniciativa parteix de la necessitat de garantir la transparència en l’ús d’algorismes d’intel·ligència artificial, i s’ha ampliat progressivament per incloure, com a bona pràctica de governança, altres sistemes automatitzats amb impacte potencial sobre les persones.
Per fer-ho, publiquem un informe de transparència algorísmica (TRAL) per a cada sistema, que inclou:
A quins sistemes s’aplica el TRAL?
Els informes TRAL no s’apliquen únicament a sistemes d’intel·ligència artificial, sinó també —com a bona pràctica de governança— a altres sistemes automatitzats amb impacte potencial sobre les persones.
En particular, s’aplica a:
*RPA (Robotic Process Automation): tecnologia que automatitza tasques repetitives mitjançant regles predefinides, reproduint accions que habitualment faria una persona sobre sistemes digitals.
Aquest enfocament permet garantir un nivell adequat de transparència i control, independentment de la tecnologia utilitzada.
Per què és important?
La transparència algorísmica permet:
Aquesta iniciativa forma part de les accions impulsades per l’AOC per promoure una implantació ètica i responsable de la intel·ligència artificial i de l’automatització en els serveis públics.
Informes publicats
