Com garantim els drets de les persones i l'ús ètic dels algoritmes d'intel·ligència artificial?
Informació detallada de les característiques dels algorismes d'intel·ligència artificial que fem servir i les mesures que apliquem per garantir els drets de les persones i el seu ús ètic.
La transparència és un requisit essencial per aconseguir i mantenir la confiança dels usuaris en els sistemes d'intel·ligència artificial (IA), i una qüestió crucial per promoure un desenvolupament i un ús responsable, segur i just d'aquesta tecnologia envers la societat.
Els algorismes són la base dels sistemes d'IA i sovint succeeix que es comporten com "caixes negres" per a les persones que els fan servir i afecten. Perquè això no passi, és imprescindible que els algorismes puguin ser entesos pels usuaris, que aquests puguin comprendre com s'ha arribat a una determinada decisió i per què es pren aquesta decisió.
Amb la transparència algorísmica, l'AOC vol garantir l’ús responsable, segur i just dels algorismes d’intel·ligència artificial que apliquem als serveis d’administració digital. Per fer-ho publiquem en aquesta pàgina una fitxa entenedora per a cada algorisme d'IA emprat als nostre serveis d'administració digital.
Cada fitxa conté informació general sobre el propòsit i el funcionament de l'algorisme emprat, informació tècnica més detallada i l'òrgan davant del qual es podran recórrer les decisions particulars de l'algorisme o impugnar el seu funcionament general.
Aquesta iniciativa forma part de les accions que ens han d'ajudar a millorar els serveis públics mitjançant la implantació responsable de la IA, tot vetllant per un nivell adequat de transparència en l'ús dels algorismes i perquè les persones estiguin informades i capacitades per utilitzar-los quan hi interactuïn.
Fitxes:
1.- Xatbots conversacionals de l’Administració Oberta de Catalunya
2.- Xatbots amb intel·ligència artificial generativa de l'AOC
