La transparència exigible a la intel·ligència artificial

Abstract

En una societat democràticament avançada, esdevé necessari convenir els requeriments, les regles, els criteris i els principis que han de regir l’ús dels algoritmes en la presa de decisions. Aquesta necessitat esdevé especialment rellevant, òbviament, quan es tracta de la presa de decisions per part de les institucions públiques, atesos els interessos que representen i l’afectació que les decisions públiques comporten als drets i deures de la ciutadania. Quan parlem de regular l’ús de sistemes d’intel·ligència artificial (IA), ens referim no només a la necessitat de, primerament, decidir fins a quin punt volem delegar-los les nostres decisions –és a dir, aclarir en quins casos, i en quina mesura, farem ús de la IA per prendre decisions–, sinó també, alhora, a la conveniència de concretar quines mesures de control i informació hem de garantir i assumir a l’hora d’emprar la IA en els procediments de presa de decisions, control i informació que esdevenen cabdals per tal de minimitzar i gestionar els riscos i biaixos inherents als sistemes automatitzats de decisió; perquè, en paraules de Rabelais, "el món digital sense consciència no és més que una ruïna per a l’ànima". L’emergència de la IA, el seu potencial i utilitats indiscutibles i, al mateix temps, els perills i temors que innegablement suscita, proliferen en un context de força inseguretat jurídica i manca de consens pel que fa al seu ús. Tot i així, per moments s’hi estan assolint grans fites, amb l’objectiu d’establir-ne un control i seguiment òptims.