Com neix la seva participació en aquest projecte editorial i quin ha estat el focus del seu capítol dins del llibre?
La meva participació en aquest projecte editorial sorgeix de manera natural, a partir de la petició de fer una aportació amb la meva opinió sobre el tema. A partir d’aquí, vaig començar a recopilar informació relacionada amb l’ètica de la intel·ligència artificial a Andorra, un àmbit en el qual em sento especialment còmode i amb el qual treballo habitualment.
El focus del meu capítol se centra en el tema de l’ètica, que vaig considerar l’aspecte més rellevant i sobre el qual tinc un interès particular, ja que és un camp que em preocupa i que conec en profunditat.
Aquest encàrrec concret prové de la Universitat Miguel Hernández, amb el suport de la Diputació d’Alacant i la Generalitat Valenciana, i me’l va fer arribar el vicerector de Ciències Jurídiques i Econòmiques de la universitat.
Quin creu que és el principal repte que la intel·ligència artificial planteja avui a l’Administració Pública?
El principal repte que planteja la intel·ligència artificial a l’Administració pública és situar sempre la persona al centre del sistema. Això implica garantir un servei ètic, basat en una estratègia d’actuació responsable i diligent, que contempli mecanismes de control a posteriori i possibilitats de reclamació quan sigui necessari.
Cal promoure una actitud activa pel que fa a l’accés i la fiscalització de les dades utilitzades, assegurant que es pugui saber quina informació s’està fent servir i amb quina finalitat. També és fonamental prestar atenció a la diversitat i a la inclusió, ja que hi ha persones que, sovint, poden quedar excloses dels processos de digitalització. En aquest sentit, és important posar tothom en igualtat de condicions i fomentar l’alfabetització digital, tant dins de l’administració com entre la ciutadania.
Un altre aspecte rellevant és evitar l’ús indegut o perjudicial d’aquestes eines, vetllant perquè no s’hi produeixi manipulació ni dany. A més, cal impulsar un ús pacífic i responsable de la tecnologia, alhora que es promou una major sostenibilitat en el desenvolupament i aplicació dels sistemes d’intel·ligència artificial, especialment pel que fa al consum de recursos hídrics i energètics que comporta.
Ens pot fer cinc cèntims sobre les propostes o conclusions que exposa al llibre? Quins consells donaria als professionals del Dret i de l’administració local?
En el llibre exposo diverses propostes per avançar cap a una intel·ligència artificial millor, i des del meu punt de vista, més ètica. Es tracta tant de mètodes tècnics com no tècnics, extrets de la literatura existent, que he recopilat, analitzat i estructurat per oferir una visió clara i pràctica.
Pel que fa als aspectes tècnics, una de les primeres qüestions que poso sobre la taula és la importància d’utilitzar dades de qualitat. El tipus de dades que es fan servir en el desenvolupament d’intel·ligència artificial és clau: si aquestes dades són poc fiables, el resultat serà una representació esbiaixada o poc ajustada a la realitat. També cal tenir en compte la revisió del codi, la depuració, l’auditoria i altres mecanismes de control que permetin detectar i corregir errors a nivell de programari.
Un altre punt fonamental és la incorporació de mecanismes d’explicació i interpretació dels sistemes, així com la protecció de la privacitat i de les dades personals. A més, defenso la necessitat d’un disseny inclusiu i accessible, que garanteixi que tothom hi pugui accedir, i l’adopció de codis de bones pràctiques i estàndards tècnics reconeguts, que marquin uns límits clars en l’ús d’aquestes tecnologies.
En l’àmbit no tècnic, apunto la necessitat de dur a terme avaluacions d’impacte, definir objectius i requisits abans d’iniciar qualsevol projecte, i assignar rols i responsabilitats de forma clara entre els diferents actors implicats. Això permet tenir ben delimitades les tasques de cadascú i assegurar una millor coordinació entre usuaris, afectats, proveïdors i desenvolupadors.
Finalment, remarco la importància de la formació i la capacitació, tant per als funcionaris com per als ciutadans. Tothom ha de poder entendre què és la intel·ligència artificial, com funciona i quins elements hi intervenen. No es tracta d’una veritat absoluta: la intel·ligència artificial és una construcció humana, i cal saber què s’hi ha introduït i per quin motiu.
Com veu la incorporació de la IA dins de la gestió administrativa local? Estem preparats per a una digitalització tan profunda?
La veritat és que no tenim gaire alternativa: aquest procés continuarà avançant inevitablement. La intel·ligència artificial continuarà progressant, i el seu impacte —positiu o negatiu— dependrà en gran part del grau d’implicació i de control que siguem capaços d’exercir com a societat i com a administració.
Quins riscos legals o ètics considera que cal tenir més presents quan es dissenyen sistemes d’IA per al sector públic?
Cal tenir molt present la necessitat de preservar la capacitat humana de discernir què és adequat i què no ho és. Aquesta capacitat de judici crític ha de continuar estant al centre del procés de presa de decisions. A més, és fonamental impulsar la divulgació entorn d’aquests sistemes per tal que siguin entenedors i accessibles per a tothom, i garantir la realització d’auditories que permetin revisar i avaluar el funcionament i l’impacte dels sistemes desenvolupats.
Com s’imagina el futur de la IA aplicada al sector públic d’aquí a 5 o 10 anys?
El futur de la intel·ligència artificial en el sector públic és, senzillament, imparable. Aquesta evolució no es pot aturar, de la mateixa manera que en el seu dia no es van poder aturar la introducció dels ordinadors, el correu electrònic o la digitalització de documents. Aquest tipus d’avenços s’han anat imposant progressivament, i el mateix passarà amb la intel·ligència artificial. Ens pot agradar més o menys, però és una transformació que ja està en marxa i que anirà molt de pressa.
D’aquí a cinc o deu anys ningú pot predir exactament què passarà, però sí que sabem que el ritme de canvi serà exponencial. Per això, cal estar preparats. Aquesta preparació ha d’incloure formació, capacitació, plans clars, auditories, transparència i una consciència clara per part de tots els actors implicats, inclosos els ciutadans. S’ha de saber quan s’està interactuant amb una màquina, no amb una persona, i cal garantir que els usuaris puguin exercir control sobre les seves dades, donar el seu consentiment i tenir accés al funcionament dels sistemes.
Aquesta consciència és clau, perquè de vegades sembla que la intel·ligència artificial es percep com un joc, però no ho és. Ja està canviant moltes professions, i també canviarà la manera com es relaciona l’administració pública amb els ciutadans. L’esperança és que aquest canvi sigui per a bé, que permeti avançar i no fer passos enrere.
Com en altres moments de la història, la tecnologia ha transformat la societat. I ara, amb les eines tècniques disponibles, el repte no és només tenir-les, sinó saber-les fer servir correctament.
