“El SEPE utilitzarà la intel·ligència artificial per assessorar persones aturades”. Aquesta declaració recent de la ministra de Treball espanyola ha obert un debat que va molt més enllà del sector públic: pot una IA substituir l’assessorament humà? I, si s’equivoca, qui n’assumeix la responsabilitat?
Aquest interrogant no és abstracte. També a Andorra, moltes empreses incorporen solucions d’intel·ligència artificial en els seus serveis: recomanadors automatitzats, eines de generació de documents, atenció al client mitjançant chatbots, o processos de selecció i cribratge de personal basats en algoritmes. En tots aquests casos, la IA actua com a intermediari en una relació contractual o precontractual, i pot generar errors amb conseqüències legals.
Des del punt de vista del dret privat, sorgeixen preguntes rellevants: pot considerar-se que hi ha hagut culpa contractual si l’error ha estat “de la màquina”? Qui contracta amb una empresa que utilitza IA, pot exigir indemnització si la informació proporcionada ha estat errònia o incompleta? La resposta ha de partir d’un principi bàsic: la IA no és subjecte jurídic; qui en respon és qui la utilitza. Així, si un sistema automatitzat genera un document defectuós, fa una recomanació financera errònia o omet informació rellevant, l’empresa que ofereix el servei és qui haurà de respondre.
Aquest tipus de problemàtiques són cada cop més rellevants. Tant és així que el 5 de setembre de 2024, Andorra va signar el Conveni Marc del Consell d’Europa sobre la Intel·ligència Artificial, el primer tractat internacional jurídicament vinculant que regula aquesta tecnologia des de la perspectiva dels drets humans, la democràcia i l’estat de dret. Aquesta adhesió reforça la necessitat d’un ús jurídicament responsable de la IA, també en l’àmbit privat.
Això obliga a repensar la redacció dels contractes comercials i de serveis. És fonamental preveure clàusules específiques que limitin o modulin la responsabilitat en cas d’ús d’eines automatitzades, i que defineixin el marge d’error acceptable en aquestes prestacions.
El repte per als juristes andorrans és doble: adaptar els instruments clàssics de la responsabilitat contractual a una realitat tecnològica nova, i alhora protegir la confiança dels clients sense frenar la innovació. Com en tantes altres matèries, el dret no pot quedar enrere, però tampoc ha de precipitar-se. La clau és prevenir el conflicte mitjançant una bona contractació, clara, transparent i ajustada als riscos reals que comporta l’ús de la intel·ligència artificial.
El futur ja és aquí, però el dret encara hi té molt a dir.
