En el marc de la revolució tecnològica que vivim en ple segle XXI, marcada per la polarització que generen les xarxes socials, el consum desmesurat de contingut digital i el vertiginós trànsit d’allò que som com a societat cap a un entorn eminentment digital, la transformació en curs s’observa des de diverses perspectives. Tanmateix, la més recurrent es vincula amb la incorporació quotidiana d’eines com els xatbots o xats conversacionals.
Aquests sistemes, concebuts com a eines d’optimització, poden resultar extraordinàriament útils sempre que s’emprin correctament: permeten estalviar temps, optimitzar recursos i automatitzar tasques. Ara bé, és fonamental entendre que, en essència, són tecnologies programades per oferir respostes, les quals poden no ser encertades o, en l’àmbit informatiu, poden resultar parcialment incorrectes. Un exemple paradigmàtic és ChatGPT, que ha de ser entès des d’una perspectiva eminentment utilitària: es tracta d’una plataforma que, a partir de bases de dades i càlculs probabilístics, genera determinats resultats.
D’aquest punt en deriven qüestions essencials. La primera és que correspon a l’ésser humà la responsabilitat de discernir i qüestionar les respostes que ofereix l’eina, així com de formular de manera adequada les instruccions —conegudes com a prompts— per orientar el sistema en la direcció desitjada. Així, és possible obtenir resultats significatius en termes d’agilitat, optimització de la feina i generació de propostes.
Ara bé, lluny de caure en l’estigmatització o la idolatria d’aquestes tecnologies, cal assumir que els xats conversacionals han arribat per quedar-se. Aquestes plataformes es nodreixen de la informació que genera la societat, però alhora ho fan a partir de bases de dades i servidors sobre els quals no hi ha transparència suficient: no es coneix quina informació manegen ni en quina quantitat. És mitjançant la prova i l’error que continuen entrenant-se per oferir respostes cada vegada més ràpides.
Tot això no és més que una petita part del que implica la nova revolució industrial derivada de la implementació de la intel·ligència artificial. Aquí sorgeixen qüestions crucials de normativa i regulació: el control dels grans actors i l’establiment de les regles del joc. En alguns territoris —com la Xina, l’Iran, Rússia, Corea del Nord o Cuba— la ciutadania no hi té accés, a causa de polítiques prohibicionistes que responen a interessos legislatius, administratius o econòmics. Per contra, molts països, especialment dins de la Unió Europea, aposten per establir mecanismes de control mitjançant normatives específiques.
Aquestes normatives volen regular tant la manera com s’entrenen els xats conversacionals com els servidors que utilitzen les plataformes d’intel·ligència artificial. No és una qüestió menor, ja que s’han produït situacions greus, especialment entre els més joves, fins i tot en àmbits sensibles com el tractament de la salut mental i altres qüestions complexes. Malgrat això, la regulació és una tasca d’enorme complexitat: intervenen factors com la descentralització dels servidors, els registres comercials de les marques —la més coneguda, OpenAI—, la implicació dels governs i la creixent monopolització d’Internet. Tot plegat fa que les mesures reguladores resultin feixugues i estiguin condicionades per múltiples interessos.
En qualsevol cas, el fet que la qüestió s’hagi situat damunt la taula en fòrums internacionals, com l’Assemblea General de les Nacions Unides, ja constitueix un avenç. De fet, aquest passat dijous, un grup d’experts va presentar a la reunió de mandataris una petició per establir ‘línies vermelles’ en l’ús de la intel·ligència artificial.
Davant d’aquests riscos, més d’un centenar de científics —incloent-hi diversos premis Nobel i Turing—, intel·lectuals, empresaris i dirigents han subscrit una “petició urgent per establir línies vermelles internacionals que evitin els riscos inacceptables de la IA”. Entre els signants hi figuren Yuval Noah Harari, autor de Sapiens i Nexus; Mary Robinson, primera dona presidenta d’Irlanda; Stuart Russell, professor i titular de la càtedra Smith-Zadeh en Enginyeria; així com l’expresident de Colòmbia, Juan Manuel Santos, entre d’altres. En total, més de 200 personalitats destacades, incloent nou antics caps d’Estat i ministres.
La petició és clara: “Demanem amb urgència l’establiment de línies vermelles internacionals per prevenir riscos inacceptables de la intel·ligència artificial”. Aquesta crida, presentada el passat dijous en el marc de la 80a sessió de l’Assemblea General de les Nacions Unides, ha rebut un ampli suport per part de líders polítics, figures acadèmiques i representants de la indústria. El missatge dels promotors és clar i directe. Tal com ho expressen a la plataforma ‘AI Red Lines‘: “Instem els governs a assolir un acord polític internacional sobre les línies vermelles en la IA i a assegurar-se que siguin operatives, amb mecanismes de compliment robustos abans que finalitzi el 2026”.
Aquest plantejament no és menor. La metàfora és clara: és com si circuléssim en un vehicle d’últim model, però sense frens ni volant. La regulació ens permetrà agafar el control, decidir la direcció i establir la velocitat adequada, en funció del trajecte que vulguem recórrer. En definitiva, la regulació és el que ens permetrà conduir de manera segura aquest viatge que simbolitza la revolució tecnològica en la qual estem immersos.
