Fa tres setmanes vaig passar dos dies al World Summit AI, als Països Baixos, amb la delegació d’Andorra Business. Hi havia de tot: grans noms, màquines i demostracions, i moltes, motles xerrades i seminaris. Jo hi anava a distingir el que és real del que és només un bon decorat. Però el que m’he emportat no és cap model nou ni cap eina, que també. És una idea que, dita d’una manera o d’una altra, vaig sentir a les sessions més pràctiques: el difícil no és que la IA funcioni. El difícil és saber què passa quan no funciona.
Sembla una obvietat, i no ho és. Quan es mostra una IA en una presentació, sempre va bé: la comanda entra, el correu surt, l’informe es genera. Les dificultats no apareixen un dia bo. Apareixen quan la connexió es talla a mitges, quan el servei de l’altra banda no respon o quan algú ha escrit una dada d’una manera que ningú no havia previst. A una empresa petita, aquests dies arriben igual.
Això no vol dir que les demostracions enganyin. Ensenyen el camí feliç perquè és el que cal ensenyar en deu minuts. L’error és suposar que el camí feliç és tot el producte. Per això he deixat de fiar-me de qui promet que no fallarà mai. Cap sistema no ho fa: ni un ordinador, ni un cotxe, ni una persona. A l’aviació ningú no pregunta si pot fallar un motor; es pregunta què es fa quan falli, i tot l’avió està pensat al voltant d’aquesta resposta. Un bon proveïdor d’IA no us promet risc zero. Us ensenya què ha previst per a quan toqui.
Imagineu un petit distribuïdor de recanvis que ha automatitzat la reposició. Quan un article baixa del mínim, la IA prepara la comanda al proveïdor, l’envia i ho apunta al registre d’estoc. Un dia la connexió cau just després d’enviar la comanda i abans d’apuntar-la. Segons com estigui muntat, poden passar tres coses: que l’endemà el sistema la torni a fer i arribin dos palets en lloc d’un; que ningú no se n’adoni fins que el proveïdor truqui; o que s’aturi en silenci i el prestatge es quedi buit durant dies. El primer cas costa diners, el segon una conversa incòmoda amb el proveïdor i el tercer, vendes. No és un error de la IA. És un procés que no estava pensat per fallar.
D’aquests dos dies me n’he emportat tres preguntes, que ara faria a qualsevol que em volgués vendre una automatització.
La primera: què pot fer i què no? Que pugui preparar una comanda, però no pagar-la. Que pugui redactar, però no enviar. Aquests límits han de ser tècnics, no de bona voluntat: una IA a qui només s’ha dit «no ho facis» encara ho pot fer. Ho vaig explicar al setembre amb el meu propi sistema: no pot enviar correus ni esborrar res, no perquè confiï en ell, sinó perquè està bloquejat.
Posar aquests límits té una conseqüència que no sempre es diu: abaixa les expectatives, i és bo que sigui així. La IA no funciona per art de màgia. És una eina que fa unes coses bé, unes altres no tan bé i unes altres que no ha de fer mai. Qui ho té clar des del primer dia no es decep al tercer mes. Qui la compra com una solució que ho fa tot ja està preparant la decepció.
La segona: com m’adonaré que ha fallat? El pitjor error és el silenciós. Una automatització que falla i t’avisa és una molèstia. Una que falla sense dir res és un problema que descobriràs a final de mes, quan algú pregunti per què no hi ha res fet.
I l’avís ha d’arribar a algú concret. Un missatge a una bústia compartida que ningú no mira és silenci amb altres paraules. Cal un nom i un termini: qui el rep i en quant de temps el revisa.
La tercera: si ho torna a provar, què passa? Repetir un pas ha de ser segur: no hauria de generar una segona comanda, un segon pagament ni un segon correu. I si cal desfer alguna cosa, ha de quedar clar qui ho fa i com.
Una bona resposta a les tres sona més o menys així: «Prepara la comanda, però no l’envia sense el vistiplau d’una persona. Si falla, l’avís arriba al mòbil del responsable. I si repeteix el pas, el proveïdor rep la mateixa comanda amb el mateix número, de manera que no es pot duplicar.» No és tecnologia punta. És feina ben pensada, i és el que separa una automatització que dona feina d’una que n’estalvia.
Tot això es fa més important a mesura que la IA fa més coses sola. Una que només proposa un text es corregeix d’un cop d’ull. Una que actua —que compra, que envia, que apunta— deixa rastre fora, i aquest rastre s’ha d’haver pensat abans.
En un país petit això pesa més. Una empresa gran pot tenir un equip que vigila els sistemes cada dia. Una pime, normalment, no té ningú. Per això la qualitat d’una automatització no es veu el dia de la demostració, sinó el dia que s’espatlla. I aquí, on un error davant d’un client es recorda durant anys, aquest dia compta.
A la columna d’agost proposava un filtre: si una proposta no sap dir quina tasca concreta t’estalvia i quantes hores, encara no és una proposta. N’hi afegiria un de segon. Si només us expliquen com funciona quan tot va bé i no què passa quan no, us falta la meitat de la informació.
I una prova que no costa res. Abans de donar permisos a una automatització, proveu-la amb el cas dolent: talleu la connexió a mitges, demaneu-li una cosa que no hauria de poder fer i mireu què passa. Fixeu-vos en tres coses: si us n’assabenteu, si alguna cosa es fa dues vegades i si en queda alguna a mitges sense que ningú ho sàpiga. Un matí d’aquestes proves diu més que qualsevol presentació. Una IA no es mesura pels seus encerts. Això ho fan totes. Es mesura per què passa quan s’equivoca.
