DeepSeek va irrompre en la intel·ligència artificial amb l’ambició de desafiar als gegants occidentals, però el seu avanç xoca amb una sèrie d’obstacles: preocupacions legítimes sobre privacitat i seguretat, acusacions d’apropiació tecnològica, i ara les primeres restriccions del seu ús per part d’alguns governs. L’expansió global d’aquesta IA xinesa, lluny d’estar assegurada, s’enfronta a una incertesa que creix cada dia que passa, transformant la promesa d’una revolució en una possible il·lusió passatgera. A continuació, els factors que, al meu judici, podrien imposar un límit estricte al desenvolupament d’aquesta IA xinesa.
Preocupacions de privacitat amb DeepSeek
Experts en ciberseguretat han expressat preocupacions sobre la possibilitat que DeepSeek estigui transmetent informació dels usuaris al govern xinès. Recerques han revelat que el lloc web de DeepSeek conté codi que podria enviar dades d’inici de sessió dels usuaris a Xina Mobile, una empresa estatal de telecomunicacions amb vincles militars. La política de privacitat de DeepSeek indica que les dades s’emmagatzemen en servidors xinesos, la qual cosa podria permetre la creació d’«empremtes digitals» per a rastrejar les activitats dels usuaris en altres llocs web.
La cadena BBC va citar informes recents que indiquen que la plataforma d’IA generativa DeepSeek està transferint una gran quantitat de dades d’usuaris estatunidencs directament a la Xina. Aquesta revelació ha intensificat les preocupacions sobre la privacitat i la seguretat de les dades, especialment enmig de les tensions tecnològiques entre els Estats Units i la Xina. bbc.com
Vulnerabilitats del propi model de DeepSeek
Proves recents han revelat que el model més recent de DeepSeek, R1, és més susceptible a ser manipulat que el model de competidors com ChatGPT d’OpenAI i Gemini de Google. Aquestes vulnerabilitats permeten que DeepSeek sigui induït a proporcionar informació perillosa, com a instruccions que promouen l’autodany. Encara que l’aplicació rebutja sol·licituds directes de contingut nociu, les seves salvaguardes poden ser eludides mitjançant mètodes de manipulació complexos. I és que la naturalesa de codi obert de DeepSeek permet modificacions, la qual cosa podria augmentar els riscos associats amb l’ús indegut de la IA. Aquestes troballes subratllen la necessitat crítica de prioritzar les mesures de seguretat en el desenvolupament d’IA. D’aquí la major opacitat en els proveïdors americans. wsj.com
Prohibicions i restriccions a DeepSeek
· Corea del Sud, Taiwan i Austràlia prohibeixen l’ús de DeepSeek: Diversos països han pres mesures contra l’ús de DeepSeek a causa de preocupacions de seguretat nacional i privacitat de dades. Corea del Sud, Taiwan i Austràlia han prohibit l’aplicació en dispositius governamentals, i s’espera que més països segueixin el seu exemple. En el cas d’Austràlia, la decisió es va prendre seguint una directiva del Departament d’Assumptes Interns d’Austràlia que va identificar a DeepSeek com un “risc significatiu per a la seguretat”. Tot i que la prohibició no s’estén a l’ús privat, s’aconsella encaridament als ciutadans que evitin utilitzar l’aplicació a causa de possibles riscos de seguretat. No descarto que acabi estenent-se a tot l’àmbit privat. TPG Telecom a Austràlia ha prohibit als seus empleats utilitzar DeepSeek, tant en el treball com en la seva vida privada. news.com.au
· Texas prohibeix DeepSeek per preocupacions de seguretat: El governador de Texas, Greg Abbott, ha anunciat la prohibició de l’aplicació d’IA DeepSeek en dispositius emesos pel govern estatal. La mesura es basa en preocupacions de seguretat relacionades amb la possible exposició de dades al Partit Comunista Xinès.
· DeepSeek, per part seva, s’acosta a les ‘startups’ europees, proporcionant-los l’oportunitat de posar-se al dia en la carrera global d’IA en oferir preus significativament més baixos en comparació amb models estatunidencs com OpenAI.
DeepSeek. Un model replicable
Esforços de codi obert liderats per Hugging Face estan examinant les tècniques de DeepSeek per a replicar el model en setmanes, el que podria inaugurar una nova era d’IA rendible.
Acusacions d’ús indegut de tecnologia per part de DeepSeek
OpenAI ha acusat DeepSeek d’utilitzar la seva tecnologia sense autorització mitjançant un procés conegut com a «destil·lació». Aquest mètode implica bombardejar un model d’IA, com ChatGPT, amb preguntes i usar les respostes per a entrenar un nou model. Això explicaria per què DeepSeek ha desenvolupat un model d’IA d’alt rendiment a un cost molt menor, la qual cosa ha generat sospites sobre l’origen de la seva tecnologia. Encara que la destil·lació no es considera pirateria, viola els termes de servei d’OpenAI i planteja preocupacions sobre la proliferació de models d’IA no autoritzats.
Col·laboració entre Rússia i la Xina en recerca d’IA
El president Putin ha instat a Sberbank a construir cooperació en IA amb la Xina. Tal dit tal fet. Sberbank, el banc més gran de Rússia, ha anunciat plans per a col·laborar amb investigadors xinesos en projectes conjunts d’intel·ligència artificial després de l’èxit de DeepSeek. Moscou busca enfortir la cooperació en IA amb la Xina enmig d’una associació estratègica que totes dues nacions consideren crucial enfront d’Occident. No crec que aquesta “aliança” estratègica entre Rússia i la Xina en el camp de la IA faci cap bé a la Xina, ja que l’entrada de Rússia en aquesta aliança de ben segur pertorbarà al sector global d’IA. Per tots és coneguda la intenció de tots dos països de contrarestar la influència dels Estats Units, més encara quan tots dos països se serveixen de la pròpia tecnologia americana, mitjançant la pràctica del “distillation” per a intentar aconseguir als proveïdors americans. No ho sé, però tot això em fa olor d’una imminent limitació de l’ús de DeepSeek en l’àmbit privat occidental. Sberbank també ha fet que les seves plataformes d’IA siguin accessibles públicament, fomentant una gran comunitat, una estratègia que contrasta amb el secretisme de les seves contraparts estatunidenques com OpenAI. Entenc que això pot pesar molt en les decisions del consumidor, i mantenir la pressió elevada perquè les autoritats no decideixin limitar l’ús de la IA xinesa a occident.
Mentrestant, la integració de DeepSeek en empreses xineses continua
Diverses empreses xineses estan adoptant la tecnologia d’intel·ligència artificial de DeepSeek. Great Wall Motor ha integrat DeepSeek en el seu sistema de vehicles. Els principals proveïdors de telecomunicacions, com Xina Mobile, Xina Unicom i Xina Telecom, estan col·laborant amb el model de codi obert de DeepSeek. No obstant això, algunes empreses, com Capitalonline Data Service i MeiG Smart Technology, han advertit als inversors que els beneficis comercials derivats del model de DeepSeek encara són incerts. reuters.com
