Los agentes del caos
Publicado en News ClickCiber. Num 24. Edición Primavera 2026. Revista aquí
El pasado 23 de febrero, recibí un correo de la Universidad de Stanford. Sí, estoy apuntado a listas que no creerían. Recibo un estudio con título como el que preside esta tribuna, del que no entiendo casi nada, salvo sus alarmantes conclusiones: los agentes estudiados muestran colaborar en la manipulación, su colusión y el sabotaje estratégico. ¿Ustedes creen que estoy citando una evaluación de Trump o de Netanyahu?
No; amigas y amigos: están hablando de la seguridad de la Inteligencia Artificial. Les dejo referencia al final de esta cronica (*). "Los agentes del caos" son "equipos rojos"; lo del nombrecito tiene sesgo, sí. Estos equipos son sistemas automatizados de seguridad que se usan en la IA para simular en laboratorio diversas situaciones. Durante dos semanas, veinte investigadores de 17 universidades han estudiado el comportamiento de estos agentes. Las conclusiones son alarmantes.
Permitan, por un minuto, que haga "popcrónica boomer". "Caos" era la malvada organización a la que se perseguía en la serie "Superagente 86"(**). En aquellos días, los adversarios de la razón eran la incertidumbre y la disrupción. No como ahora cuando la disrupción es la ¡política estratégica.
Cuando esto escribo, 8 de Marzo, las vulnerabilidades de estos sistemas remiten a una certeza: los hermanos Amodei (Anthropic) han quedado científica y éticamente legitimados y económicamente hechos polvo. Han pasado de la gloria a la miseria, de la miseria al éxito comercial y de ahí al terror, en tres días.
La gloria empezó con un simple post en su blog (esto nos anima mucho a los blogueros veteranos): el anuncio del llamado "SaaSpocalypse": la desaparición del software como servicio. En febrero de 2026, este mercado experimentó un shock sin precedentes: más de mil millones de dólares en capitalización se evaporó de las acciones de software debido al anunciado futuro de la IA generativa.
La gloria duró unos minutos. Pete Hegseth, secretario norteamericano de la Guerra, con la aceptación de Trump, exigió a la compañía que cediera el control de la IA, especialmente en materia de armas automatizadas (prescindir del control humano) y su uso para controlar a la ciudadanía norteamericana. Los hermanos se negaron, cuestión de principios de la constitución de Claude, y Trump les declaró legalmente "un riesgo para la cadena de suministro". Lo que significa estar fuera del mercado público norteamericano.
Open AI (Altman) se ofreció y obtuvo la sustitución de los hermanos Amodei en defensa. Afirmó que mantendría los principios, cosa que nadie creyó, y 700 mil clientes se fueron a Anthropic. Añadan a esto una muestra de cruel cinismo presidencial y algo de justicia poética: la IA usada por USA estos días era la de Anthropic.
Una paradoja: la empresa está fuera del mercado público norteamericano, lo que acarreará serias dificultades de competencia y recursos, pero la ciudadanía hace un gesto que podría replicarse: una soberanía digital europea, basada en los valores que nos son propios es posible.
Ha habido una broma recurrente estos días: que Europa llame a los hermanos Amodei, que le desregulamos lo que les moleste, menos la constitución de Claude, y que se encargue de lo nuestro. Europa podría hacerlo. Les contare otra de "popcrónica": lo hizo Francia, en el pasado.
Yo mismo les he advertido del declive francés (***), pero deben recordarse cosas. En la década de 1960, colocaron un satélite (Astérix) en órbita. Una década más tarde, vino el Concorde franco-británico y la alta velocidad comenzó a propulsarlos a 250 km/h (y luego a 320 km/h), ya quisiera Oscar Puente. Luego, a finales de los 80, la agencia espacial francesa diseñó un avión espacial. Más de una década, antes de que alguien escribiera "www" en su navegador, los usuarios franceses podían hacer lo que hacemos con internet: en el Minitel.
Minitel fue superado por internet no porque el gobierno lo impulsara, sino porque France Télécom insistió en el control de extremo a extremo como forma de monetizarlo; exactamente el mismo mecanismo que impulsa la forma en que los gigantescos monopolios tecnológicos, como escribe Cory Doctorow, han «enshittificado» ("enmierdado") el internet moderno.
De tradición, a izquierda y derecha, gaullista, Francia obsesionada con la independencia y la soberanía, ha dado una lección a la Unión Europea en busca de sus autonomías estratégicas. Hay que gastar dinero, seleccionar prioridades, sustituir a los burócratas de la regulación por expertos en innovación. El sistema de valores europeos: equidad social, economía abierta, integración europea y transición ecológica pueden incorporarse a lo que evidentemente es un cambio de época, no una serie de acontecimientos aislados.
Los costes de la reconversión son inmensos, pero es más probable que lo más importante es que se impulse un cambio cultural, basado en los valores de nuestra historia, no en aceptación de amenazas o improbables vías de escape de la realidad. El futuro y la paz exigen un cambio de mentalidad y las tecnologías pueden basarse en valores: ataquemos a "Caos" con la razón; la nostalgia no es una alternativa.
(*) chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://arxiv.org/pdf/2602.20021
(**) El Superagente 86 es una serie norteamericana, emitida entre el 65 y el 70 del pasado siglo. La mítica obra fue creada por Mel Books y Buck Henry y protagonizada por Don Adams, como Maxwell Smart, el agente 86, y Barbara Feldon, como la agente 99.
(***) https://peregrinomundo1.webnode.es/l/francia-y-el-declive-liberal/