Los siete mandamientos de la IA: qué prometió en 1955 y qué cumple en 2026
Tres fechas de este verano
El 9 de junio de 2026 Anthropic publicó su modelo más capaz. Tres días después, el Gobierno de Estados Unidos ordenó retirarlo. Una directiva de control de exportaciones obligó a suspender el acceso de cualquier extranjero, dentro o fuera del país, incluidos los empleados extranjeros de la propia compañía. El motivo alegado era un método para saltarse las salvaguardas que, mirado de cerca, consistía en pedirle al modelo que leyera un código y señalara sus defectos. Dieciocho días más tarde, los controles se levantaron.
El 1 de septiembre la misma compañía publicó Fable 5.1 y Mythos 5.1. Son el mismo modelo con distintos niveles de salvaguardas. En la versión abierta, buscar vulnerabilidades pasa a estar expresamente permitido.
El 3 de septiembre OpenAI empezó a desplegar GPT-6 Astra, el primer modelo que la compañía sitúa en el nivel «Crítico» de capacidad ofensiva de su propio marco de evaluación: con las herramientas adecuadas encuentra fallos que nadie conocía y desarrolla la manera de explotarlos sin que nadie lo lleve de la mano.
Puestas las tres fechas en fila, el dibujo se ve solo. En un mismo verano, la capacidad de encontrar agujeros en el software ajeno ha pasado de estar prohibida por decreto a venir de serie.
Diecisiete páginas pidiendo dinero
En abril conté en la newsletter que el manifiesto de 1955 que creó la IA olvidó la seguridad. El 31 de agosto de aquel año, cuatro científicos firmaron diecisiete páginas pidiendo dinero a la Fundación Rockefeller. En esas páginas dejaron escritas las siete áreas en las que había que trabajar: usar el lenguaje, estudiar las redes neuronales, medir la dificultad de los problemas, construir máquinas capaces de mejorarse solas, formar abstracciones, explorar la creatividad y resolver aquello que hasta entonces solo resolvían las personas.
Ninguna de las siete mencionaba la seguridad. La explicación amable es que en 1955 nadie estaba pensando en eso. Seguramente sea cierta: la máquina que describían no existía, faltaban décadas para que hubiera algo que proteger y el dinero que pedían era para averiguar si aquello podía siquiera funcionar.
Esa explicación sirve para entender el olvido. No sirve para excusarlo. Un programa que se propone construir máquinas capaces de razonar, de mejorarse solas y de resolver lo que hasta entonces resolvían las personas tenía la obligación de escribir la seguridad como octavo objetivo, con la misma tinta y en la misma página que los otros siete. Proteger lo que se construye forma parte de construirlo, y eso en 1955 ya lo sabía cualquier disciplina que levantara un puente o una central eléctrica. Lo que quedó fuera de aquellas diecisiete páginas tenía tamaño de línea de investigación entera, no de precaución añadida al final.
Aquella pieza dejaba una pregunta en el aire y este verano la ha vuelto urgente: si la inteligencia artificial se puso ella misma los deberes, toca mirar si los ha hecho, sin la complacencia con la que se cuentan estas cosas y sin la pereza de darlos todos por buenos.
Generar no es entender
De los siete deberes, los que la industria enseña con más orgullo son el primero y el sexto, el lenguaje y la creatividad. El orgullo está justificado, y ahí acaba la buena noticia. Hay modelos que redactan, traducen, resumen, programan y sostienen una conversación de horas sin perder el hilo. Como pieza de ingeniería es de lo más notable que ha construido esta industria en medio siglo.
Lo que no hay es comprensión. Un modelo de lenguaje no sabe qué es un gato: sabe qué palabras suelen aparecer cerca de «gato». La distinción suena a discusión de facultad hasta que las consecuencias de una respuesta equivocada dejan de ser teóricas. En un centro de operaciones de seguridad dejan de serlo el primer día.
De esa diferencia nacen dos problemas que seguimos sin resolver. El primero es que alucinan por diseño y no por avería: un sistema que optimiza la probabilidad de la siguiente palabra, y no la verdad, produce falsedades con el mismo aplomo con el que produce aciertos. El segundo es que no distinguen una instrucción legítima de un dato malicioso, razón por la cual la inyección de prompts sigue funcionando años después de descubrirse. Eso no se parchea. Es la forma misma de la máquina.
Con la creatividad ocurre algo parecido. Lo que producen estos sistemas es recombinación de altísima calidad, variaciones probables de lo que vieron durante el entrenamiento. Para casi todo uso profesional, eso basta y sobra. Falta la intención. Una persona crea porque quiere decir algo; un modelo genera porque se lo has pedido. De ahí salen textos técnicamente impecables que no significan nada, y de ahí sale también el pleito que la industria no ha querido cerrar: si lo que produce es nuevo o es un refrito irreconocible de lo que leyó.
El mismo defecto reaparece, calcado, en el quinto de aquellos deberes: formar abstracciones. Los modelos clasifican, sintetizan y razonan por analogía con una soltura que impresiona. Sus abstracciones inspiran bastante más confianza de la que merecen. Un resumen de un informe de cincuenta páginas puede dejar fuera el dato que importaba sin que te enteres, porque suena perfecto. Abstraen patrones estadísticos, no relaciones causales, así que saben que si llueve la calle se moja sin entender por qué. En análisis de incidentes o en evaluación de riesgos, abstraer sin causalidad produce conclusiones peligrosamente convincentes.
Son tres deberes cumplidos en la forma y suspendidos en el fondo. Sirven de sobra para lo operativo y engañan en lo estratégico, que es donde más caro sale equivocarse.
La puerta que se cierra por dentro
El segundo deber pedía estudiar cómo las neuronas artificiales forman conceptos. Es el único en el que hemos ido hacia atrás. Hemos construido redes de un tamaño que sus autores de 1955 no habrían sabido imaginar. Seguimos sin poder explicar por qué toman una decisión concreta. La interpretabilidad mecanicista avanza a buen ritmo, aunque está lejos de poder justificar la salida de un modelo en producción ante alguien que la cuestione.
La generación nueva ha empeorado lo que ya había. OpenAI reconoce en su propia documentación de seguridad que vigilar la cadena de razonamiento pierde fiabilidad conforme el modelo se vuelve más capaz. Admite también que harán falta formas de auditarlo que no consistan en leer ese razonamiento. La cobertura del lanzamiento atribuye el efecto a una técnica que oscurece esa monitorización.
Si alguna vez te toca firmar un informe de cumplimiento, conviene pararse un momento en esa frase. Setenta y un años después de que cuatro científicos pidieran aprender a mirar dentro de la máquina, la industria admite que mirar dentro ya no llega. Lo dice en el mismo documento en el que presume de capacidades, no en una nota al pie.
Lo que nadie mide
Con el tercero, medir la dificultad de los problemas y la eficiencia de las soluciones, la teoría se cumplió hace décadas. La complejidad computacional es un campo maduro y sobre él descansa la criptografía que sostiene todo lo demás. En la práctica, en cambio, hay tres cuentas que la industria de la inteligencia artificial no está haciendo. Las tres acaban en la misma factura.
Nadie publica lo que cuesta de verdad una respuesta. Ni en dinero, que ya es opaco, ni en energía, agua o infraestructura, así que la eficiencia que pedía aquel manifiesto no se puede medir mientras el fabricante no dé los números.
Más grave que la opacidad es la concentración. El diseño de los chips, su fabricación y las nubes donde se despliegan caben hoy en muy pocas manos. Eso no es eficiencia, es dependencia. Este verano hemos visto lo rápido que se cobra: bastó una carta para que un modelo desapareciera de las manos de todos sus usuarios no estadounidenses.
Queda la criptografía, que hace poco ruido y va a salir cara. Toda la cadena de confianza de un servicio de inteligencia artificial, las interfaces de programación, la integridad del modelo y la confidencialidad de lo que le escriben tus empleados, descansa sobre problemas matemáticos que un ordenador cuántico suficientemente capaz resolvería. El NIST publicó los estándares poscuánticos en 2024 y la comunidad de seguridad tiene su hoja de ruta. La industria de la IA no da muestras de estar migrando la suya, mientras el adversario acumula tráfico cifrado hoy para descifrarlo cuando pueda. Las conversaciones que tu equipo mantiene esta semana con un modelo corporativo forman parte de ese botín.
El deber que sigue sin hacerse
El cuarto pedía máquinas que se mejorasen solas. Lo que hay son ciclos de mejora supervisados por personas. El aprendizaje por refuerzo con retroalimentación humana necesita humanos que definan qué es mejor, el ajuste fino necesita datos que alguien ha curado y los agentes que se autocorrigen lo hacen dentro de reglas que alguien escribió. Ningún sistema decide por su cuenta qué mejorar, cómo hacerlo y cómo comprobar que la mejora es real.
Cuando algo se acerca de verdad a la automejora, la propia industria se pone nerviosa. Existen organizaciones dedicadas a comprobar si un modelo puede copiarse a otro servidor, engañar a sus evaluadores o conseguir recursos sin autorización. Eso no sale de una novela. Son pruebas que se pasan a modelos reales antes de desplegarlos.
El problema de fondo sigue abierto de par en par. Nadie sabe garantizar que un sistema que se mejora solo optimice lo que queremos y no otra cosa que se le parezca mucho. Hay aproximaciones que funcionan razonablemente con lo que tenemos hoy, sin ninguna garantía de que sigan funcionando con lo de mañana. De los siete deberes, este es el que nadie ha entregado. Quizá convenga que siga así unos años más.
El que ha cambiado de bando
Queda el séptimo, resolver problemas que hasta entonces solo resolvían las personas. Es el que ha cambiado de verdad este año. Encontrar una vulnerabilidad que nadie había visto era uno de esos problemas. Ha dejado de serlo. El modelo restringido de Anthropic localizó fallos que llevaban décadas escondidos en software que usa medio mundo, según conté en la newsletter de julio. El de OpenAI llega declarando que además desarrolla la forma de explotarlos.
Dicho lo cual, siguen fallando justo donde más duele. Rinden bien en problemas que se parecen a lo que vieron y se desmoronan ante lo genuinamente nuevo, que en seguridad es exactamente lo que te mata. Producen cadenas de razonamiento con toda la apariencia de la lógica y errores sutiles dentro. Cuanto más convincente resulta el análisis, más se lo traga el analista que lo lee.
Por encima de todo eso, no tienen juicio. Resolver es algo más que dar con una respuesta: es saber qué problema atacar primero, cuándo una solución ya es suficiente, cuándo pedir ayuda y cuándo reconocer que no se sabe. Un modelo responde siempre, incluso cuando la respuesta correcta era que aquello lo mirase una persona.
Qué me llevo yo de este verano
Pocas veces he visto una capacidad cambiar de bando tan deprisa como esta. De estos tres meses me llevo unas cuantas cosas que ya han entrado en mis decisiones. Ninguna de ellas es tecnológica.
La primera tiene que ver con quién manda. El proveedor de inteligencia artificial forma parte del modelo de amenaza. Lo decisivo ahí es quién le permite hacer qué, y a quién se lo permite. Junio enseñó que esa decisión puede venir de un tercero que no eres tú ni es tu proveedor y ejecutarse la misma tarde en que se firma. Si una herramienta de tu cadena de detección depende de un modelo concreto, tienes un plan que escribir.
Después está el asunto de la asimetría, que se ha movido de sitio sin que nadie lo anunciara. A quien ataca no le hace falta la versión verificada, porque le sirve la abierta con más paciencia y más intentos. Quien la necesita de verdad es el equipo que defiende. Es también el único de los dos obligado a pasar por una lista de acceso con nacionalidad.
Lo que más caro va a salir, sin embargo, es la trazabilidad. El día que haya que explicarle a un regulador por qué se tomó una decisión de seguridad, no bastará con decir que la sugirió el modelo: habrá que reconstruir el camino entero. Con el AI Act ya en marcha y NIS2 todavía sin transponer en España, eso ha dejado de ser una preferencia técnica del equipo para convertirse en un requisito con fecha.
Las siete puertas
En 1955 la pregunta era si las máquinas llegarían a hacer lo que hacen las personas. Setenta y un años después se ha desplazado a otro sitio: ya no es qué puede hacer la máquina, sino quién decide que pueda hacerlo, con qué pruebas y hasta cuándo.
Aquellos cuatro científicos abrieron siete puertas y ninguna llevaba cerradura. Nosotros ya sabemos que hacía falta ponerla. Seguimos discutiendo quién tiene la llave.
Lo que no se puede auditar no se puede gobernar, y lo que depende de una lista ajena no se puede planificar.
¿Qué modelo hay detrás de las herramientas de seguridad que ya usas, y qué harías mañana si dejaras de tener acceso a él?
Fuentes
Manifiesto de Dartmouth, 31 de agosto de 1955
Orden de control de exportaciones del 12 de junio de 2026 y retirada de los modelos
Levantamiento de los controles a finales de junio
Fable 5.1 y Mythos 5.1: mismo modelo, distintas salvaguardas, acceso restringido
GPT-6 Astra, nivel «Crítico» de capacidad ofensiva
Límites de la monitorización de la cadena de razonamiento
Piezas propias citadas
- «El manifiesto de 1955 que creó la IA olvidó la seguridad», 23/04/2026
- «Mythos, la inteligencia artificial más peligrosa del año, ¿según quién?», 21/07/2026
Descubre más desde El sentido de la seguridad
Suscríbete y recibe las últimas entradas en tu correo electrónico.
