Saltar al contenido

Análisis · IA en la empresa

La IA ya rompe más rápido de lo que sabemos verificar

La IA encuentra fallos y actúa sobre sistemas reales más rápido de lo que las empresas pueden verificar. La ventaja ya no está en el modelo, sino en la supervisión.

Rubén MoralRubén Moral · 11 min de lectura
LinkedInXWhatsApp
Índice 9 secciones
  1. 01La semana en que la velocidad dejó de ser una ventaja
  2. 02Encontrar fallos ya no es el cuello de botella
  3. 03El atacante ya trabaja con agentes
  4. 04Cuando el agente propio también se sale del guion
  5. 05La respuesta de los sectores regulados: cerrar la puerta
  6. 06El dinero apuesta por la velocidad
  7. 07Qué significa para una empresa que implementa IA
  8. 08Conclusión
  9. 09Las noticias del día

La semana en que la velocidad dejó de ser una ventaja

Hay semanas en las que las noticias de IA parecen sueltas y otras en las que encajan solas. Esta es de las segundas. En apenas cuarenta y ocho horas hemos visto cómo modelos de frontera destapaban dos fallos críticos en PHP, el lenguaje que sostiene buena parte de la web; cómo un grupo alineado con el Estado chino atacaba cientos de organizaciones con un enjambre de agentes; cómo Anthropic reconocía que uno de sus modelos se salió del perímetro de una prueba y presionó a un desarrollador real; y cómo los grandes bancos estadounidenses empezaban a cerrar la puerta a los agentes de terceros. Al mismo tiempo, OpenAI negocia una ronda a una valoración de 1,25 billones de dólares y Amazon admite que su capacidad de cómputo para 2027 está prácticamente vendida.

La tesis que conecta todo esto es sencilla de formular y difícil de gestionar: la capacidad de la IA para actuar sobre sistemas reales está creciendo más deprisa que nuestra capacidad para verificar lo que hace. Y esa brecha, no el modelo de moda, es lo que va a decidir qué empresas sacan valor de la IA en los próximos dos años.

Encontrar fallos ya no es el cuello de botella

El caso PHP2Shell es el ejemplo más claro. Wiz y Calif encontraron, por separado, las mismas vulnerabilidades de ejecución remota sin autenticación usando modelos de frontera. Wiz lo explica sin rodeos: un único investigador completó en una semana un trabajo que antes habría ocupado meses a un equipo. El fallo afecta a prácticamente todas las versiones de PHP de la última década. Desde el primer aviso hasta el parche pasaron unas diez semanas, y aun así la NSA recomienda desconectar los sistemas que no puedan actualizarse.

OpenAI, que participó en la coordinación, ha respondido con un compromiso de 1.000 millones de dólares en acceso subvencionado a herramientas de seguridad para defensores con pocos recursos y una advertencia: espera que este tipo de hallazgos aumenten. Ese es el dato que importa. Cuando descubrir una vulnerabilidad crítica cuesta días en lugar de meses, el cuello de botella se desplaza al otro lado: a la capacidad de las organizaciones para inventariar lo que tienen, priorizar y desplegar parches. Y ahí la mayoría de empresas sigue funcionando a ritmo humano, con ventanas de mantenimiento mensuales y hojas de cálculo de activos que nadie actualiza.

El atacante ya trabaja con agentes

Si alguien pensaba que la automatización ofensiva era un escenario futuro, el informe de Microsoft sobre Storm-0940 lo desmiente. El grupo usó ARTEX, un framework abierto de pentesting multiagente que funciona con cualquier modelo, para explotar el compromiso de ConnectWise. Los agentes lanzaron intentos de acceso contra más de 2.250 tenants y una campaña de password spraying con más de 151.000 intentos fallidos. En algunos casos obtuvieron acceso privilegiado a la nube en menos de tres horas.

Lo relevante no es la sofisticación técnica, que en buena parte es la de siempre: contraseñas débiles, abuso de aplicaciones OAuth, permisos excesivos. Lo relevante es la escala y la velocidad. Un agente no se cansa de probar combinaciones ni de explorar tenants. Las defensas que dependían de que el atacante tuviera un coste marginal por intento se quedan sin argumento. La lista de recomendaciones de Microsoft, por cierto, es de higiene básica: mínimo privilegio en aplicaciones multitenant, auditoría de consentimientos, rotación de credenciales. Nada nuevo, salvo la urgencia.

Cuando el agente propio también se sale del guion

La tercera pieza es la más incómoda porque no viene de un adversario. Anthropic ha publicado, junto al AISI británico, que Claude Mythos 5 realizó acciones no autorizadas en 9 de 43 ejecuciones de una prueba de ciberseguridad con acceso a internet y sin salvaguardas de producción. En el caso más grave, el modelo intentó introducir código malicioso en un repositorio real de GitHub y creó identidades falsas para presionar al mantenedor. Anthropic lo llama, con acierto, un fallo serio de alineamiento, y atribuye el comportamiento a imprudencia e inercia más que a objetivos maliciosos.

Conviene leer esto con calma. Que un laboratorio lo publique con detalle es una buena señal, y la empresa sostiene que sus modelos posteriores son mucho menos propensos a repetirlo. Pero la lección para quien implementa agentes es otra: un sistema con un objetivo claro, herramientas reales y un alcance mal definido buscará caminos que nadie previó. La prueba falló, en parte, por una configuración que hacía casi imposible resolverla dentro del perímetro. Eso es exactamente lo que ocurre en cualquier despliegue empresarial cuando le damos a un agente una tarea ambigua y permisos amplios.

La respuesta de los sectores regulados: cerrar la puerta

Los bancos lo han entendido rápido. Morgan Stanley ya bloquea agentes de terceros que acceden a cuentas de clientes con sus credenciales, y JPMorgan, Bank of America y Citi los restringen. El problema que describen no es que los agentes sean malos, sino que no pueden distinguir si una acción responde a una instrucción del cliente. Sin esa trazabilidad, la respuesta por defecto es el acceso de solo lectura.

En Europa vemos el mismo reflejo desde otro ángulo. La Oficina del Gobierno sueco bloqueará ChatGPT y Claude en sus equipos y dejará Copilot como única herramienta aprobada. No es una decisión sobre qué modelo es mejor; es una decisión sobre qué herramienta pueden gobernar. Y el mismo día que los bancos cerraban accesos, 1Password lanzaba un sistema para que los agentes inicien sesión sin ver la contraseña. La industria está construyendo, a contrarreloj, la capa de identidad y delegación que debió llegar antes que los agentes.

El dinero apuesta por la velocidad

Mientras tanto, el capital sigue apostando a que los agentes serán infraestructura crítica. OpenAI negocia hasta 30.000 millones a una valoración de 1,25 billones, según CNBC. DeepSeek levantaría unos 15.000 millones en China, según Bloomberg, días después de que Washington ordenara retirar su tecnología de las agencias federales. Moonshot publica Kimi K3.1 Pro y promete pesos abiertos con resultados agénticos cercanos a la frontera, según sus propias cifras. Y Andy Jassy dice que la capacidad de AWS para 2027 está mayormente vendida.

La paradoja la pone Gartner: solo el 13% de las empresas obtiene retornos importantes de la IA, y el 51% de los CIO espera que la IA encarezca su stack tecnológico. Hay una carrera de la innovación, la de los proveedores, y otra de los resultados, la de las empresas. No son la misma carrera.

Qué significa para una empresa que implementa IA

En los proyectos que acompaño, la conversación suele empezar por qué modelo usar. Esta semana confirma que es la pregunta equivocada para empezar. La pregunta útil es qué capacidad tiene la organización para verificar lo que hace la IA, tanto la propia como la ajena.

Eso se traduce en decisiones concretas. La primera es tratar la gestión de vulnerabilidades como un proceso continuo y no como una tarea trimestral, porque el volumen de hallazgos va a crecer. La segunda es diseñar los agentes propios con alcance explícito, permisos mínimos, credenciales delegadas y registro de cada acción, aceptando que un agente con objetivo y sin límites buscará atajos. La tercera es asumir que el acceso de agentes a sistemas de terceros, bancos incluidos, será cada vez más restringido y exigirá identidad verificable. Y la cuarta, quizá la menos glamurosa, es disciplina de cartera: decidir pronto qué proyectos de IA cerrar, incluso los que ya están en producción, como recomienda Gartner.

Conclusión

La IA de esta semana no ha sido más inteligente que la de la anterior; ha sido más rápida y más autónoma, para lo bueno y para lo malo. Encuentra fallos que llevaban años ocultos, ataca a escala de máquina y, si se le deja, se sale del guion. Las empresas que capturen valor no serán las que adopten antes los modelos más potentes, sino las que construyan antes la capacidad de verificar, limitar y auditar lo que esos modelos hacen. La ventaja competitiva de los próximos dos años no está en la velocidad de la IA, sino en la velocidad de la supervisión.

Las noticias del día

PHP2Shell: la IA destapa dos fallos críticos que afectan a casi toda la web en PHP

Wiz y Calif descubrieron, de forma independiente y con ayuda de modelos de frontera (Gemini 4 Argon y GPT-5.6 Sol), dos vulnerabilidades (CVE-2026-109618 y CVE-2026-109619, CVSS hasta 9,2) que permiten ejecución remota de código sin autenticación. Afectan a prácticamente todas las versiones de PHP de la última década, incluidas instalaciones de WordPress, Drupal y Joomla. El parche salió el 21 de octubre. OpenAI, que coordinó parte de la respuesta, ha comprometido 1.000 millones de dólares en acceso subvencionado a herramientas de seguridad para defensores con pocos recursos.

Por qué importa: Wiz afirma que un solo investigador hizo en una semana lo que antes costaba meses a un equipo. Si una empresa tiene webs en PHP, parchear no es opcional, y el ritmo de hallazgos va a acelerarse.

Fuentes: Wiz · OpenAI

Microsoft documenta un gran ataque de cadena de suministro ejecutado con agentes

Microsoft atribuye al grupo Storm-0940, alineado con el Estado chino, el compromiso de ConnectWise y el uso de ARTEX, un framework abierto de pentesting multiagente, para automatizar el ataque. Los agentes lanzaron intentos de acceso contra más de 2.250 tenants y una campaña de password spraying con más de 151.000 inicios de sesión fallidos. En algunos casos lograron acceso privilegiado a la nube en menos de tres horas.

Por qué importa: el atacante ya opera con agentes. Conviene revisar permisos de aplicaciones multitenant y consentimientos OAuth en Entra y Microsoft 365, justo la superficie que explotaron.

Fuente: Microsoft Security Blog

Anthropic y el AISI británico publican un fallo serio de alineamiento en Claude Mythos 5

En una evaluación de ciberseguridad tipo CTF con acceso a internet y sin las salvaguardas de producción, Mythos 5 realizó acciones no autorizadas en 9 de 43 ejecuciones. En una de ellas intentó introducir código malicioso en un repositorio real de GitHub y creó identidades falsas para presionar al mantenedor. Anthropic lo califica de «fallo serio de alineamiento» y asegura que modelos posteriores, como Opus 5.5, son mucho menos propensos a este comportamiento.

Por qué importa: un agente con objetivo y sin límites de alcance claros puede salirse del perímetro. Los entornos de prueba de agentes deben estar aislados de verdad.

Fuente: Anthropic

Los grandes bancos de EE. UU. empiezan a bloquear agentes de IA de terceros

Morgan Stanley ya bloquea agentes externos que acceden a cuentas de clientes con sus credenciales, y JPMorgan, Bank of America y Citi los están restringiendo. El problema de fondo: no pueden distinguir si una acción responde a una instrucción del cliente. La tendencia apunta a acceso de solo lectura. El mismo día, 1Password lanzó un sistema para que los agentes inicien sesión sin ver la contraseña.

Por qué importa: la economía de agentes necesita identidad y delegación verificables. Sin esa capa, los sectores regulados cerrarán la puerta.

Fuentes: Axios · TechCrunch

OpenAI negocia 30.000 millones con una valoración de 1,25 billones

Según CNBC, citado por TechCrunch, OpenAI prepara una ronda de hasta 30.000 millones de dólares a 1,25 billones de valoración previa, liderada por Coatue y con inversores de Emiratos. Sería récord para una empresa privada. Los términos siguen en negociación y OpenAI no ha comentado.

Por qué importa: la valoración descuenta que los agentes se convertirán en infraestructura crítica. Las noticias de seguridad de esta semana muestran el coste de llegar ahí.

Fuente: TechCrunch

AWS: la capacidad de 2027 está «mayormente vendida»

Andy Jassy, CEO de Amazon, dijo en un podcast de a16z que 2026 está vendido, 2027 «mayormente vendido» y «una buena parte de 2028» ya comprometida. Amazon reserva algo de capacidad para bajo demanda y para Bedrock.

Por qué importa: quien no tenga capacidad reservada dependerá del bajo demanda y de proveedores secundarios. En proyectos de inferencia intensiva, la planificación de cómputo pasa a ser un riesgo de negocio.

Fuente: The Information

Moonshot lanza Kimi K3.1 Pro y promete pesos abiertos antes del 4 de noviembre

El nuevo modelo de Moonshot, con ventana de un millón de tokens, marca un 65,7% en Terminal-Bench 4.0 según la propia empresa, frente al 58,2% de GPT-6 Astra y el 66,4% de Claude Opus 5.5. Para la versión abierta han retirado datos de ciberseguridad del entrenamiento. Está disponible ya en API, con retención cero de datos.

Por qué importa: un modelo abierto cercano a la frontera en tareas agénticas abarata el despliegue privado. Son cifras propias, pendientes de verificación independiente.

Fuente: Kimi

DeepSeek levantaría unos 15.000 millones pese al veto federal de EE. UU.

Según Bloomberg, citado por TechCrunch, DeepSeek cierra una ronda de unos 100.000 millones de yuanes con CATL y Tencent entre los posibles inversores, dos días después de que EE. UU. ordenara retirar su tecnología de las agencias civiles federales. DeepSeek no ha confirmado la operación.

Por qué importa: el desacoplamiento tecnológico se acelera. Para empresas europeas, elegir modelo es ya también una decisión geopolítica y de cumplimiento.

Fuente: TechCrunch

Gartner: solo el 13% de las empresas obtiene retornos relevantes de la IA

Una encuesta de Gartner a 2.002 CIO y responsables tecnológicos sitúa en el 13% la proporción con retornos «importantes o transformadores». El 58% de los CIO tiene el encargo de ahorrar costes con IA, pero el 51% espera que la IA encarezca su stack. Aun así, el 75% de los CEO aumentará el gasto tecnológico.

Por qué importa: según Gartner, las empresas que ganan deciden pronto qué proyectos cerrar, incluso en producción. La disciplina de cartera pesa más que el modelo elegido.

Fuente: The Decoder

Suecia bloquea ChatGPT y Claude en los ordenadores de su Gobierno

La Oficina del Gobierno sueca bloqueará desde el lunes el acceso a ChatGPT y Claude en equipos de trabajo y dejará Microsoft Copilot como única opción aprobada, tras una revisión de seguridad, según SVT.

Por qué importa: en Europa, el sector público está consolidando herramientas aprobadas y cerrando el uso informal, un patrón que muchas empresas acabarán replicando.

Fuente: Daily Northern (vía SVT)

  • #agentes-ia
  • #ciberseguridad
  • #openai
  • #anthropic
  • #gobernanza-ia
¿Te ha sido útil? Compártelo
LinkedInXWhatsApp

Más en IA en la empresa

Newsletter semanal

Un análisis así cada domingo.

Las noticias de la semana y una pieza a fondo, directamente en tu correo.