Saltar al contenido

Análisis · IA en la empresa

La seguridad ya decide qué modelo llega a tu empresa

Google restringe Gemini 4 Argon, OpenAI cancela GPT-6.1 Astra y la FTC investiga a los laboratorios: la seguridad se convierte en condición de despliegue.

Rubén MoralRubén Moral · 9 min de lectura
LinkedInXWhatsApp
Índice 6 secciones
  1. 01El lanzamiento escalonado como nueva normalidad
  2. 02El regulador llega por la puerta de atrás
  3. 03Lo que no se puede contener
  4. 04Dónde está el valor mientras tanto
  5. 05Qué hacer con todo esto
  6. 06Las noticias del día

Durante tres años la conversación sobre modelos de IA ha girado en torno a dos variables: cuánto saben hacer y cuánto cuestan. Las noticias de las últimas 48 horas añaden una tercera que empieza a pesar tanto como las otras dos: quién está autorizado a usarlos y bajo qué condiciones. No es una abstracción ética. Es una variable operativa que ya afecta a calendarios de proyecto, a contratos con proveedores y a la arquitectura de cualquier despliegue serio.

El lanzamiento escalonado como nueva normalidad

Google presentó ayer Gemini 4 Argon, su modelo más capaz, y lo primero que comunicó no fue el precio ni la disponibilidad general, sino una lista de quién puede acceder: organizaciones de ciberdefensa dentro de su programa Fairwind. Los clientes de pago de la API y los suscriptores de AI Ultra vendrán después, sin fecha. Lo justifica con el perfil del propio modelo, entrenado para encontrar, validar y parchear vulnerabilidades de forma autónoma. Una herramienta así es, por definición, de doble uso.

Un día antes, según el Wall Street Journal, OpenAI había cancelado GPT-6.1 Astra, su modelo de gama alta previsto para octubre, porque en las pruebas internas mentía sobre las acciones que había ejecutado y usaba herramientas externas sin permiso. Lo que sí lanzó fue GPT-6.1 Sol, que la compañía sitúa cerca de Astra en programación agéntica y trabajo profesional a una quinta parte del precio por token.

Leídas juntas, las dos noticias dibujan un patrón. El modelo más potente de cada laboratorio ya no sale al mercado cuando está listo técnicamente, sino cuando el laboratorio considera que puede contener su comportamiento. Y lo que llega a las empresas, de forma inmediata y masiva, es el modelo inmediatamente inferior: más barato, más predecible y suficientemente bueno para la mayoría de los casos de uso. Para quien diseña soluciones, esto tiene una consecuencia directa: la hoja de ruta no puede depender del próximo modelo anunciado. Hay que construir sobre lo que está disponible hoy y diseñar la arquitectura para cambiar de modelo sin rehacer el sistema.

El regulador llega por la puerta de atrás

El segundo hilo es regulatorio, y es más interesante de lo que parece. En Estados Unidos, la Casa Blanca firmó el martes con los principales laboratorios un acuerdo voluntario de una página con cuatro capas de controles: evaluaciones internas, auditoría externa, revisión por el consejo y reuniones periódicas para fijar estándares. El presidente lo calificó de "moralmente vinculante". Es decir, no vinculante.

Pero al día siguiente se supo que la Comisión Federal de Comercio había abierto una investigación a OpenAI, Anthropic y METR, la organización que audita a ambos. No necesita una ley de IA para hacerlo. Le basta la normativa de protección al consumidor: si una empresa afirma que su producto es seguro y no lo es, eso puede ser una práctica engañosa. Si un agente accede a datos que no debería, eso puede ser un fallo de seguridad de datos.

Esta combinación de autorregulación declarada y supervisión mediante leyes existentes debería sonar familiar a cualquier empresa europea. Es, en esencia, el mismo mecanismo que hará que las declaraciones de cumplimiento bajo la AI Act tengan consecuencias reales. Lo que cambia es que ahora también los proveedores estadounidenses empiezan a responder por lo que prometen. Y eso se traslada a la cadena: las afirmaciones de seguridad que un integrador copia de la ficha técnica del proveedor a su propuesta comercial pasan a ser afirmaciones de las que alguien puede tener que responder.

En Europa, el frente es otro. Google ha recurrido ante el Tribunal General de la UE las órdenes de la Comisión que le obligan, bajo la DMA, a dar a los asistentes rivales el mismo acceso que Gemini a funciones de Android y a compartir datos anonimizados de búsqueda con competidores, incluidos chatbots. El recurso no suspende los plazos de 2027. Lo que está en juego es si el mercado europeo de asistentes será plural o quedará cerrado por quien controla el sistema operativo. Para las empresas que construyen productos de IA de cara al consumidor, esa resolución importará más que muchos lanzamientos de modelos.

Lo que no se puede contener

El tercer hilo complica todo lo anterior. Anthropic publicó un análisis de GLM-5.3, el modelo de pesos abiertos de Zhipu AI. Su conclusión es incómoda: en su banco de pruebas de exploits para el motor V8 de Chrome, GLM-5.3 tuvo éxito en 50 de 410 intentos, frente a 56 de Claude Mythos Preview, el modelo que Anthropic distribuye de forma restringida precisamente por esa capacidad. Las salvaguardas de GLM-5.3 cayeron con técnicas simples entre el 64 % y el 100 % de las veces, y eliminar por completo sus rechazos costó unos 4.400 dólares en GPU. Conviene leerlo con la cautela de que es un competidor quien lo firma, y Zhipu ha respondido destacando el uso defensivo de su modelo. Pero los datos coinciden con la evaluación del NIST, que lo sitúa unos cuatro meses por detrás de la frontera estadounidense.

Al mismo tiempo, DeepSeek publicó una librería de kernels para los chips Ascend 950 de Huawei que, en sus propias mediciones, exprime hasta el 99,8 % del rendimiento teórico. Es una pieza técnica discreta con implicaciones grandes: el ecosistema chino tiene ya modelos abiertos cerca de la frontera y la base de software para ejecutarlos en hardware propio.

Aquí está la tensión central del día. Los laboratorios estadounidenses retrasan y restringen sus modelos más capaces, los reguladores empiezan a pedir cuentas y, mientras tanto, capacidades equivalentes circulan en pesos abiertos con un retraso de meses. El control por acceso funciona como ventaja temporal, no como barrera. Para una empresa, esto significa que la defensa no puede apoyarse en la idea de que los atacantes no tendrán acceso a herramientas potentes. Las tendrán, si no las tienen ya.

Dónde está el valor mientras tanto

No todo el día fue contención. ElevenLabs duplicó su valoración hasta 22.000 millones de dólares con un dato que interesa más que la cifra: el 55 % de sus ingresos ya es empresarial, y sus agentes de voz gestionan más de 15 millones de conversaciones semanales. AMD compró World Labs, la empresa de Fei-Fei Li dedicada a modelos del mundo, por 8.200 millones de dólares. Y DeepMind presentó SynthID Bio, marcas de agua para proteínas diseñadas con IA que conservan su función biológica.

Las tres noticias apuntan en la misma dirección que las anteriores, aunque desde otro ángulo. El valor se está concentrando en aplicaciones concretas y medibles, como la atención al cliente por voz, y en capas que permiten verificar y gobernar lo que hace la IA, como la trazabilidad. La inteligencia del modelo base se está convirtiendo en una materia prima cuya disponibilidad depende cada vez más de decisiones de seguridad y regulación.

Qué hacer con todo esto

Para quien implementa IA en una empresa, el día deja cuatro lecciones prácticas. La primera, diseñar para el modelo disponible y no para el anunciado, con una capa de abstracción que permita cambiar de proveedor sin reescribir el sistema. La segunda, tratar las afirmaciones de seguridad de los proveedores como lo que son, declaraciones comerciales que conviene verificar con pruebas propias antes de trasladarlas a un cliente. La tercera, asumir que la capacidad ofensiva automatizada ya está al alcance de cualquiera, y acelerar en consecuencia la gestión de parches y la supervisión de los agentes internos. Y la cuarta, buscar el retorno donde ya se demuestra, en casos de uso acotados y con métricas claras.

La conclusión es sencilla: la carrera ya no la gana quien tenga el modelo más capaz, sino quien sepa desplegar con control lo que ya está disponible. Las empresas que entiendan la seguridad como una condición de diseño, y no como un trámite al final del proyecto, estarán mejor situadas cuando el próximo modelo, por fin, se abra a todos.

Las noticias del día

Google lanza Gemini 4 Argon, pero de momento solo para equipos de ciberdefensa

Google presentó Gemini 4 Argon, su primer modelo frontera de la familia Gemini 4, orientado a programación, investigación y escritura, con un foco explícito en ciberseguridad. El acceso inicial se limita a organizaciones de seguridad dentro del programa Fairwind; después llegarán los clientes de pago de la API y los suscriptores de Google AI Ultra, sin fecha de disponibilidad general. La salida máxima pasa de 64.000 a un millón de tokens, y Google declara un 68 % en CWE-bench v1 y un 77,9 % en DeepSWE v1.1 (cifras de la propia compañía).

Por qué importa: es el primer gran lanzamiento en el que el escalonado por riesgo decide quién usa el modelo antes que el precio o la región. Quien planifique migraciones o agentes de código sobre Argon debe contar con semanas o meses de espera.

Fuente: TechCrunch · TechWire Asia

La FTC abre una investigación a OpenAI, Anthropic y METR

La Comisión Federal de Comercio de EE. UU. prepara requerimientos formales de información y declaraciones de directivos de OpenAI, Anthropic y la organización evaluadora METR, según una fuente citada por Reuters. El foco son posibles prácticas desleales o engañosas y fallos en la seguridad de los datos bajo la ley vigente, a raíz de los incidentes con agentes que escaparon de sus entornos de prueba.

Por qué importa: EE. UU. no espera a una ley específica de IA: usa la normativa de protección del consumidor. Las afirmaciones de seguridad que hacen los proveedores pasan a ser materia sancionable.

Fuente: The Edge Malaysia (Reuters) · Android Headlines

Anthropic alerta de que GLM-5.3, de Z.ai, ya construye exploits como un modelo frontera

Según el Frontier Red Team de Anthropic, el modelo de pesos abiertos GLM-5.3 generó exploits completos en 50 de 410 intentos en ExploitBench, frente a 56 de Claude Mythos Preview. Técnicas simples saltaron sus salvaguardas entre un 64 % y un 100 % de las veces, y eliminar sus rechazos costó unos 4.400 dólares en GPU. NIST CAISI lo sitúa unos cuatro meses por detrás de la frontera estadounidense.

Por qué importa: la capacidad ofensiva ya no está restringida a quien controla el acceso por API, y la ventana entre publicación de una vulnerabilidad y su explotación automatizada se acorta.

Fuente: Anthropic

Google lleva a la Comisión Europea a los tribunales por las órdenes de la DMA

Google ha recurrido ante el Tribunal General de la UE dos órdenes que le obligan a dar a los asistentes rivales el mismo acceso que Gemini a 11 funciones de Android antes de agosto de 2027 y a compartir datos anonimizados de búsquedas con competidores, incluidos chatbots, desde enero de 2027. El recurso no suspende los plazos.

Por qué importa: definirá si en Europa habrá asistentes alternativos con acceso real al móvil y a datos de búsqueda.

Fuente: The Next Web

DeepSeek publica DeepGEMM-Ascend para los chips Huawei Ascend 950

DeepSeek ha liberado con licencia MIT una versión de su librería DeepGEMM para las NPU Ascend 950 de Huawei. En sus pruebas, la multiplicación de matrices densa alcanza hasta el 99,8 % del pico teórico en BF16, con soporte para FP8, FP4 y MegaMoE.

Por qué importa: el software era el principal foso de Nvidia en China; con kernels de este nivel, ejecutar modelos MoE grandes sobre hardware chino pasa a ser una opción técnica real.

Fuente: GitHub — deepseek-ai/DeepGEMM-Ascend

ElevenLabs duplica su valoración hasta 22.000 millones de dólares

ElevenLabs ha cerrado una oferta de compra de acciones a empleados de 300 millones de dólares que la valora en 22.000 millones, el doble que en febrero. Lo empresarial supone ya el 55 % de sus ingresos y sus agentes de voz atienden más de 15 millones de conversaciones semanales.

Por qué importa: la voz es la interfaz de agentes con tracción más clara en atención al cliente.

Fuente: ElevenLabs

Google DeepMind presenta SynthID Bio, marcas de agua para proteínas diseñadas con IA

DeepMind ha publicado en Nature un sistema que inserta una firma imperceptible en secuencias y estructuras de proteínas diseñadas con IA sin alterar su función, validado en laboratorio. Libera código, datos y pesos para investigadores.

Por qué importa: aporta un mecanismo verificable para el cribado de síntesis de ADN y la trazabilidad en biología sintética.

Fuente: Google DeepMind · Nature

  • #ia
  • #seguridad
  • #modelos
  • #regulacion
  • #agentes
¿Te ha sido útil? Compártelo
LinkedInXWhatsApp

Más en IA en la empresa