Saltar al contenido

Análisis · IA en la empresa

La IA entra en la fase de los permisos

El límite de la IA ya no es su capacidad, sino quién le deja actuar: bancos que bloquean agentes, leyes, inversores y energía marcan hoy el ritmo de adopción.

Rubén MoralRubén Moral · 11 min de lectura
LinkedInXWhatsApp
Índice 7 secciones
  1. 01Los agentes pueden mirar, pero no tocar
  2. 02Cuando el laboratorio escribe las reglas
  3. 03El dinero y la energía también dicen que no
  4. 04Dentro de las empresas, el permiso lo da la revisión humana
  5. 05Abrir los pesos no abre las puertas
  6. 06Qué hacer con esto
  7. 07Las noticias del día

Hay semanas en las que las noticias de inteligencia artificial parecen piezas sueltas: un banco que bloquea agentes, un laboratorio que redacta su propia ley, una neocloud a la que los inversores le recortan la valoración, unas centrales nucleares que vuelven a la vida. Esta es una de esas semanas, pero solo en apariencia. Si se leen juntas, todas cuentan lo mismo: la capacidad de los modelos ha dejado de ser el factor limitante. Lo que ahora frena o acelera la IA es una cadena de permisos. Permiso para actuar en sistemas ajenos, permiso regulatorio para desplegar, permiso financiero para construir y permiso energético para encender.

Los agentes pueden mirar, pero no tocar

La señal más clara llega del sector financiero. El consejero delegado de Charles Schwab, Rick Wurster, explicó que el banco bloquea cada semana decenas de intentos de agentes externos, Meta Muse entre ellos, de operar con el dinero de sus clientes. Jamie Dimon confirmó que JPMorgan hace lo mismo. Amazon ya había cerrado la puerta a Muse en su tienda en septiembre. La fórmula que se está imponiendo es reveladora: Schwab ofrece a los modelos externos acceso de solo lectura mediante servidores MCP, pero no les deja mover un euro.

No es tecnofobia. Es una cuestión de responsabilidad. Wurster lo resumió con una pregunta que cualquier director de riesgos entiende: si algo sale mal, ¿quién responde? En ausencia de una ley que reparta esa responsabilidad, cada empresa fija su propia norma, y la norma por defecto es la exclusión. El resultado es una web que se fragmenta en jardines con su propio agente de casa y una pasarela de lectura para los demás.

Para quien implementa IA en una empresa, esto tiene una consecuencia muy práctica. Durante dos años hemos diseñado casos de uso de agentes asumiendo que podrían interactuar con cualquier sistema que tuviera una interfaz. Esa premisa ya no se sostiene. Un agente que necesite escribir en el banco del cliente, en el marketplace del proveedor o en el ERP de un socio necesita antes un acuerdo, un registro de auditoría y, probablemente, una API oficial. La integración vuelve a ser un problema de negocio antes que de ingeniería.

Cuando el laboratorio escribe las reglas

La segunda capa es la regulatoria, y aquí la novedad es quién mueve ficha. Anthropic ha hecho llegar a congresistas un borrador de ley federal propio. Según el texto que publicó Politico, el Gobierno solo podría frenar un modelo ante un riesgo inminente de más de 1.000 millones de dólares en daños o más de 50 víctimas, y solo en tres supuestos: armas biológicas, ciberataques o modelos que escapan al control de su desarrollador. Evaluadores independientes registrados en el Departamento de Comercio auditarían a los laboratorios, con obligación de avisar en 72 horas. Suspender un modelo exigiría una orden judicial, y la norma desplazaría ciertas exigencias de los estados.

Se puede leer de dos maneras, y ambas son ciertas a la vez. Es un intento serio de dotar de mecanismos concretos a un debate que llevaba años en el terreno de las declaraciones. Y es también un marco de umbrales altos, con un único organismo competente y escaso margen para que otras agencias intervengan, escrito por una de las empresas reguladas. Que el texto proceda del laboratorio no lo invalida, pero obliga a leerlo con atención.

Para una empresa europea el interés es menos ideológico. El AI Act regula por niveles de riesgo según el uso; el borrador estadounidense regula por catástrofe potencial del modelo. Si algo parecido prospera, quien despliegue en ambos mercados tendrá dos lógicas de cumplimiento que no encajan entre sí. Conviene ir documentando ya los casos de uso con criterios que sirvan para las dos.

El dinero y la energía también dicen que no

La tercera capa es financiera. Nscale, la neocloud británica que aspiraba a salir a bolsa por unos 30.000 millones de dólares, se encuentra con inversores que piden entre 16.000 y 19.000 millones. Pesan la retirada de Microsoft de un acuerdo por retrasos en el suministro eléctrico y el fracaso de la salida a bolsa de la australiana Firmus. El mensaje del mercado no es que falte demanda de cómputo, sino que se ha empezado a descontar el riesgo de entregarlo a tiempo: energía, permisos de conexión, deuda.

Y eso nos lleva a la cuarta capa, la física. El Departamento de Energía de Estados Unidos prestará hasta 4.400 millones de dólares para reactivar tres centrales nucleares cerradas, 2,25 GW en total, con Microsoft y Google entre los compradores de esa energía. Los plazos son los que importan: marzo de 2027 para la primera, principios de 2029 para la última. Esa es la velocidad real a la que puede crecer la infraestructura, mucho más lenta que el ritmo de anuncios de modelos. Cuando un Estado financia directamente la energía para centros de datos, está reconociendo que el enchufe es ya un asunto de política industrial.

Dentro de las empresas, el permiso lo da la revisión humana

Hay un dato de la semana que conecta todo lo anterior con el día a día de cualquier organización. Anthropic ha publicado cómo está cambiando su propia plantilla: las horas de trabajo de agentes ya multiplican por seis las humanas, los commits por ingeniero se han quintuplicado en seis meses y la proporción de contrataciones junior en áreas técnicas ha caído del 27 % al 9 %. El dato más útil, sin embargo, es otro: alrededor del 80 % del tiempo de sesión interactiva se dedica a esperar a que una persona responda.

Es decir, incluso dentro de la empresa que mejor conoce sus propios modelos, el límite no es la capacidad del agente, sino la capacidad humana de revisar, aprobar y decidir. El permiso interno es el cuello de botella. Y la caída de la contratación junior plantea una pregunta que los planes de adopción suelen esquivar: si los agentes absorben las tareas con las que antes se aprendía el oficio, ¿cómo se forma a quienes tendrán que supervisarlos dentro de cinco años? El fondo de beneficio público que Anthropic anunció el mismo fin de semana, con el impacto laboral entre sus fines, sugiere que la propia compañía se toma en serio la pregunta.

Abrir los pesos no abre las puertas

Podría parecer que la ola de modelos abiertos de estos días contradice la tesis. Reflection ha liberado Beam con licencia Apache 2.0, Meta ha publicado Muse Spark Open y DeepSeek ha actualizado V4.1-Flash con licencia MIT. Hay más modelos capaces y más baratos de ejecutar que nunca, y la competencia ya se mide en tokens por tarea más que en precio por token. Pero eso refuerza el argumento: si el modelo es casi una materia prima, el valor se desplaza a quien controla el acceso a los sistemas, a la energía y a la confianza del usuario. Incluso la noticia de OpenAI, su confirmación de que construirá un robot humanoide, apunta hacia el mundo físico, donde los permisos son todavía más estrictos.

Qué hacer con esto

Mi lectura es que entramos en una fase menos espectacular y más exigente. Durante un tiempo la pregunta en los comités fue qué puede hacer la IA. Ahora la pregunta útil es qué nos van a dejar hacer, y en qué condiciones. Para las empresas que implementan IA eso se traduce en tres decisiones concretas, que conviene tomar ya. La primera, diseñar los agentes con el acceso de lectura como punto de partida y negociar la escritura sistema por sistema, con trazabilidad. La segunda, tratar la gobernanza y la documentación de casos de uso como un activo que servirá en varios marcos regulatorios a la vez. La tercera, medir el cuello de botella humano antes de comprar más automatización: si tu equipo ya no da abasto revisando, otro agente no resuelve el problema.

La capacidad ya está aquí. Lo que separará a las organizaciones que capturan valor de las que solo acumulan pilotos será su habilidad para conseguir, y merecer, los permisos.

Las noticias del día

Schwab y JPMorgan bloquean a los agentes de IA que intentan mover dinero de sus clientes

El consejero delegado de Charles Schwab, Rick Wurster, reconoció en Bloomberg TV que el banco bloquea cada semana «decenas» de intentos de agentes externos, Meta Muse entre ellos, de operar en cuentas de clientes. Schwab solo permite a modelos externos un acceso de lectura vía servidores MCP (saldos y análisis) y deriva a los clientes a su propio asistente. Jamie Dimon confirmó que JPMorgan también bloquea agentes externos. Se suma a Amazon, que veta a Muse en su tienda desde septiembre.

Por qué importa: el agente que «hace cosas por ti» choca con la responsabilidad legal. Sin marco federal sobre quién responde si un agente se equivoca, las empresas imponen su propia norma: los agentes pueden mirar, pero no actuar. Quien diseñe agentes para clientes debe asumir que el acceso de escritura habrá que negociarlo.

Fuente: Forkast · The Star

Anthropic presenta a congresistas su propio borrador de ley federal sobre IA de frontera

Según el borrador obtenido por Politico, el Gobierno solo podría frenar un modelo ante un riesgo inminente y previsible de más de 1.000 millones de dólares en daños o más de 50 muertos o heridos graves, limitado a armas biológicas, ciberataques o modelos que escapan al control del desarrollador. Evaluadores independientes registrados en el Departamento de Comercio auditarían a los laboratorios y deberían notificar riesgos en 72 horas. Suspender un modelo exigiría orden judicial, y la ley prevalecería sobre ciertas normas estatales.

Por qué importa: es la primera vez que un gran laboratorio pone sobre la mesa un texto legal concreto, con umbrales altos y un único organismo competente. Si prospera, el marco de EE. UU. divergirá aún más del enfoque por niveles de riesgo del AI Act europeo, y eso afecta a quien despliega en ambos mercados.

Fuente: Interesting Engineering · PYMNTS

Anthropic publica datos internos: las horas de agentes ya sextuplican las de sus empleados

El informe «How employment is changing at Anthropic» sitúa en agosto la proporción de horas de agentes frente a horas humanas en aproximadamente 6 a 1. Los commits por ingeniero se han multiplicado por cinco en seis meses, y la proporción de contrataciones junior en áreas técnicas cayó del 27 % al 9 %. Alrededor del 80 % del tiempo de sesión interactiva se va en esperar a que un humano responda.

Por qué importa: es el dato más honesto publicado hasta ahora sobre lo que pasa dentro de una organización que adopta agentes a fondo. El cuello de botella pasa a ser la revisión humana, y la entrada de perfiles junior se estrecha. Un plan de adopción serio debe incluir cómo se forma talento si desaparecen las tareas de aprendizaje.

Fuente: Anthropic

Los inversores piden rebajar casi a la mitad la valoración de Nscale en su salida a bolsa

La neocloud británica aspira a unos 30.000 millones de dólares, pero parte de sus inversores pide un rango de 16.000 a 19.000 millones, según Bloomberg. Pesan la retirada de Microsoft de un acuerdo de centro de datos por retrasos en el suministro eléctrico y el fracaso de la salida a bolsa de la australiana Firmus. Nscale sigue respondiendo a la SEC y no ha iniciado la comercialización.

Por qué importa: el mercado empieza a separar la demanda de cómputo, que sigue ahí, de la capacidad de entregarlo a tiempo. Para quien contrata capacidad a proveedores nuevos, el riesgo de ejecución (energía, plazos, deuda) es ya una variable de compra.

Fuente: PYMNTS, citando a Bloomberg

EE. UU. presta 4.400 millones para reabrir tres centrales nucleares que alimentarán la IA

El Departamento de Energía prestará hasta 4.400 millones de dólares para reactivar Palisades (Michigan), Crane/Three Mile Island (Pensilvania) y Duane Arnold (Iowa), 2,25 GW en total. Microsoft tiene un contrato de 20 años con Crane y Google colabora con NextEra en Duane Arnold. Palisades debe estar operativa en marzo de 2027 y Duane Arnold, a principios de 2029.

Por qué importa: la energía firme se ha convertido en el insumo escaso de la IA, y el Estado entra a financiarla. Los plazos (2027–2029) marcan el ritmo real al que puede crecer la capacidad, más que los anuncios de GPU.

Fuente: CKOM / Canadian Press

Semana de pesos abiertos: Reflection Beam, Meta Muse Spark Open y DeepSeek V4.1-Flash-1017

Reflection AI liberó Beam (501.000 millones de parámetros, 23.000 millones activos) con licencia Apache 2.0; según VentureBeat, logra en Terminal-Bench 2.1 resultados similares a los de GLM-5.2 con unos 25.000 tokens por intento frente a 80.000. Un día antes Meta publicó Muse Spark Open (816.000 millones de parámetros, 42.000 millones activos, licencia propia con cláusulas comerciales). DeepSeek actualizó V4.1-Flash con licencia MIT y contexto de 1 millón de tokens.

Por qué importa: la competencia en modelos abiertos se desplaza del precio por token a los tokens por tarea, que es lo que acaba pagando una empresa. La licencia vuelve a ser un criterio de selección: Apache 2.0 y MIT no equivalen a una licencia con cláusulas comerciales.

Fuente: VentureBeat · Hugging Face

Altman confirma que OpenAI construirá un robot humanoide, con demostración prevista para 2027

En el podcast Sources, Sam Altman dijo que OpenAI hará un humanoide y que lo importante es «el cerebro», no el diseño físico. Ante Fortune había situado una primera demostración en 2027. La compañía tiene 27 vacantes de robótica, incluidas de actuadores propios y cadena de suministro, pero no ha anunciado diseño, precio ni fechas.

Por qué importa: confirma que los grandes laboratorios ven la robótica como la siguiente salida para sus modelos. Para la industria es una señal a medio plazo, no un producto.

Fuente: Engadget

Anthropic reserva el 5 % de sus acciones para un fondo de beneficio público

La compañía creará el Anthropic Public Benefit Fund, una LLC con un 5 % inicial de sus acciones (sujeto a aprobación de los accionistas), ampliable en un 2 % por cada aumento del 50 % de la valoración sobre una base fijada. Sumando los compromisos de los cofundadores, cerca del 20 % del capital quedaría destinado a fines de interés público. Las acciones del fondo no podrán usarse para lobby ni donaciones políticas.

Por qué importa: entre los fines previstos está mitigar el impacto en el mercado laboral, el mismo que su propio informe interno documenta. Es un movimiento de gobernanza al que otros laboratorios tendrán que responder.

Fuente: Anthropic

  • #agentes-ia
  • #regulacion
  • #anthropic
  • #infraestructura-ia
  • #banca
¿Te ha sido útil? Compártelo
LinkedInXWhatsApp

Más en IA en la empresa

Newsletter semanal

Un análisis así cada domingo.

Las noticias de la semana y una pieza a fondo, directamente en tu correo.