¿Qué vas a delegar cuando la IA pueda actuar sin que una persona dirija cada paso?
Hugging Face: qué ocurrió y por qué debería interesarte
OpenAI estaba realizando evaluaciones de ciberseguridad. Miles de agentes de IA recibían problemas que debían intentar resolver utilizando distintas herramientas.
Algunas pruebas no podían completarse por el camino previsto. Entonces ocurrió algo llamativo: varios agentes buscaron otras vías autónomamente, sin que una persona dirigiera cada paso.
Descubrieron una vulnerabilidad en Artifactory, una herramienta utilizada en el entorno de evaluación, y consiguieron acceso a Internet. También utilizaron esa infraestructura compartida para intercambiar información. La actividad llegó a involucrar a unos 1.200 agentes y más de 70.000 mensajes, y parte de ella terminó comprometiendo infraestructura de Hugging Face, la principal plataforma abierta para compartir, probar y desarrollar modelos, herramientas y aplicaciones de inteligencia artificial.
El contexto importa. Eran modelos preparados específicamente para evaluaciones ofensivas de ciberseguridad y algunas protecciones habituales estaban desactivadas.
Por tanto, sería exagerado concluir que la IA decidió espontáneamente atacar una empresa. Pero sería un error empresarial ignorar lo que sí ocurrió: los agentes recibieron un objetivo, encontraron obstáculos y construyeron autónomamente una secuencia de acciones que nadie había especificado paso a paso.
Para un directivo, ahí empieza la historia.
De ahorrar minutos a delegar trabajo
Hasta ahora, el valor empresarial de la IA se ha explicado principalmente en términos de productividad. Redactar antes un informe, analizar un contrato, resumir una reunión o preparar una propuesta.
Los agentes introducen una posibilidad diferente.
En lugar de pedir una tarea, puedes delegar un objetivo. El agente puede consultar información, utilizar aplicaciones, realizar varias acciones, comprobar resultados y buscar alternativas si encuentra un problema.
Eso cambia la unidad de medida.
Quizá dentro de poco importe menos preguntar cuánto tarda una persona en preparar un informe con IA y más preguntarse qué parte completa de un proceso puede ejecutar un trabajador digital con una intervención humana limitada.
Para un CFO, puede significar menos trabajo manual en cierres, conciliaciones o seguimiento de cobros. Para Compras, más proveedores analizados y menos horas revisando documentación. Para Operaciones, incidencias resueltas sin tantos traspasos entre equipos. Para Comercial, investigación, preparación y seguimiento de oportunidades realizados de forma continua.
Ahí aparece un valor empresarial mucho mayor: tiempo, coste, capacidad y velocidad de ejecución.
La autonomía también cambia el riesgo
Precisamente porque el valor puede ser mayor, el control también cambia.
Imagina un agente comercial encargado de conseguir más reuniones. Si solo prepara correos para que una persona los apruebe, el riesgo es limitado.
Pero supongamos que puede consultar el CRM, seleccionar contactos, escribirles, hacer seguimiento y reservar reuniones autónomamente.
El ahorro aumenta. También las preguntas.
¿A quién puede contactar? ¿Cuántas veces? ¿Qué datos puede utilizar? ¿Qué puede prometer? ¿Qué ocurre si encuentra una forma muy eficaz de conseguir reuniones que perjudica la reputación de la empresa?
En Compras ocurre lo mismo. Un agente puede analizar proveedores y encontrar mejores precios. Pero hay una enorme diferencia entre recomendar una compra y comprometer presupuesto.
Esta es una idea que cualquier directivo entiende: delegar trabajo exige delegar cierta capacidad de decisión.
Con los agentes sucede igual, con una diferencia importante. Pueden actuar muy deprisa, muchas veces y sin que una persona esté mirando cada movimiento.
Cinco decisiones que ya no corresponden solo a Tecnología
Por eso un Comité de Dirección debería empezar a discutir sobre agentes de IA aunque todavía no tenga previsto desplegarlos masivamente.
No hace falta entrar en modelos, parámetros o arquitectura. Hay cinco decisiones mucho más familiares.
- Qué trabajo queremos delegar. Conviene empezar por procesos repetitivos, costosos, con volumen suficiente y resultados fáciles de medir.
- Qué resultado esperamos. Reducir horas, acortar plazos, atender más clientes, disminuir errores o liberar capacidad del equipo.
- Qué autonomía concedemos. Consultar información no es lo mismo que enviar un correo, modificar un contrato, realizar un pago o comprometer dinero.
- Dónde exigimos intervención humana. Una operación rutinaria puede ejecutarse automáticamente. Una excepción importante puede requerir aprobación.
- Quién responde del resultado. Que el trabajo lo realice un agente no elimina la responsabilidad del área que lo utiliza.
Esto convierte la autonomía de la IA en una cuestión de organización empresarial.
El día después está llegando muy deprisa
El incidente ocurrió en julio. Desde entonces hemos seguido conociendo información que amplía la conversación.
OpenAI ha presentado GPT-6 Astra, con capacidades de ciberseguridad todavía mayores. La compañía ha explicado que, con las herramientas y accesos adecuados, puede localizar determinadas vulnerabilidades y construir procedimientos para explotarlas sin que una persona guíe cada paso.
También han salido a la luz otros episodios de agentes actuando de formas no previstas. Y alrededor de todo ello se ha abierto una discusión sobre si estamos ante avances extraordinarios, marketing tecnológico o señales de riesgos mucho mayores.
Todo ello en pleno proceso previo a la salida a Bolsa de Open AI, por cierto
Para una empresa, intentar resolver ahora esa discusión puede ser menos útil que hacerse otra pregunta:
¿qué capacidades que hoy parecen experimentales pueden convertirse pronto en herramientas empresariales?
Esperar tiene un coste. Una empresa necesita meses o años para rediseñar procesos, conectar sistemas, formar equipos, establecer controles y aprender dónde funciona realmente una tecnología.
Por eso experimentar pronto, en un entorno limitado, puede ser una ventaja.
El valor está en encontrar el proceso adecuado
Aquí aparece quizá la decisión más útil para un CEO.
No empezar preguntando: “¿Qué hacemos con los agentes de IA?”.
Empezar preguntando: “¿Qué proceso de mi empresa es demasiado lento, caro o manual y podría organizarse de otra manera?”
Puede ser preparar un cierre financiero. Revisar miles de documentos. Comparar proveedores. Gestionar determinadas incidencias. Preparar ofertas. Actualizar información entre sistemas.
Después se puede estudiar si un agente aporta algo, qué autonomía necesita y qué resultado económico produciría.
Un buen piloto debería permitir responder en pocas semanas preguntas muy empresariales: cuántas horas elimina, cuánto reduce el plazo, qué coste evita, qué errores introduce y cuánta supervisión humana sigue necesitando.
Entonces la conversación sobre IA cambia.
Ya no estamos hablando del futuro. Estamos comparando dos formas de hacer un trabajo.
El CEO debería mirar también la organización
Hay una segunda consecuencia.
Si los agentes llegan a realizar partes completas de procesos, su efecto puede superar la productividad individual.
Imagina un cierre financiero donde varios agentes revisan cuentas, investigan diferencias y preparan explicaciones. O Compras con agentes que buscan proveedores, comprueban documentación y comparan ofertas antes de que intervenga una persona.
Si esos modelos funcionan, algunas empresas podrán aumentar su capacidad sin aumentar proporcionalmente sus equipos, reducir tiempos de espera entre tareas y reorganizar determinadas funciones.
Por eso los agentes autónomos interesan a Personas tanto como a Tecnología.
¿Qué puestos cambiarán? ¿Qué trabajo seguirá necesitando criterio humano? ¿Qué capacidades necesitarán los equipos? ¿Cómo dirigimos una organización donde personas y trabajadores digitales comparten procesos?
Estas preguntas no necesitan respuesta mañana. Pero sí merecen entrar ya en la agenda.
Un disparo de advertencia y una oportunidad
El episodio de Hugging Face fue relatado con especial detalle por Dwarkesh Patel (pensador tecnológico, referente internacional en debates sobre inteligencia artificial) a partir de documentación posterior de OpenAI y de investigadores externos. La interpretación que incorporamos añade también la reflexión de Rodrigo Muñiz, CEO de Renascentia (especializada en construir la fuerza laboral digital de las empresas y asociada a la Fundación Empresa y Sociedad) sobre lo que estos hechos pueden significar dentro de una evolución mayor.
No sabemos si estamos ante la AGI. Tampoco estos incidentes demuestran que una IA tenga voluntad propia o que estemos perdiendo su control.
La señal empresarial es mucho más concreta: estamos pasando de una IA que ayuda a hacer tareas a sistemas capaces de ejecutar secuencias de trabajo con una autonomía creciente.
Eso abre dos conversaciones inseparables.
- La primera es cuánto valor podemos obtener.
- La segunda, cuánta autonomía estamos dispuestos a conceder.
Para un directivo, quizá haya una tercera todavía más interesante: ¿qué proceso de mi empresa debería probar ahora para entenderlo antes que mis competidores?
Si has pensado en un proyecto concreto, hablemos
Si al leer esto has identificado un proceso lento, manual, caro o lleno de traspasos entre personas, ahí puede haber un buen punto de partida.
La Fundación Empresa y Sociedad ayuda a directivos a conocer soluciones digitales ya aplicadas, comparar casos y explorar cómo trasladarlas a sus propios retos.
Podemos empezar por algo muy sencillo: identificar el proceso, conocer soluciones que ya existen y estudiar qué resultado tendría sentido medir.
Si tienes un proceso en mente, cuéntamelo. Podemos contrastarlo con otros casos y ver qué alternativas están apareciendo.
Fundación Empresa y Sociedad, la Innovación de la Innovación: descubre soluciones digitales para empresas que pueden ayudarte y que quizá todavía no conoces.