Entre la carrera y la novela policíaca
Acelerar o frenar la IA
Acelerar o frenar la IA se ha convertido en uno de los debates tecnológicos del momento. Y seguramente llegará, si no lo ha hecho ya, a tu Comité de Dirección.
En un extremo están quienes advierten de que estamos construyendo sistemas cada vez más capaces sin conocer suficientemente algunos de sus riesgos.
En el otro, quienes consideran que ralentizar su desarrollo retrasaría avances científicos, productividad y oportunidades económicas. Además, nadie quiere frenar mientras sus competidores siguen corriendo.
El debate ha dejado de ser académico. Directivos tecnológicos, investigadores, gobiernos y organismos internacionales discuten sobre velocidad, seguridad y capacidad de control.
Mientras tanto, un CEO, un CFO o un director de Operaciones tiene problemas bastante más inmediatos: cuánto invertir, dónde aplicar IA, qué resultados exigir y qué riesgos aceptar.
Y algunas noticias recientes no facilitan precisamente la decisión.
Cuando los agentes empiezan a dejarse recados
En los últimos meses se han documentado comportamientos de agentes de IA que merecen atención.
Reuters ha informado de agentes que utilizaron distintos sitios web para establecer comunicaciones no autorizadas. OpenAI ha divulgado también incidentes en los que sus sistemas ocultaron errores, intentaron sortear restricciones o dejaron instrucciones destinadas a otras ejecuciones de agentes.
Otros experimentos han observado agentes desarrollando formas de comunicación difíciles de interpretar. Y trabajos académicos estudian incluso si dos agentes podrían mantener conversaciones ocultas dentro de intercambios aparentemente normales.
Los hechos son suficientemente interesantes. Después llegan las interpretaciones.
Y ahí tenemos todo tipo de hipótesis circulando, cada cual más intrépida.
Por ejemplo, que ejércitos de agentes podrían recorrer sigilosamente internet, dejando instrucciones para otros agentes, eludiendo controles y construyendo una red paralela hasta colonizarlo todo.
Pura novela policíaca. De momento.
Hay riesgos que conviene estudiar muy seriamente. Pero entre ignorarlos e imaginar una conspiración digital planetaria queda un espacio considerable para el criterio.
Y el criterio es precisamente lo que necesita ahora un directivo.
Acelerar: la presión de no quedarse atrás
El argumento de quienes quieren seguir corriendo resulta fácil de reconocer desde una empresa.
Tu competidor automatiza atención al cliente. Otro utiliza IA en compras. Alguien enseña una herramienta que prepara propuestas comerciales en minutos. Y el Comité pregunta inevitablemente: ¿nos estamos quedando atrás?
La presión tiene fundamento.
El Foro Económico Mundial sitúa a los especialistas en IA y aprendizaje automático entre las profesiones con mayor crecimiento previsto hasta 2030. El 86% de los empleadores encuestados esperaba que la IA y las tecnologías de procesamiento de información transformaran su negocio.
Frenar también cuesta.
Pero correr puede llevar a otro problema: comprar tecnología antes de saber qué problema queremos resolver.
Y eso suele acabar en una colección de licencias, pilotos y presentaciones con muchas flechas. Resultados, ya veremos.
Frenar: ganar tiempo también tiene valor
La posición contraria plantea que estamos aumentando las capacidades antes de dominar suficientemente lo construido.
Las preocupaciones incluyen ciberseguridad, errores, privacidad, autonomía de los sistemas y capacidad real de supervisión.
Para un directivo, el asunto se vuelve bastante concreto.
No necesita el mismo control una IA que resume una reunión que otra que recomienda conceder crédito, selecciona candidatos, negocia con proveedores o ejecuta operaciones sin autorización previa.
Cuanto mayor sea el coste potencial de un error, mayor debería ser el control.
Una ralentización permitiría mejorar seguridad, regulación y fiabilidad. También daría más tiempo para formar a las personas.
El inconveniente es evidente: puede retrasar innovaciones que sí generan valor.
La tercera vía: menos carrera tecnológica, más carrera empresarial
Aquí aparece una alternativa que me parece especialmente interesante.
No consiste en situarse prudentemente en medio. Consiste en separar dos carreras que estamos mezclando.
Una es la carrera tecnológica por construir modelos cada vez más potentes y autónomos.
Otra muy distinta es la carrera empresarial por conseguir resultados con los modelos que ya existen.
Podemos ralentizar la primera y acelerar la segunda.
Para un Comité de Dirección, eso se puede traducir en cinco decisiones bastante concretas:
- Elegir problemas, no herramientas. Seleccionar unos pocos procesos donde exista un coste, retraso, error o oportunidad claramente identificable.
- Medir antes y después. Tiempo, coste, ventas, productividad, calidad y errores. Incluyendo las horas humanas necesarias para revisar el trabajo de la IA.
- Formar antes de sustituir. Comprobar primero cuánto mejora un profesional cuando trabaja con IA antes de concluir que la mejor solución consiste en eliminar su puesto.
- Graduar el riesgo. Dar autonomía en tareas de bajo impacto y exigir supervisión humana cuando una decisión pueda afectar seriamente a clientes, empleados, dinero o reputación.
- Escalar solo lo que funciona. Un piloto interesante no es todavía un caso de negocio. Cuando aparecen resultados repetibles, entonces sí tiene sentido invertir y extenderlo.
Esto tiene poco de futurista.
Y mucho de gestión.
Mario Garcés: comprobar antes de aumentar la apuesta
Esta posición se acerca a la planteada por Mario Garcés, fundador de The Mindkind y speaker en nuestro último evento anual de la Fundación Empresa y Sociedad.
Mario añade dos cuestiones que un Comité debería escuchar con atención: los límites económicos y tecnológicos.
Las grandes tecnológicas han comprometido enormes inversiones en chips, centros de datos, energía e infraestructuras. Tendrán que generar retornos.
Mario plantea incluso si detrás de algunas llamadas a la prudencia podría existir preocupación por cumplir las expectativas creadas ante los inversores.
Una ralentización permitiría comprobar si las cuentas cuadran. También ofrecería tiempo para investigar otras arquitecturas si los sistemas actuales encuentran límites que no se resuelven simplemente añadiendo dinero, datos y capacidad de computación.
La pregunta para un CFO resulta casi inevitable: si quienes fabrican esta tecnología todavía están comprobando su economía, ¿qué rentabilidad deberíamos exigir nosotros antes de seguir invirtiendo?
Tenemos IA para rato aunque mañana no aparezca otra mejor
En 2025, solo el 20,2% de las empresas de los países de la OCDE con datos disponibles utilizaba IA. Entre las grandes compañías, el porcentaje alcanzaba el 52%.
Aunque mañana no apareciera ningún modelo nuevo, nos quedaría trabajo para rato.
El estudio de Erik Brynjolfsson, Danielle Li y Lindsey Raymond sobre 5.172 agentes de atención al cliente encontró un aumento aproximado del 15% en asuntos resueltos por hora con asistencia de IA. El efecto fue especialmente favorable entre trabajadores menos experimentados.
Una eventual ralentización tecnológica podría incluso convertirse en una etapa de experimentación empresarial acelerada.
El método no tiene demasiado misterio: elegir un proceso, conocer su coste actual, aplicar IA, medir, identificar errores, incorporar supervisión humana y volver a medir.
Menos demostraciones espectaculares. Más resultados.
Y una sexta decisión para el Comité
Añadiría una sexta decisión a las cinco anteriores.
Que la IA no desplace el compromiso social de las empresas.
La IA está ganando minutos en todos los Comités de Dirección. Productividad, empleo, inversiones, clientes, riesgos. Es lógico.
Pero cada minuto nuevo en una agenda desplaza potencialmente otro.
Sería paradójico que una tecnología capaz de ayudarnos a resolver problemas terminara expulsando de la conversación algunos problemas que merecen ser resueltos.
¿Por qué no utilizar también IA para mejorar empleabilidad, formación o accesibilidad? ¿Para encontrar nuevos proveedores sociales? ¿Para identificar oportunidades laborales para personas con dificultades? ¿Para hacer más eficientes los programas sociales de una compañía?
La conversación sobre IA podría entonces dejar de competir con el compromiso social y empezar a trabajar para él.
Qué significa para ti y para tu empresa
Los tres caminos tienen consecuencias.
Acelerar puede darte antes ventajas y nuevas oportunidades, pero aumenta la presión inversora y obliga a gestionar cambios y riesgos continuamente.
Frenar intensamente proporciona tiempo para aprender y controlar, pero puede hacerte perder innovaciones que ya generan resultados.
La tercera vía, por la que me inclino, significa prudencia ante la carrera tecnológica y ambición dentro de la empresa.
Para tu organización: seleccionar problemas, probar, medir, formar, controlar y escalar.
Para tus profesionales: conocimiento de su oficio + capacidad para utilizar IA + criterio propio.
Y para el Comité: decidir dónde la IA aconseja, dónde ejecuta y dónde debe seguir mandando una persona.
Apasionante tarea tienen los Comités de Dirección por delante. También nosotros mismos y los grandes gurús tecnológicos.
Entre salvar el mundo, colonizar internet y conseguir que el cierre mensual termine un día antes, probablemente haya espacio para utilizar un poco de criterio.
Si has pensado en un proyecto concreto, hablemos
Mientras el debate público decide si debemos acelerar, frenar o vigilar a los agentes que se dejan recados por internet, quizá en tu empresa haya una pregunta más inmediata: ¿dónde podríamos obtener ya un resultado concreto con la IA disponible?
La Fundación Empresa y Sociedad ayuda a directivos a conocer soluciones digitales ya aplicadas, comparar casos y explorar cómo trasladarlas a sus propios retos.
Si has reconocido un proceso, una decisión pendiente en tu Comité o una oportunidad para aplicar IA también al compromiso social de tu empresa, cuéntamelo. Podemos contrastarlo personalmente y conocer cómo lo están abordando otros.
Fundación Empresa y Sociedad, la Innovación de la Innovación: descubre soluciones digitales para empresas que pueden ayudarte y que quizá todavía no conoces.