De Aristóteles a Bacon, lo que le falta a la IA de tu empresa

---

1 de octubre | Por Juan Merodio

Hace unas semanas, en una sesión de trabajo con el comité de dirección de una empresa de distribución de Valencia que factura bastante más de lo que aparenta desde fuera, el director comercial me enseñó con un orgullo que se le notaba en la cara cómo su asistente de inteligencia artificial le preparaba cada lunes una batería de recomendaciones de precio para sus trescientos clientes principales, perfectamente redactadas, argumentadas con una lógica impecable y entregadas en un formato que ya quisieran muchas consultoras que cobran por horas.

Le pregunté cuántas de esas recomendaciones habían funcionado.

Se hizo un silencio incómodo en la sala, de esos que duran tres segundos y parecen un minuto, hasta que alguien de finanzas reconoció que nadie lo había mirado, porque las recomendaciones “sonaban muy bien” y se aplicaban tal cual, semana tras semana, sin que nadie cruzara después lo que se había decidido con lo que había pasado en la cuenta de resultados.

Esa empresa no tiene un problema de inteligencia artificial.

Tiene un problema de método. Y es exactamente el mismo que tienen la mayoría de las compañías con las que hablo, da igual que sean de trescientas personas o de doce.

Enrique Dans publicó hace poco un artículo que pone nombre a algo que llevo meses viendo en conferencias, en las sesiones con los miembros de TEKDI y en las conversaciones de mi podcast “Negocios en Crecimiento”, y que se resume en una frase que me parece brillante por lo sencilla que es: la industria de la inteligencia artificial ha construido máquinas esencialmente aristotélicas, cuando lo que necesitan las empresas es algo mucho más parecido a Francis Bacon.

Suena a clase de filosofía del instituto. No lo es.

Aristóteles nos dejó durante dos mil años la idea de que, si partes de premisas correctas y razonas bien, llegas a una conclusión inevitable, y ese es el famoso silogismo que todos estudiamos alguna vez: todos los humanos son mortales, Sócrates es humano, luego Sócrates es mortal. Un modelo de lenguaje funciona de una manera muy parecida, porque absorbe una cantidad descomunal de conocimiento humano, lo convierte en representaciones matemáticas y genera la continuación más coherente posible, con una capacidad para razonar, resumir, comparar y combinar ideas que a mí todavía hoy me sigue sorprendiendo cada vez que la pongo a prueba.

Pero aquí viene lo interesante: ese modelo nunca se entera de lo que pasa después de responder.

No comprueba si su recomendación funcionó, no revisa la campaña cuando fracasa, no vuelve a la política de precios cuando los clientes empiezan a irse. Da su respuesta, brillante y convincente, y se queda encerrado en la información que ya tenía, como un vendedor de enciclopedias que te deja la colección entera en el salón y jamás vuelve a llamar a tu puerta para saber si alguien en casa llegó a abrir un solo tomo.

 

Las alucinaciones no son un fallo, son el diseño

Esto tiene una consecuencia que a muchos directivos les cuesta digerir, y es que las famosas alucinaciones no son un defecto que se vaya a arreglar con la siguiente versión del modelo, sino una característica bastante lógica de una máquina que genera conclusiones plausibles a partir de premisas imperfectas sin ningún mecanismo estructural que le permita contrastarlas con la realidad. La propia OpenAI ha publicado investigaciones que relacionan las alucinaciones con la forma en que se entrenan estos sistemas, que acaban premiando lanzarse a adivinar antes que reconocer que no saben algo.

Punto.

Si lo piensas un momento, es exactamente lo que le pasaba al director comercial de Valencia, porque su asistente no mentía, simplemente producía argumentos preciosos sobre una realidad que nunca llegaba a ver.

 

Lo que Bacon aportó de verdad

A Francis Bacon se le suele recordar como el que dijo que había que observar, pero eso ya lo habían dicho otros antes. Lo que Bacon hizo, y aquí está la clave de todo el asunto, fue meter la observación dentro de una estructura de aprendizaje que se podía repetir una y otra vez: formulas una idea, la pruebas contra la realidad, miras qué ha pasado, corriges la hipótesis y vuelves a empezar.

Dans lo explica muy bien cuando dice que la Revolución Científica no llegó porque Bacon fuera más listo que Aristóteles, sino porque su método organizaba la inteligencia de una forma completamente distinta, que permitía exponer los errores, acumular resultados y construir conocimiento que pasaba de unas personas a otras y de una generación a la siguiente.

La innovación decisiva fue el bucle.

Y ahí es donde creo que media industria está mirando hacia el lado equivocado, porque seguimos obsesionados con qué modelo razona mejor, cuál escribe código más rápido, cuál tiene la ventana de contexto más grande o cuál saca mejor nota en el último ranking, y todo eso está muy bien, pero son mejoras de inteligencia individual, que es como seguir fabricando un Aristóteles cada vez más grande con la esperanza de que algún día, de tanto crecer, se convierta en Bacon.

No va a pasar.

 

Tu empresa no es una lista de preguntas sueltas

La mayoría de la IA generativa que se usa hoy en las empresas funciona en lo que los ingenieros llaman bucle abierto: haces una petición, recibes una respuesta y ahí se acaba la historia. Para escribir un correo, resumir un informe, traducir un contrato o sacar ideas para una campaña funciona de maravilla, y yo lo uso todos los días.

¿Sabes cuál es el error? Pensar que tu empresa es eso, una colección de peticiones aisladas.

Una empresa es un sistema de acciones y de consecuencias. Cuando un modelo te recomienda subir un precio, cambiar el argumentario de ventas, priorizar a un tipo de cliente o reorganizar un flujo de trabajo, la calidad de esa recomendación no se puede juzgar por lo bien que suena, sino por lo que pasa después: si mejoró la conversión, si aumentó la tasa de abandono de clientes, si subieron los márgenes, si se resintió la confianza de quienes te compran, o si le quitaste trabajo a un departamento a costa de cargar de forma insoportable a otro.

Dans lo dice con una frase que yo pegaría en la pared de cualquier sala de reuniones: cada acción que se toma en una empresa es un experimento, lo admitan o no sus directivos.

Lo que pasa es que casi nadie apunta los resultados.

 

El bucle como unidad de valor

Una IA corporativa de verdad, una que Dans llamaría baconiana, conecta acciones con resultados, resultados con objetivos y objetivos con el comportamiento futuro del sistema, de manera que no se limita a generar una recomendación, sino que observa qué consecuencias tuvo, toma nota y aprende de ellas para que la siguiente sea un poco mejor.

La unidad de valor deja de ser la respuesta. Pasa a ser el bucle.

Esto lo veo constantemente cuando un alumno de TEKDI me enseña su “estrategia de IA”, que casi siempre es una lista de herramientas y de prompts, y cuando le pregunto dónde guarda lo que ha aprendido de cada uso se queda mirándome como si le hubiera preguntado por el color de los calcetines de su contable.

 

Cuando pasas de la idea al código, se acaban las excusas

Hay una parte del artículo que me parece especialmente valiosa, porque Dans combina su mirada de profesor con su trabajo como director de innovación en una empresa de IA donde casi todo el equipo son desarrolladores, y eso le permite ver algo que desde la teoría pasa desapercibido: el código es mucho menos tolerante con la ambigüedad que la prosa.

En una presentación puedes decir “nuestra IA aprenderá de los resultados” y todo el mundo asiente. En el momento en que alguien tiene que programarlo, aparecen las preguntas incómodas: qué cuenta como observación, dónde se guarda, qué eventos importan, cómo se atribuye un resultado a una decisión que se tomó hace tres semanas, qué pasa cuando dos objetivos chocan entre sí. Y con la autonomía ocurre lo mismo, porque hay que decidir a qué datos accede el sistema, qué puede modificar, cuándo necesita la aprobación de una persona y quién responde si algo sale mal.

 

Optimizar, sí, pero ¿para qué?

Y luego está la trampa de la optimización, que es donde yo he visto tropezar a más empresas de las que me gustaría. Un servicio de atención al cliente optimizado para reducir el tiempo por reclamación puede aprender a cortar las conversaciones cuanto antes, un sistema de selección optimizado para la retención puede acabar eligiendo siempre a los más conformistas, y un sistema comercial optimizado solo para la conversión puede descubrir técnicas que venden muchísimo este trimestre y se cargan la confianza de tus clientes para los próximos cinco años.

Un bucle mal diseñado no solo se equivoca, sino que repite su error con una disciplina admirable.

Por eso Dans insiste en que esto no se puede separar del gobierno de la empresa, porque cada función de recompensa es una teoría codificada de lo que te importa, cada restricción es una decisión institucional y cada permiso es un reparto de autoridad. Marcos como el de gestión de riesgos de IA del NIST en Estados Unidos ya tratan ese gobierno como algo continuo, que conecta el diseño técnico con las políticas, los valores, las responsabilidades y los resultados medibles durante toda la vida del sistema.

Eso no lo decide el informático. Lo decide el comité de dirección.

 

El activo que de verdad vale dinero

Si tuviera que quedarme con una sola idea del artículo, sería esta: el modelo no debería ser el activo duradero de tu empresa, porque dentro de seis meses habrá otro mejor y más barato, y lo que sí debería serlo es el bucle de aprendizaje que construyes a su alrededor, esa arquitectura que coordina modelos, personas, datos, procesos, objetivos y retroalimentación para que la organización mejore en lo que quiere conseguir.

Es como tener el mejor mapa del mundo pintado a mano por un artista extraordinario y no haber mandado jamás a nadie a comprobar si los ríos pasan por donde él los dibujó.

El famoso artículo que dio origen a los transformers se titulaba “Attention is all you need”. Dans le da la vuelta con mucha gracia y propone otra cosa: “Feedback is all you need”.

Y cuidado, porque esto no significa tirar a la basura lo que ya tienes. Los modelos de lenguaje van a seguir siendo enormemente útiles para generar hipótesis, interpretar situaciones, proponer acciones y hacer accesibles sistemas complejos a través del lenguaje, pero deberían trabajar dentro de una arquitectura en la que el árbitro final sea la realidad y no la elocuencia.

Y esto aplica a cualquier empresa. Incluida la tuya.

 

Qué haría yo el lunes por la mañana

Mi recomendación, después de ver esto en decenas de empresas, es empezar pequeño y empezar por la medición, no por la herramienta. Coge un solo proceso en el que ya estés usando IA para decidir algo, sea un precio, un correo comercial o la priorización de clientes, y escribe en una hoja qué esperabas que pasara cuando lo pusiste en marcha, qué métrica lo demostraría y cada cuánto la vas a revisar. Con eso, que no cuesta un euro, ya has convertido una respuesta aislada en el primer esbozo de un bucle.

Después sienta en la misma mesa a quien usa la IA y a quien vive las consecuencias, porque casi siempre son personas distintas que no se hablan, y pregúntales qué resultado tendría que ver el sistema para aprender algo útil.

Y por último, decide por escrito qué no quieres que se optimice, porque lo que no pongas como límite el sistema lo tratará como terreno libre.

Así que elige. O sigues midiendo tu inteligencia artificial por lo bien que redacta y por las horas que te ahorra escribiendo correos, o empiezas a medirla por lo que aprende tu empresa cada vez que la usa.

La primera opción te da respuestas bonitas.

La segunda te da una empresa que mejora sola.

Compartir >>