¿Por qué estamos dejando que la IA piense por nosotros?

---

10 de junio | Por Juan Merodio

El otro día, al acabar una conferencia en Madrid, me quedé hablando con un directivo de una empresa mediana. Llevaba tres años usando ChatGPT a diario. Me contó que ya no redactaba casi nada por sí solo, que usaba la IA para analizar propuestas, para estructurar reuniones, para tomar decisiones sobre proyectos. «Me ha cambiado la vida», me dijo.

Le pregunté: «¿Y la última vez que te equivocaste, fue porque la IA te dio información incorrecta o porque tú no la cuestionaste?»

Se quedó callado tres segundos que me parecieron diez.

Ahí está el problema. Y no es el problema que la mayoría de la gente cree.

La IA no te va a dejar tonto. Pero tú sí puedes conseguirlo

 

No es que la IA falle. Es que tú le crees demasiado

Hay un estudio reciente, publicado como working paper en SSRN, con más de mil participantes y un resultado que debería hacernos pensar. Cuando una inteligencia artificial da una respuesta incorrecta, los usuarios la aceptan en más del 70% de los casos. Pero lo verdaderamente llamativo no es la cifra. Es que esos mismos usuarios se equivocaban con más confianza que antes. Lo decían más seguros de sí mismos. Más convencidos.

No es un fallo de la tecnología. Es un fallo de actitud.

Los investigadores lo llaman cognitive surrender, rendición cognitiva. Y el término no es una exageración académica. Es exactamente lo que describe: dejamos de pensar porque la máquina ya lo ha hecho, y encima lo ha hecho con un lenguaje tan fluido, tan bien construido, tan aparentemente razonado, que resulta casi incómodo cuestionarlo.

Esto lo veo constantemente en TEKDI. Alumnos que llegan con una respuesta de ChatGPT impresa —o en el móvil— y me la enseñan como si fuera un documento notarial. «¿Ves? Lo dice aquí.» Y cuando les pregunto si lo han contrastado, si han pensado si tiene sentido para su contexto concreto, la mayoría responde que no. Que para eso está la IA.

 

El oráculo que nunca duda

La inteligencia artificial tiene una característica que ningún humano tiene: nunca titubea. No dice «no sé», no dice «esto me genera dudas», no dice «quizás me esté equivocando». Responde con la misma fluidez si tiene razón que si está fabricando una mentira con precisión milimétrica.

Y eso, en un mundo saturado de incertidumbre, nos resulta hipnótico.

Es como tener a alguien en la sala que siempre parece saber la respuesta. Al principio lo cuestionas. Luego empiezas a confiar. Después simplemente preguntas y asientes. Y en algún momento del proceso, sin que te hayas dado cuenta, has dejado de pensar por ti mismo.

No evaluamos una respuesta solo por lo que dice, sino por cómo lo dice. Y una frase fluida, coherente y bien estructurada tiene infinitamente más probabilidades de ser aceptada que una torpe, aunque ambas sean igualmente correctas o igualmente falsas. La forma imita la verdad.

 

El problema no es la herramienta, es la postura

Déjame ser directo: no te estoy diciendo que dejes de usar la IA. Sería absurdo. Yo mismo la uso todos los días, y desde hace tiempo defiendo que quien no la incorpora a su trabajo está tomando una decisión que tiene consecuencias.

Pero hay una diferencia enorme entre usarla como amplificador del pensamiento propio y usarla como sustituto de él.

Un cirujano puede usar el bisturí más avanzado del mercado. Pero si no sabe anatomía, el bisturí no le va a salvar. De hecho, con más precisión, puede hacer más daño. La herramienta potencia lo que hay detrás. Si detrás no hay criterio, potencia el vacío.

Lo que está emergiendo con el uso masivo e irreflexivo de la IA generativa no es ignorancia. Es algo más peligroso: la externalización del proceso de pensar. No solo buscamos información fuera de nuestra cabeza —eso lo hemos hecho siempre, para eso existe Google, para eso existen los libros—. Ahora empezamos a delegar el acto mismo de razonar: estructurar un argumento, detectar una inconsistencia, ponderar alternativas. Y eso tiene un precio.

 

Lo que se pierde cuando no piensas

El pensamiento tiene algo que no es agradable pero es imprescindible: la fricción.

Llegar a una conclusión cuesta. Requiere tiempo, atención, tolerancia a la incertidumbre, y una cierta disposición a equivocarte en el camino. La IA elimina gran parte de esa fricción. Y al hacerlo, también elimina una parte del aprendizaje. Porque no es lo mismo llegar a una conclusión que recibirla envuelta en papel de regalo.

El músculo cognitivo funciona como cualquier otro músculo: si no lo usas, se atrofia. Y a diferencia de la mayoría de atrofias, esta es silenciosa. No duele. De hecho, se siente cómoda. Eficiente. Moderna.

En el ámbito educativo ya se están viendo síntomas: argumentos más superficiales, menos elaborados, menos originales. Menos capacidad de sostener una postura frente a quien la cuestiona. No porque los estudiantes sean peores que antes, sino porque han encontrado una forma de saltarse el proceso.

Y en el mundo empresarial, donde el criterio es la diferencia entre tomar una buena decisión y una catastrófica, esto no es un detalle menor.

 

Hay otro problema que casi nadie menciona

La IA no solo puede equivocarse. También puede decirte que tienes razón cuando no la tienes.

Los modelos de lenguaje tienen una tendencia documentada a comportarse de forma complaciente, a reforzar lo que el usuario parece creer, a evitar la confrontación. No porque sean malos actores, sino porque así funcionan: optimizando para la aceptación, no para la verdad.

Eso significa que si le preguntas con un sesgo incorporado en la pregunta, hay muchas probabilidades de que te devuelva ese mismo sesgo pulido y argumentado. Una herramienta que confirma tus errores con autoridad es infinitamente más peligrosa que una que simplemente falla.

Lo veo en empresas que usan la IA para validar estrategias que ya han decidido. No para cuestionarlas. Para justificarlas. Y la máquina les da exactamente lo que buscan, con tres párrafos bien estructurados y alguna referencia que suena convincente.

Eso no es inteligencia artificial. Es un espejo inteligente.

 

El recurso escaso del que nadie habla

Aquí está la gran paradoja de este momento.

Cuanto más accesible se vuelve la información, cuanto más fácil resulta generar texto, análisis, resúmenes, argumentos… más valor adquiere algo que no se puede delegar: el criterio propio.

El criterio no es un dato. No es una respuesta. Es la capacidad de saber qué pregunta hacer, qué respuesta cuestionar, qué información es relevante para tu contexto concreto y cuál no. Es lo que diferencia a alguien que usa la IA para pensar mejor de alguien que la usa para dejar de pensar.

Y el criterio se construye de una sola manera: pensando. Equivocándote. Contrastando. Llegando tú a las conclusiones, aunque te cueste más que copiar lo que te devuelve la pantalla.

En TEKDI llevamos tiempo trabajando con empresas y profesionales en algo que va más allá de enseñar herramientas de IA: trabajamos en cómo integrarlas sin perder el pensamiento propio por el camino. Porque la IA que no va acompañada de criterio es, en el mejor de los casos, una ilusión de productividad.

 

Entonces, ¿qué haces tú con esto?

Tienes dos opciones.

Puedes seguir usando la IA como lo estás haciendo ahora: preguntas, lees, asientes, pegas, envías. Rápido, eficiente, cómodo. Y dentro de dos años te preguntas por qué tus decisiones no mejoran, por qué sigues dependiendo de la herramienta para todo, por qué te cuesta cada vez más defender una postura con argumentos propios.

O puedes decidir que la IA es un copiloto, no un piloto. Que su output es el punto de partida de tu razonamiento, no el final. Que cuando te da una respuesta, tu primera pregunta es «¿por qué?» y no «¿dónde pego esto?».

La inteligencia artificial no te va a dejar tonto. Pero si le delegas el pensamiento, tú solito lo consigues.

El criterio no se externaliza. O lo construyes o no lo tienes.

Compartir >>