🧠 Así es como "piensa" ChatGPT... y por qué no deberías fiarte del todo

Te cuento lo que pasa cuando envías un prompt y por qué todo parece mágico, pero no lo es tanto

jun 09, 2025

¡Hola!
Soy Edgar Otero y esta es una nueva edición de Entendiendo la IA, la newsletter donde te explico sin complicaciones cómo funciona esta tecnología y los motivos por los cuales lo está cambiando todo.

Hoy vamos a hablar de algo que sé que muchos se preguntan:

¿ChatGPT realmente piensa?

Mira, te respondo rápido: no, aunque mucha gente “experta” afirme que sí.

¿Y ahora qué? ¿Ya está? No, ahora te voy a contar por qué eso importa.

🤖 No entiende nada, pero parece que sí

Los modelos como ChatGPT no entienden nada. No razonan, no tienen opiniones ni sentimientos. Lo que hacen es predecir qué palabra viene después de otra, en función de patrones aprendidos a partir de cantidades enormes de texto.

De hecho, es normal que te preguntes:

Entonces, ¿por qué hablamos de inteligencia artificial? Sin duda, lo ideal sería decir máquina que simula algunas capacidades humanas, pero no tiene tanto gancho.

La cuestión es que cuando tú escribes algo y lo envías, el modelo convierte eso en números, conocidos como tokens. Luego calcula cuál es la siguiente palabra más probable. Eso lo repite una y otra vez hasta que se forma una respuesta completa.

Aunque no te lo creas, funciona igual que el teclado predictivo de tu móvil. Esta igual no te la esperabas… La diferencia es que el modelo empleado en el teclado es diminuto y el de ChatGPT es vasto, enorme, gigantesco.

Pero aquí viene lo más importante:

👉 Por ese motivo puede inventarse cosas. Y por eso no puedes fiarte al 100% de sus respuestas, por clarividentes que suenen.

🧩 ¿Entonces por qué parece tan inteligente?

Por un motivo: si algo suena coherente, lo interpretamos como inteligente. Y ChatGPT (en realidad los modelos, pero ya nos entendemos) ha sido entrenado con tanto contenido humano que replica perfectamente cómo hablamos, explicamos y argumentamos.

He aquí el quid de la cuestión:

Con su entrenamiento solo logra ser coherente. No sabe si te está ayudando, confundiendo o entreteniendo.

Además, muchos usuarios le atribuyen más capacidades de las que realmente tiene. Esto es algo que personalmente siempre me ha preocupado. Una buena redacción no es lo mismo que comprensión profunda. Por eso, puede darte una explicación perfecta de algo técnico… y estar completamente equivocado.

Mi consejo:

👉 Usa siempre el pensamiento crítico. No porque lo diga un chat con IA significa que sea verdad.

📚 ¿De dónde saca ChatGPT lo que dice?

Aquí viene una de las grandes confusiones que tienen muchos usuarios. ChatGPT no busca en Google ni en una base de datos cuando le haces una pregunta. Solo cuando activas la opción Buscar en Internet el modelo va a basar su respuesta en una búsqueda, pero sin esa opción el modelo únicamente se basa en una cosa.

Y esa cosa es lo que aprendió durante su entrenamiento, que consiste en analizar enormes cantidades de texto: libros, artículos, webs, código, foros, etc. Con ese material, aprende los patrones de lenguaje y conocimiento presentes en los datos.

Es como si leyera millones de páginas y luego tratara de memorizar cómo hablan los humanos y qué tipo de respuestas suelen dar. No recuerda literalmente los textos, pero sí los patrones.

Por eso, podemos decir que:

👉 Lo que genera ChatGPT es nuevo, pero basado en probabilidades aprendidas. No está citando una fuente. Por eso, aunque lo que diga suene a Wikipedia, no tiene un respaldo directo.

⚠️ ¿En qué puedes confiar y en qué no?

Bajo mi punto de vista, ChatGPT es súper útil para:

Resumir textos.
Redactar ideas.
Traducciones (aunque para resultados profesionales siempre es mejor alguien que supervise el resultado).
Aprender conceptos básicos.
Explorar información de Internet.
Indagar en cuestiones ampliamente conocidas y consensuadas, como el funcionamiento de un motor térmico.
Programar algo básico.

Pero yo no me fío de ChatGPT ni de otros chatbots para esto:

Diagnósticos médicos.
Consejos legales.
Hechos sensibles al contexto.
Lectura de últimas noticias de Internet.
Interpretar emociones o intenciones humanas.
Datos científicos precisos sin revisar.

Mi recomendación siempre es: si usas ChatGPT para informarte, hazlo en un campo del cual seas experto. Si no tienes ni idea de psicología, pero le preguntas a la IA por eso, es posible que te cuele alguna mentira. Eso sí, una mentira bien escrita.

🧠 Gracias por llegar hasta aquí.
Espero que este boletín te haya ayudado a ver con más claridad qué hace y qué no hace esta tecnología. Si tienes dudas o quieres proponer temas para próximos correos, puedes escribirme respondiendo a este email. ¡Nos leemos!

Nos vemos en la próxima entrega.

Espero que estés bien,

Edgar O.