Blog · Guía de IA
Cómo funciona un modelo de lenguaje, explicado sin jerga
Detrás de cada chatbot hay un programa que hace una sola cosa, muchísimas veces seguidas: adivinar qué pedazo de texto viene después. Entender eso explica casi todo lo demás, incluso por qué a veces se equivoca con tanta seguridad.
La idea en una frase
Un modelo de lenguaje es un programa que, a partir de un texto, calcula qué pedazo de texto es más probable que venga después. Lo elige, lo pega al final y vuelve a calcular. Así, pedazo a pedazo, escribe respuestas, poemas, resúmenes o código. No consulta una base de datos de respuestas ya hechas: las construye en el momento, como quien completa una frase que le dejaron a medias.
Suena demasiado simple para explicar lo que hace un chatbot moderno, pero ese es el truco: para adivinar bien la siguiente palabra en millones de situaciones distintas, el modelo tuvo que absorber muchísimos patrones del idioma, de los hechos y de la forma en que razonamos por escrito.
Primero, el texto se corta en tokens
El modelo no lee letras ni palabras completas, sino tokens: trozos de texto que pueden ser una palabra entera, una sílaba, un signo de puntuación o un espacio con algo pegado. Una palabra común suele ser un solo token; una rara o larga se parte en varios. Cada token se convierte en un número, y ese número en una lista de valores que el modelo sí sabe manejar.
Esto explica rarezas que quizá ya notaste. Si le pides contar cuántas letras «r» tiene una palabra, puede fallar, porque nunca vio la palabra letra por letra. Y los idiomas con menos texto disponible para entrenar suelen partirse en más tokens, lo que los vuelve un poco más caros y lentos de procesar.
Predecir la siguiente pieza, una y otra vez
Con los tokens dentro, el modelo hace un cálculo enorme y al final entrega una lista: para cada token posible, qué tan probable es que sea el siguiente. Después de «El gato duerme en el», «sillón» tendrá una probabilidad alta y «martes», una muy baja. El programa escoge uno, lo añade al texto y repite todo el proceso con la frase un poco más larga.
No siempre escoge el más probable. Si lo hiciera, las respuestas serían repetitivas y planas. Por eso se mezcla algo de azar, controlado por un ajuste que suele llamarse «temperatura»: baja, el modelo es más predecible; alta, más variado y también más propenso a desviarse. Por esa razón la misma pregunta puede darte dos respuestas distintas.
A este momento de uso, cuando el modelo ya está hecho y solo genera texto, se le llama inferencia. Ocurre en computadoras con chips especializados, normalmente GPU, porque son millones de multiplicaciones por cada token.
Cómo aprende: el entrenamiento
Un modelo recién creado es una red neuronal con miles de millones de números, los parámetros, puestos al azar. Al principio sus predicciones son basura. El entrenamiento consiste en mostrarle enormes cantidades de texto, taparle la palabra siguiente, dejar que adivine y corregir un poquito todos esos números para que la próxima vez acierte más. Repetido una cantidad descomunal de veces, eso es aprendizaje profundo.
Nadie le enseña reglas de gramática ni le carga una enciclopedia. Lo que sabe queda repartido en sus parámetros como patrones estadísticos, no como fichas ordenadas que pueda citar. Por eso no puede decirte de qué página sacó un dato.
Esa primera etapa produce un modelo que completa texto, pero no necesariamente uno que conversa bien. Después viene un ajuste fino con ejemplos de preguntas y buenas respuestas, y a menudo una etapa con opiniones humanas que califican qué respuesta es mejor. Esta técnica, conocida como RLHF (una forma de aprendizaje por refuerzo), se describió de forma muy influyente en un artículo de 2022 sobre entrenar modelos para seguir instrucciones. Es lo que convierte un autocompletado gigante en un asistente que responde, se niega a ciertas cosas y mantiene un tono.
Por qué a veces inventa cosas
Cuando un modelo afirma con total seguridad algo falso, como una cita que nadie dijo o un libro que no existe, se le llama alucinación. No es un error raro ni una mentira: es una consecuencia directa de cómo funciona. El modelo siempre produce el texto que suena más probable, y una respuesta inventada pero bien formada puede sonar tan probable como una verdadera.
Influye también cómo se le califica. Un estudio de 2025 sobre por qué alucinan los modelos argumenta que muchas pruebas premian adivinar por encima de admitir «no sé», igual que un examen de opción múltiple sin castigo por error premia contestar al azar. Las alucinaciones se pueden reducir, por ejemplo dándole al modelo documentos confiables para consultar (lo que se llama RAG), pero hoy no se pueden descartar del todo. Para datos importantes, verifica en una fuente original.
La ventana de contexto: su memoria de trabajo
El modelo no recuerda tu conversación como lo haría una persona. Cada vez que respondes, el sistema le vuelve a enviar todo el texto relevante: las instrucciones, tus mensajes, sus respuestas anteriores y los documentos que hayas pegado. El límite de cuánto cabe ahí se llama ventana de contexto y se mide en tokens.
Si la conversación supera ese límite, algo tiene que quedar fuera, y el modelo «olvida» lo más antiguo o trabaja con un resumen. Incluso dentro del límite, no todo pesa igual: una investigación titulada «Lost in the Middle» encontró que varios modelos aprovechan mejor la información que está al principio o al final de un texto largo que la que queda enterrada en medio. Moraleja práctica: lo importante, arriba o al final, y dicho con claridad.
Qué hace realmente un prompt
Un prompt es el texto con el que arrancas: la pregunta, la instrucción y todo lo que le das de contexto. Como el modelo continúa lo que recibe, el prompt no es una orden mágica, sino el inicio del texto que él va a completar. Por eso cambia tanto el resultado decir para quién es, qué tono quieres, qué formato esperas o darle un ejemplo de lo que buscas.
Un buen prompt se parece a un buen encargo a una persona nueva en el equipo: explica el objetivo, da los datos que necesita, marca lo que no quieres y pide lo que sigue en pasos. No hace falta escribir en un idioma especial ni usar fórmulas secretas.
Lo que no puede hacer (o no hace bien)
- Saber lo más reciente. Lo que aprendió llega hasta la fecha en que se recopilaron sus datos. Si responde sobre algo de esta semana, es porque el sistema le dio una búsqueda o un documento, no porque lo sepa.
- Calcular con exactitud. Predice texto, no hace cuentas como una calculadora. Las operaciones largas pueden fallar si no usa una herramienta aparte.
- Comprobar sus propias afirmaciones. No tiene forma propia de distinguir un recuerdo verdadero de uno inventado.
- Ser neutral por naturaleza. Aprende de textos humanos, con sus prejuicios. El sesgo algorítmico se puede reducir, pero no desaparece solo.
- Tener experiencias o intenciones. Puede escribir «me encanta» o «entiendo cómo te sientes» porque así se escribe en esos contextos, no porque sienta algo.
Hay versiones que van más allá del texto: los modelos multimodales también reciben imágenes o audio, y los modelos de razonamiento escriben pasos intermedios antes de responder, lo que suele ayudar en problemas de lógica o matemáticas. Por dentro, sin embargo, siguen generando un token tras otro.
En resumen
Un modelo de lenguaje corta tu texto en tokens, calcula qué pieza es más probable que siga, la añade y repite. Aprendió a hacerlo leyendo cantidades enormes de texto y ajustando miles de millones de números, y después lo pulieron para conversar. Eso lo vuelve sorprendentemente útil para redactar, resumir, traducir o pensar en voz alta, y también explica sus fallas: puede inventar, olvida lo que no cabe en su ventana y no sabe lo que no vio. Úsalo como un colaborador rápido y elocuente, y deja la última palabra a las fuentes confiables. Si quieres seguir, en la enciclopedia de Aster encontrarás cada término explicado.