⌘K
ENES
GitHub
conceptModelos de Lenguaje y Fundacionales~1 min de lecturaActualizado 2026-06-07#llms#hallucination#grounding#reliability

Por qué alucinan los LLMs

Una alucinación es una afirmación confiada y fluida que es falsa o no está respaldada. No es un glitch: es lo esperable de un sistema entrenado para producir texto plausible, no texto verdadero. Entender la causa te dice cómo mitigarla (y que no podés eliminarla por completo).

La causa raíz

Pretraining optimiza una sola cosa: el próximo token más probable. "Suena plausible" y "es verdadero" suelen coincidir en los datos de entrenamiento, pero no siempre. El modelo no tiene una base de datos interna ni chequeo de verdad; genera la continuación que parece correcta. Cuando no sabe, la continuación más probable sigue siendo una conjetura fluida y autoritativa.

Factores que empeoran:

  • Huecos de conocimiento / cutoff: si le preguntan sobre algo raro o posterior al cutoff, interpola (distribution shift).
  • Presión de alignment para ser útil: el post-training recompensa respuestas confiadas y completas, empujando a los modelos a responder en vez de abstenerse.
  • Sampling: una temperature más alta aumenta la improvisación.

Cómo reducirla (no eliminarla)

  • Grounding vía RAG: suministrá los hechos en contexto e instruí al modelo a responder solo desde ellos, con citas. Es la palanca más grande para tareas factuales.
  • Dejalo decir "no sé": prompteá y premiá la abstención; bajá temperature para trabajo factual.
  • Verificá: uso de tools, salidas estructuradas y un chequeo de segunda pasada para afirmaciones de alto impacto.
  • Evaluá groundedness: medí fidelidad a fuentes, no solo fluidez.

El modelo mental

Un LLM es un improvisador fluido, no una base de datos. Tratá cada afirmación factual como no verificada hasta que esté grounded o chequeada. Diseñá el sistema alrededor de eso, en vez de esperar un modelo que "deje de inventar cosas".

Conecta con: objetivo next-token · grounding con RAG · medición de groundedness

Notas relacionadas

Modelos de Lenguaje y FundacionalesModelos base vs instruct vs chatUn modelo base completa texto; un modelo instruct/chat sigue pedidos. El stack de post-training (SFT + preference alignment) que convierte uno en otro.Modelos de Lenguaje y FundacionalesVentana de contexto y KV cacheLa ventana de contexto es la memoria de trabajo del modelo; el KV cache es lo que vuelve rápida la generación. Ambos explican por qué los prompts largos cuestan...Modelos de Lenguaje y FundacionalesDecoding y samplingUn modelo emite una distribución de probabilidad; decoding la convierte en texto. Temperature, top-p/top-k, greedy vs sampling: las perillas que controlan...Modelos de Lenguaje y FundacionalesEmergent abilities e in-context learningEl payoff sorprendente de la escala: los modelos aprenden de ejemplos en el prompt sin actualizar pesos. Qué es real sobre emergence y qué es artefacto de métrica.