⌘K
ENES
GitHub
conceptintermediatecurrentDeep Learning~1 min de lecturaVerificado 2026-07-20#deep-learning#embeddings#latent-space#representation-learning

Embeddings y espacios latentes

La ganancia más profunda de deep learning es la representación que aprende. Una red entrenada mapea inputs a un espacio latente: un espacio vectorial donde la posición codifica significado. Conseguí un buen espacio y una docena de tareas downstream se vuelven fáciles.

Qué es un embedding

Un embedding es un vector denso que representa un ítem (palabra, oración, imagen, usuario). La red aprende a ubicar ítems relacionados cerca e ítems no relacionados lejos, así que distancia y dirección cargan semántica: cosas similares → baja distancia coseno; direcciones conceptuales se vuelven aritmética ("rey − hombre + mujer ≈ reina").

Comparados con codificaciones one-hot/sparse, los embeddings son densos, de baja dimensionalidad y generalizan: capturan similitud en vez de tratar cada ítem como no relacionado.

El espacio latente

Internamente, cada hidden layer es un espacio latente; la red reconfigura progresivamente el input en una representación donde la capa lineal final puede hacer su trabajo. Los hidden states de un modelo de frontera son un enorme espacio latente aprendido para lenguaje.

Por qué esto importa en todas partes

  • Transfer learning — features aprendidas sobre un dataset enorme transfieren a tareas nuevas con pocos datos. Fine-tuning y adaptation explotan esto: conservá la representación, redirigí la head.
  • Búsqueda semántica / RAG — embeddeá query y documentos, recuperá por nearest neighbor. Este es el motor del retrieval moderno.
  • Clustering y visualización — agrupá o proyectá embeddings para ver la estructura que aprendió el modelo.
  • Multimodal — entrená texto e imágenes en un espacio compartido (CLIP) para que puedan compararse directamente.

Trampa

Los embeddings solo tienen significado dentro del modelo que los produjo: nunca compares vectores de dos modelos de embeddings distintos, y re-embeddeá todo cuando cambiás de modelo. Además: cosine similarity asume vectores normalizados; normalizá antes de comparar.

Conecta con: vectores y similitud · retrieval · representaciones

Notas relacionadas

Deep LearningFunciones de activación y por qué importa la no linealidadSin una no linealidad, una deep net es solo un modelo lineal. Por qué ganó ReLU, qué son las neuronas muertas y dónde encaja GELU en transformers modernos.Deep LearningCNNs: convolución y estructura espacialLas redes convolucionales incorporan la estructura de las imágenes en la arquitectura — localidad e invariancia a traslación — y ese sesgo inductivo es por lo que...Deep LearningInicialización y normalizaciónCómo arrancás los pesos y mantenés bien escaladas las activaciones decide si una deep net entrena o no. Xavier/He init, BatchNorm vs LayerNorm.Deep LearningFunciones de pérdida en deep learningEl loss es el objetivo que realmente optimizás. MSE vs cross-entropy vs contrastive, y cómo el loss decide silenciosamente en qué se convierte tu red.