Generative Deep Learning, 2nd Edition
David Foster
- Editorial
- O'Reilly
- Año
- 2023
- Páginas
- ~456
- Nivel
- Intermedio
De qué trata
Segunda edición profundamente actualizada de esta referencia técnica de O'Reilly sobre modelado generativo, reescrita para reflejar la explosión de los transformers y los modelos de difusión contemporáneos. David Foster guía a científicos de datos, investigadores e ingenieros de machine learning de nivel intermedio que dominan Python y conocen las bases del aprendizaje profundo (redes neuronales densas y convolucionales), desmitificando cómo los algoritmos pueden aprender a pintar, escribir, componer y jugar.
El libro recurre a TensorFlow 2 y Keras como entorno principal de código para desmenuzar las principales familias de arquitecturas generativas. Enseña a construir y manipular autocodificadores variacionales (VAEs), redes generativas antagónicas (DCGAN, WGAN-GP, CGAN y StyleGAN2), modelos autorregresivos (LSTM y arquitecturas Transformer tipo GPT), flujos normalizadores (Normalizing Flows) y modelos basados en energía (Energy-Based Models). Dedica un bloque sustancial a los modelos de difusión probabilísticos (DDPM), a la generación musical con MuseGAN, a los World Models para aprendizaje por refuerzo y a los modelos multimodales como DALL-E 2, Imagen, Stable Diffusion y CLIP.
A través del repositorio oficial con Docker y Jupyter Notebooks, se programan generadores de rostros en CelebA con un VAE y una WGAN-GP, un modelo de difusión que sintetiza imágenes de flores, un modelo GPT propio para autocompletar texto, y un agente que aprende a conducir en un simulador visual con World Models. Su mayor fortaleza es que enseña a codificar cada arquitectura paso a paso desde sus cimientos matemáticos, permitiendo comprender la mecánica interna de cada pérdida y gradiente. Deja fuera implementaciones en PyTorch (estándar predominante en la investigación actual) y requiere advertir que el entrenamiento de las redes más avanzadas como StyleGAN2 exige GPUs dedicadas de considerable potencia.
- TensorFlow
- Keras
- Modelos de difusión
- Transformers
- VAEs
- GANs
- StyleGAN2
- Modelos autorregresivos
- World Models
- MuseGAN
- Modelos multimodales
¿Cómo enseña?
Teoría + práctica
- ✗ Sin ejercicios
- ✓ Incluye proyectos
Proyectos
Generador y manipulador de rostros con VAE y StyleGAN2
Modelos construidos en TensorFlow y Keras sobre el conjunto de datos CelebA para explorar y alterar el espacio latente y sintetizar rostros fotorrealistas.
Sintetizador de imágenes con modelos de difusión (DDPM)
Implementación desde cero de una red de difusión probabilística de eliminación de ruido para generar imágenes nítidas a partir de ruido gaussiano.
Agente autónomo con World Models
Sistema generativo de aprendizaje por refuerzo que combina un VAE, un RNN y un controlador para que un agente tome decisiones en un entorno simulado de carreras (CarRacing).
