Building Transformer Models with PyTorch 2.0

Manual técnico especializado en la comprensión, programación y adaptación de modelos basados en la arquitectura Transformer a través de múltiples modalidades de datos mediante PyTorch 2.0 y el ecosistema de Hugging Face. Escrito por Prem Timsina, está dirigido a ingenieros de machine learning, científicos de datos y programadores de nivel intermedio que dominan Python y los conceptos fundamentales de redes neuronales, y desean dominar el mecanismo de autoatención más allá del procesamiento de texto.

La obra enseña a construir los bloques estructurales de un Transformer desde cero en PyTorch 2.0 y a utilizar técnicas de transfer learning con librerías de Hugging Face. Detalla arquitecturas clave en cuatro modalidades: procesamiento de lenguaje natural con BERT, GPT-3 y BART; visión por computadora con Vision Transformers (ViT), DETR y DeiT; procesamiento y transcripción de voz con Whisper, SpeechT5 y Wav2Vec; y análisis predictivo sobre datos tabulares mediante TabTransformer. También aborda el benchmarking de modelos, la optimización con características nativas de PyTorch 2.0 y directrices para su despliegue.

En la parte práctica se desarrollan implementaciones completas de autoatención y proyectos guiados en cada modalidad: clasificación de imágenes con ViT, transcripción automática de audio con Whisper y regresión/clasificación con TabTransformer. Su gran valor añadido reside en desmitificar los Transformers demostrando con código cómo el mecanismo de atención se aplica eficazmente a imágenes, voz y tablas estructuradas; deja fuera arquitecturas de difusión y agentes conversacionales. Es aconsejable disponer de un entorno con soporte GPU y familiaridad previa con operaciones tensoriales para aprovechar las sesiones de entrenamiento.