Understanding Large Language Models

Guía conceptual y formativa escrita por Thimira Amaratunga y publicada por Apress a finales de 2023, en plena consolidación del fenómeno ChatGPT y los primeros modelos fundacionales a gran escala. Su objetivo es ofrecer una explicación rigurosa y asequible de los fundamentos técnicos que hacen funcionar a los LLMs, sin abrumar al lector con implementaciones complejas de código ni demostraciones matemáticas pesadas. Está destinada a arquitectos de software, líderes de equipo, consultores tecnológicos y desarrolladores con conocimientos generales de computación que necesitan comprender qué hay detrás de esta tecnología para tomar decisiones de adopción informadas.

A través de seis capítulos, el libro examina el recorrido histórico del procesamiento del lenguaje natural desde los enfoques estadísticos clásicos (Bag-of-Words, TF-IDF, N-Grams, Word2Vec y GloVe) y las redes neuronales recurrentes (RNN, LSTM, GRU) hasta llegar a la arquitectura Transformer. Amaratunga desglosa con esquemas intuitivos los mecanismos de autoatención (self-attention), las matrices Query-Key-Value, y los roles de codificadores y decodificadores. Además, analiza los elementos que confieren escala a los modelos: el tamaño de parámetros, los volúmenes de datos de preentrenamiento, las leyes de escalado y los recursos de computación necesarios, revisando familias destacadas como BERT, T5, PaLM, GPT-3, GPT-4 y LLaMA.

El volumen concluye abordando los límites y riesgos reales de los modelos: la generación de alucinaciones, la perpetuación de sesgos presentes en los corpus de entrenamiento, la privacidad y seguridad de la información, y las trampas del antropomorfismo. Su gran fortaleza es su capacidad de síntesis y claridad pedagógica, lo que permite nivelar rápidamente a profesionales multidisciplinares en la base teórica de la IA generativa; por diseño, no incluye ejercicios de programación, código ejecutable ni construcción de proyectos. Es una lectura preparatoria ideal antes de abordar manuales de desarrollo e integración de LLMs.