Large Language Models: Concepts, Techniques and Applications

Monografía académica y técnica escrita por John Atkinson-Abutridy (profesor titular de Inteligencia Artificial en la Universidad Adolfo Ibáñez) y publicada por CRC Press a finales de 2024. El texto ofrece un estudio sistemático y riguroso de los principios científicos y computacionales que sustentan los modelos de lenguaje a gran escala contemporáneos, analizando modelos representativos de referencia como BERT, GPT-4, LLaMA, PaLM-2 y Falcon. Está orientado a estudiantes de últimos cursos de ingeniería informática o posgrado, investigadores y científicos de datos de nivel intermedio que cuenten con una base matemática previa en álgebra lineal, estadística, aprendizaje profundo y conceptos esenciales de procesamiento del lenguaje natural (NLP).

La obra desglosa paso a paso la evolución de las arquitecturas de aprendizaje de representaciones: desde los embeddings vectoriales clásicos y las redes neuronales recurrentes o encoder-decoder, hasta el funcionamiento matemático del mecanismo de autoatención y la arquitectura del Transformer. Enseña cómo se estructuran las etapas de preentrenamiento autosupervisado y ajuste fino (fine-tuning), los métodos de tokenización y la manifestación de habilidades emergentes en los modelos masivos. En el plano práctico, aborda tareas clave de NLP como clasificación de documentos, búsqueda semántica, generación de resúmenes, traducción automática y sistemas de preguntas y respuestas, acompañadas de métricas formales de evaluación (perplejidad, BLEU, ROUGE) y cuadernos de código desarrollados en Python y ejecutables en Google Colab con librerías del ecosistema de Hugging Face y PyTorch.

El libro adopta una estructura didáctica que complementa la rigurosidad conceptual con ejercicios prácticos en Google Colab orientados a tareas específicas de análisis de texto, aunque no propone la construcción de una aplicación comercial integral con interfaz de usuario o backend persistente. Su mayor virtud es la solidez pedagógica y la claridad expositiva para comprender las raíces algorítmicas de los LLMs sin caer en simplificaciones divulgativas ni modas comerciales pasajeras. Como contrapartida, sus escasas doscientas páginas dejan fuera temas de ingeniería de producción como la optimización de inferencia a escala, cuantización avanzada o plataformas complejas de MLOps, por lo que resulta ideal como texto formativo para asentar los cimientos teóricos y computacionales antes de enfrentarse a arquitecturas de producción.