
Building LLMs for Production
Louis-Francois Bouchard
- Editorial
- Towards AI
- Año
- 2024
- Páginas
- ~544
- Nivel
- Intermedio
De qué trata
Manual exhaustivo y riguroso desarrollado por el equipo de Towards AI (liderado por Louis-François Bouchard y Louie Peters) para transformar prototipos frágiles de modelos de lenguaje en aplicaciones de producción fiables, escalables y con costes controlados. Trabaja sobre el ecosistema moderno de Python y familias de modelos como GPT-4, Llama 2/3 y Mistral, estando dirigido a ingenieros de software, científicos de datos y profesionales de machine learning de nivel intermedio con buen dominio previo de Python.
El temario aborda el abanico completo de la ingeniería de LLMs: diseño metódico de prompts, arquitecturas avanzadas de generación aumentada por recuperación (RAG) con división de texto, vectorización, indexación y re-ranking, así como ajuste fino eficiente (PEFT, LoRA, QLoRA). Enseña a orquestar y evaluar pipelines empleando librerías fundamentales del sector como LangChain, LlamaIndex, Deep Lake (Activeloop), Hugging Face Transformers, métricas de fidelidad y relevancia con RAGAS, monitoreo con LangSmith y técnicas de cuantización (GGUF, AWQ, GPTQ) y optimización de latencia para el despliegue.
Se practican canalizaciones RAG completas con evaluación automatizada, agentes ReAct con invocación de herramientas y afinado de modelos abiertos en cuadernos de Google Colab. La gran aportación de la obra es su defensa de la simplicidad de diseño y la evaluación cuantitativa frente a arquitecturas multiagente innecesariamente complejas. No profundiza en el preentrenamiento de modelos masivos desde cero ni en matemáticas teóricas de optimizadores; es imprescindible tener soltura en programación con Python y conceptos generales de NLP.
- LLMs
- RAG avanzado
- LangChain
- LlamaIndex
- Fine-Tuning
- LoRA y QLoRA
- Hugging Face
- Activeloop Deep Lake
- RAGAS
- LangSmith
- Cuantización
- Agentes ReAct
¿Cómo enseña?
Teoría + práctica
- ✓ Incluye ejercicios
- ✓ Incluye proyectos
Proyectos
Pipeline RAG avanzado con evaluación RAGAS
Sistema de consulta documental construido con LlamaIndex y LangChain sobre almacenamiento vectorial, validando precisión y alucinaciones mediante métricas automáticas de RAGAS.
Ajuste fino de modelos de pesos abiertos con LoRA
Adaptación supervisada de modelos abiertos en Google Colab utilizando Hugging Face Transformers y PEFT para tareas especializadas con consumo mínimo de VRAM.

