LLM Engineer’s Handbook

Guía práctica integral escrita por Paul Iusztin y Maxime Labonne que cierra la brecha entre la experimentación con modelos de lenguaje y la disciplina de ingeniería de software requerida para llevarlos a producción bajo estándares de LLMOps. Está dirigida a ingenieros de machine learning, desarrolladores backend y científicos de datos de nivel intermedio que programan fluidamente en Python, tienen nociones básicas de procesamiento de lenguaje natural y están familiarizados con conceptos fundamentales de contenedores y servicios en la nube (AWS).

El libro detalla con precisión quirúrgica una pila tecnológica moderna y robusta. Enseña a orquestar pipelines de datos, entrenamiento e inferencia mediante ZenML, almacenar datos no estructurados en MongoDB, gestionar indexaciones y recuperación vectorial con Qdrant, y realizar seguimiento de experimentos con Comet ML. En la fase de modelado, cubre el ajuste fino supervisado (SFT) y la alineación de preferencias mediante DPO (Direct Preference Optimization) sobre modelos abiertos de Hugging Face, la optimización de inferencia con vLLM y cuantización, la observabilidad y evaluación continua de prompts con Opik, y el empaquetado y despliegue automatizado en Amazon Web Services (AWS) usando SageMaker, Docker y GitHub Actions.

Todo el aprendizaje se vertebra sobre un proyecto completo y ambicioso: el desarrollo del sistema «LLM Twin», una arquitectura modular en producción que automatiza la ingesta de la huella digital de un autor para generar contenido imitando fielmente su tono y estilo. Su principal virtud es desterrar los cuadernos de pruebas aislados para enseñar arquitectura de microservicios limpia, modular y con pruebas automatizadas; en contrapartida, requiere una inversión considerable en tiempo y familiaridad con infraestructura en la nube para replicar la totalidad del entorno productivo.