Hands-On RAG for Production

Guía técnica especializada en cerrar la brecha entre una prueba de concepto elemental de RAG (Retrieval-Augmented Generation) y una arquitectura empresarial robusta, precisa y escalable en producción. Escrita por Ofer Mendelevitch y Forrest Sheng Bao (con amplia experiencia de liderazgo en ingeniería de búsqueda e IA en Vectara y Yahoo!), la obra se dirige a desarrolladores de software, científicos de datos y arquitectos cloud de nivel intermedio que conocen Python y los fundamentos de los LLMs y necesitan superar los problemas habituales de alucinaciones, recuperación deficiente y latencia en sistemas de preguntas y respuestas sobre datos corporativos.

El libro disecciona cada componente de una canalización RAG moderna: ingestión y parseo avanzado de documentos complejos (PDFs estructurados, tablas y archivos ofimáticos), estrategias de particionado semántico (chunking), generación de representaciones vectoriales densas e indexación en bases de datos como PostgreSQL con la extensión pgvector y SQLite-vec. Profundiza en técnicas de reordenación neural (rerankers), guardrails de seguridad y moderación, métricas automáticas de evaluación de respuestas (calidad, fidelidad/faithfulness y relevancia), y analiza el dilema entre construir una pila propia o usar plataformas gestionadas RAG-as-a-Service. Además, explora arquitecturas avanzadas como RAG agéntico (Agentic RAG), RAG multimodal (imágenes, audio y tablas complejas) y GraphRAG (enriquecimiento con grafos de conocimiento estructurados).

Apoyándose en el repositorio de código oficial, se implementa una canalización RAG completa con ingesta documental y búsqueda vectorial con pgvector, se orquesta un flujo de RAG agéntico con razonamiento en múltiples etapas y llamadas dinámicas a herramientas, y se construye un prototipo de GraphRAG para capturar relaciones complejas entre entidades. Su principal valor es el pragmatismo con el que trata desafíos reales de privacidad de datos, costes por llamada y latencia, lejos de suposiciones ideales. No aborda el diseño matemático de transformers ni el ajuste fino de hiperparámetros de modelos de lenguaje, manteniendo un foco estricto en la ingeniería de recuperación y aumento de contexto.