</> CodeBooks
    ← Volver a IA generativa y LLMs (página 18)
    Portada de Building LLMs for Production

    Building LLMs for Production

    Louis-Francois Bouchard

    Editorial
    Towards AI
    Año
    2024
    Páginas
    ~544
    Nivel
    Intermedio

    De qué trata

    Manual exhaustivo y riguroso desarrollado por el equipo de Towards AI (liderado por Louis-François Bouchard y Louie Peters) para transformar prototipos frágiles de modelos de lenguaje en aplicaciones de producción fiables, escalables y con costes controlados. Trabaja sobre el ecosistema moderno de Python y familias de modelos como GPT-4, Llama 2/3 y Mistral, estando dirigido a ingenieros de software, científicos de datos y profesionales de machine learning de nivel intermedio con buen dominio previo de Python.

    El temario aborda el abanico completo de la ingeniería de LLMs: diseño metódico de prompts, arquitecturas avanzadas de generación aumentada por recuperación (RAG) con división de texto, vectorización, indexación y re-ranking, así como ajuste fino eficiente (PEFT, LoRA, QLoRA). Enseña a orquestar y evaluar pipelines empleando librerías fundamentales del sector como LangChain, LlamaIndex, Deep Lake (Activeloop), Hugging Face Transformers, métricas de fidelidad y relevancia con RAGAS, monitoreo con LangSmith y técnicas de cuantización (GGUF, AWQ, GPTQ) y optimización de latencia para el despliegue.

    Se practican canalizaciones RAG completas con evaluación automatizada, agentes ReAct con invocación de herramientas y afinado de modelos abiertos en cuadernos de Google Colab. La gran aportación de la obra es su defensa de la simplicidad de diseño y la evaluación cuantitativa frente a arquitecturas multiagente innecesariamente complejas. No profundiza en el preentrenamiento de modelos masivos desde cero ni en matemáticas teóricas de optimizadores; es imprescindible tener soltura en programación con Python y conceptos generales de NLP.

    • LLMs
    • RAG avanzado
    • LangChain
    • LlamaIndex
    • Fine-Tuning
    • LoRA y QLoRA
    • Hugging Face
    • Activeloop Deep Lake
    • RAGAS
    • LangSmith
    • Cuantización
    • Agentes ReAct

    ¿Cómo enseña?

    TeóricoPráctico

    Teoría + práctica

    • ✓ Incluye ejercicios
    • ✓ Incluye proyectos

    Proyectos

    Pipeline RAG avanzado con evaluación RAGAS

    Sistema de consulta documental construido con LlamaIndex y LangChain sobre almacenamiento vectorial, validando precisión y alucinaciones mediante métricas automáticas de RAGAS.

    Ajuste fino de modelos de pesos abiertos con LoRA

    Adaptación supervisada de modelos abiertos en Google Colab utilizando Hugging Face Transformers y PEFT para tareas especializadas con consumo mínimo de VRAM.

    Más de IA generativa y LLMs con nivel Intermedio