Large Language Models Projects
Pere Martra
- Editorial
- Apress
- Año
- 2024
- Páginas
- ~366
- Nivel
- Intermedio
De qué trata
Publicado por Apress a finales de 2024 por Pere Martra, este libro es un recorrido práctico e integral orientado al desarrollo de aplicaciones del mundo real utilizando Modelos de Lenguaje Grande. El texto está pensado para desarrolladores de software, científicos de datos y analistas con conocimientos previos de Python y familiaridad elemental con el ecosistema de machine learning, que buscan aprender a integrar APIs comerciales (como OpenAI) junto con modelos de código abierto del ecosistema de Hugging Face en arquitecturas corporativas reales.
La obra se organiza en tres bloques principales: en el primero explica la interacción con la API de OpenAI, la vectorización de datos con bases vectoriales (ChromaDB, FAISS), la creación de cadenas y agentes mediante LangChain, la evaluación empírica con marcos como lm-evaluation-harness de EleutherAI, y el fine-tuning eficiente usando Hugging Face Transformers, PEFT, LoRA, QLoRA y optimización de preferencias directas (DPO). En el segundo y tercer bloque aborda la construcción de proyectos y casos corporativos: sistemas de traducción de lenguaje natural a SQL (NL2SQL), creación y publicación de modelos en el Hugging Face Hub con interfaces Gradio, escalabilidad de NL2SQL sobre bases de datos empresariales masivas y modelado de riesgo bancario mediante embeddings de comportamiento de clientes.
El libro destaca por guiar paso a paso el diseño e implementación de proyectos completos y complejos, en especial el asistente NL2SQL para consultar bases relacionales sin escribir código SQL y el sistema financiero de scoring de riesgo mediante embeddings. Su mayor valor reside en mostrar los dos mundos de los LLMs: la rapidez de prototipar con APIs propietarias y el control de costo y privacidad que ofrece afinar y publicar tus propios modelos abiertos. No cubre el preentrenamiento desde cero de arquitecturas de transformadores ni infraestructuras de clústeres distribuidos multihost. Conviene dominar Python, consultas SQL y conceptos de embeddings antes de abordarlo.
- LangChain
- OpenAI API
- Hugging Face
- PEFT (LoRA y QLoRA)
- DPO (Direct Preference Optimization)
- Bases de datos vectoriales
- NL2SQL
- Evaluación de modelos
- Embeddings
- Gradio
- LLMOps corporativo
¿Cómo enseña?
Con proyectos
- ✗ Sin ejercicios
- ✓ Incluye proyectos
Proyectos
Asistente de consultas de lenguaje natural a SQL (NL2SQL)
Aplicación desarrollada con LangChain y la API de OpenAI que traduce preguntas cotidianas en consultas SQL válidas, las ejecuta sobre una base de datos relacional y devuelve una interpretación en lenguaje natural.
Modelo LLM propio ajustado con QLoRA y desplegado en Hugging Face
Proyecto de fine-tuning sobre un modelo abierto con PEFT y Hugging Face Transformers, empaquetado y publicado en el Hub con una interfaz interactiva creada en Gradio.
Sistema NL2SQL para bases de datos corporativas masivas
Solución escalable para entornos empresariales que utiliza bases vectoriales para indexar esquemas extensos de bases de datos y suministrar al LLM únicamente el contexto de tablas relevante.
Clasificador de riesgo crediticio con embeddings bancarios
Sistema de analítica predictiva financiera que transforma el historial de transacciones y perfil de clientes en vectores de incrustación para predecir morosidad y riesgos bancarios.
