AI Under Attack

Kris Kimmerle y David Okeyode presentan una guía técnica integral dedicada a la ciberseguridad defensiva y ofensiva en ecosistemas basados en inteligencia artificial generativa, modelos de lenguaje (LLMs), arquitecturas RAG y agentes autónomos. Los autores examinan en detalle cómo la naturaleza no determinista y el uso de lenguaje natural como interfaz rompen los esquemas tradicionales de seguridad de la información. El texto está pensado para ingenieros de ciberseguridad, arquitectos de software, especialistas en red teaming, profesionales de DevSecOps/MLOps y líderes técnicos con conocimientos sólidos de seguridad perimetral, arquitecturas en la nube y conceptos operativos de machine learning.

El contenido profundiza en el desglose técnico de vectores de ataque basados en el OWASP Top 10 for LLMs: inyecciones de prompts (directas e indirectas), evasión de restricciones (jailbreaking), abuso de memoria y contexto, envenenamiento de conjuntos de datos de entrenamiento (data poisoning) y vulnerabilidades en canalizaciones de generación aumentada por recuperación (RAG). Analiza la explotación de agentes con capacidad de ejecución de herramientas y llamadas a funciones (tool calling), al tiempo que enseña a diseñar barreras defensivas: hardening de pipelines MLOps, implementación de guardrails con validación semántica de entradas y salidas, aplicación de principios Zero Trust en identidades y permisos de agentes, y metodologías sistemáticas de AI Red Teaming.

Mediante el análisis de arquitecturas vulnerables y escenarios de explotación simulada, el libro prepara a los equipos técnicos para auditar y endurecer aplicaciones con IA antes de su exposición a entornos hostiles. Destaca por su nivel de detalle en amenazas modernas contra agentes y sistemas RAG, integrando además marcos de gobernanza técnica como NIST AI RMF e ISO 42001; no obstante, omite la formulación matemática de optimización de redes neuronales para centrarse puramente en la ciberseguridad aplicada. Es una de las referencias más completas para proteger infraestructuras de IA empresariales frente a adversarios reales.