Privacy-Preserving Machine Learning
Srinivasa Rao Aravilli
- Editorial
- Packt
- Año
- 2024
- Páginas
- ~402
- Nivel
- Intermedio
De qué trata
Obra especializada y de vanguardia técnica orientada a la ingeniería de sistemas de aprendizaje automático capaces de preservar la confidencialidad de los datos durante todo el ciclo de vida del modelo. Escrita por Srinivasa Rao Aravilli, está destinada a ingenieros de machine learning, científicos de datos, arquitectos de software y profesionales de ciberseguridad y cumplimiento normativo de nivel intermedio a avanzado que dominan Python y frameworks como PyTorch y necesitan entrenar modelos sobre información crítica (médica, financiera o personal) respetando regulaciones estrictas como GDPR o HIPAA.
El libro enseña a identificar y contrarrestar ataques a la privacidad (como inferencia de membresía, inversión de modelos o reconstrucción de datos de entrenamiento). En el plano práctico, aborda la implementación de privacidad diferencial (DP) con la librería Opacus en PyTorch, aprendizaje federado descentralizado (manejando particiones IID y non-IID) con herramientas de código abierto como Flower y PySyft, cifrado homomórfico sobre tensores cifrados con TenSEAL, computación multipartita segura (SMPC) e intersección de conjuntos privados (PSI), junto con la protección en memoria mediante Entornos de Ejecución de Confianza (TEEs / Computación Confidencial) y la mitigación de fugas de privacidad en modelos de lenguaje grandes (LLMs).
El contenido combina una sólida fundamentación matemática y de amenazas con laboratorios guiados en Jupyter Notebooks, permitiendo calcular el balance entre el presupuesto de privacidad (épsilon) y la precisión del modelo en tareas de clasificación. Quedan fuera aspectos de analítica exploratoria o ajuste general de hiperparámetros, ya que el texto se centra exclusivamente en la seguridad y privacidad. Resulta una lectura crucial para organizaciones que despliegan modelos en sectores altamente regulados.
- Privacidad diferencial
- Aprendizaje federado
- Cifrado homomórfico
- Opacus
- Flower
- PySyft
- TenSEAL
- PyTorch
- Computación confidencial
- SMPC
- Privacidad en LLMs
- Seguridad en IA
¿Cómo enseña?
Teoría + práctica
- ✗ Sin ejercicios
- ✓ Incluye proyectos
Proyectos
Canalización de deep learning con privacidad diferencial usando Opacus
Implementa un pipeline en PyTorch con la librería Opacus que inyecta ruido gaussiano calibrado a los gradientes y gestiona el presupuesto de privacidad para entrenar clasificadores resistentes a ataques de inferencia.
Sistema de aprendizaje federado para datos no homogéneos (non-IID)
Configura una arquitectura de entrenamiento distribuido con Flower y PyTorch donde múltiples clientes entrenan modelos locales de manera colaborativa sin centralizar sus datos privados.
Inferencia segura sobre tensores cifrados con TenSEAL
Construye un flujo de predicción basado en esquemas de cifrado homomórfico que ejecuta evaluaciones de modelos sobre entradas numéricas cifradas sin revelarlas en ningún momento al servidor.
