Seguridad y control de calidad en soluciones de IA generativa
Asegura tus soluciones de IA generativa de extremo a extremo: amenazas del OWASP Top 10 para LLMs, guardrails de entrada y salida, red teaming y un sistema de controles de calidad y seguridad previo al despliegue.
- Nivel
- Avanzado
- Duración
- 20 horas
- Modalidades
- Online en directo · In-company · A medida
- Dirigido a
- Equipos técnicos y de seguridad responsables de que las soluciones con LLMs lleguen a producción sin riesgos inaceptables.
¿Qué es este curso y por qué te interesa?
Cada solución con IA generativa que se expone a usuarios abre una superficie de ataque nueva: prompts que manipulan al modelo, documentos que esconden instrucciones, salidas que filtran datos internos o que ejecutan acciones indebidas a través de las herramientas de un agente. Los controles de seguridad tradicionales no ven nada de esto, porque el vector de ataque es el propio lenguaje.
Este curso recorre las amenazas específicas de los sistemas con LLMs tomando como mapa el OWASP Top 10 para aplicaciones LLM: prompt injection directa e indirecta, jailbreaks, fuga de información sensible, envenenamiento de las fuentes de conocimiento, exceso de permisos en agentes y dependencia insegura de la cadena de suministro de modelos. Cada amenaza se ve con ataque demostrado y defensa aplicada.
Sobre ese mapa se construye el sistema de defensa: guardrails de entrada y salida con herramientas del ecosistema, moderación de contenido, validación estructural de las respuestas, mínimo privilegio en las herramientas de agentes y red teaming sistemático — manual y automatizado con baterías adversariales en promptfoo — para encontrar los fallos antes que los atacantes.
La pieza final es el control de calidad como proceso: un marco de revisión previa al despliegue que combina pruebas de seguridad, umbrales de calidad y aprobaciones, alineado con lo que marcos como el AI Act exigirán como gestión de riesgos técnicos. La parte organizativa y documental del cumplimiento se trabaja en el curso de gobernanza; aquí se construyen los controles técnicos que la sustentan.
Capacidades que adquirirás
- Identificar las amenazas del OWASP Top 10 para LLMs y reconocerlas en tus propias soluciones.
- Ejecutar y defender ataques de prompt injection directa e indirecta, jailbreaks y exfiltración de datos.
- Implementar guardrails de entrada y salida: validación, moderación, filtrado de PII y respuestas acotadas.
- Aplicar mínimo privilegio y aislamiento en agentes con acceso a herramientas y datos corporativos.
- Montar un proceso de red teaming y un gate de calidad y seguridad previo a cada despliegue.
Objetivos del curso
- 01Comprender la superficie de ataque específica de las aplicaciones con IA generativa.
- 02Modelar las amenazas de una solución concreta y priorizar las defensas por riesgo.
- 03Implementar defensas en capas: prompt, guardrails, permisos, monitorización.
- 04Prevenir fugas de datos personales y de información confidencial en entradas y salidas.
- 05Diseñar baterías de pruebas adversariales automatizadas y repetibles.
- 06Definir el gate de seguridad y calidad que toda solución debe pasar antes de producción.
¿Es este curso para ti o para tu equipo?
Equipos técnicos y de seguridad responsables de que las soluciones con LLMs lleguen a producción sin riesgos inaceptables.
Equipos de seguridad y ciberseguridad
Profesionales que deben extender su disciplina a una superficie de ataque nueva: las aplicaciones con LLMs.
Ingenieros de IA y desarrolladores de soluciones generativas
Perfiles que construyen asistentes, RAG y agentes y deben entregarlos endurecidos, no solo funcionales.
Arquitectos y tech leads
Perfiles que definen los estándares de seguridad y los criterios de aprobación de las soluciones de IA de la organización.
Temario completo
Programa estructurado en módulos. Cada itinerario in-company se ajusta al nivel y a los objetivos concretos del equipo.
- Por qué la seguridad tradicional no cubre los sistemas con LLMs.
- OWASP Top 10 para aplicaciones LLM: el mapa de amenazas.
- Modelado de amenazas: actores, vectores y activos en una solución concreta.
- Casos reales de incidentes: qué falló y qué lo habría evitado.
Cómo se imparte
Práctica desde la primera sesión
Cada bloque combina explicación, demostración y laboratorio. Los alumnos trabajan sobre casos reales aplicables a su contexto profesional.
Casos de cliente
En programas in-company partimos de los procesos y datos del cliente. La formación deja de sonar genérica y empieza a resolver problemas concretos.
Materiales de apoyo
Los participantes reciben código, plantillas y guías reutilizables tras la formación. Lo que se aprende se mantiene en el día a día.
Adaptación al nivel del equipo
Antes de impartir, hacemos un breve diagnóstico y ajustamos profundidad y ritmo. La formación no se queda corta ni avanza por encima del grupo.
Modalidades disponibles
Cada formato puede adaptarse al ritmo y al contexto operativo de la organización.
Online en directo
Sesiones en streaming con interacción en vivo, ejercicios guiados y resolución de dudas.
In-company
Programa diseñado a medida y impartido para un único equipo o organización.
A medida
Itinerario completamente personalizado: temario, duración, formato y casos del cliente.
¿Por qué contratar este programa para tu equipo?
La formación no se diseña contra un examen, se diseña contra un objetivo de negocio.
- Mejora de productividad real en el puesto de trabajo.
- Actualización de competencias clave para el negocio.
- Mayor autonomía técnica y reducción de dependencia externa.
- Aplicación práctica inmediata sobre procesos del cliente.
- Mejor adopción tecnológica con criterios profesionales.
- Preparación para proyectos de IA, datos, automatización o desarrollo.
¿Se puede gestionar como formación bonificada?
Este curso puede plantearse como formación para empresas y, según las condiciones de cada organización, podría gestionarse dentro de iniciativas de formación bonificada. En DatIACode te ayudamos a estructurar la propuesta formativa y la documentación necesaria para su valoración.
¿Qué necesitas saber antes de empezar?
- Experiencia construyendo o manteniendo aplicaciones con LLMs.
- Python sólido para los laboratorios de ataque y defensa.
- Conocimientos básicos de seguridad de aplicaciones son útiles, pero no imprescindibles.
Cómo se aplica lo aprendido
- Auditoría de seguridad de un asistente con LLMs antes de exponerlo a clientes.
- Implantación de guardrails de entrada y salida en soluciones generativas existentes.
- Red teaming periódico y automatizado de los sistemas de IA de la organización.
- Revisión de permisos y límites de actuación de agentes con acceso a sistemas corporativos.
- Definición del gate de seguridad y calidad obligatorio antes de cada despliegue.
- Generación de evidencias técnicas de gestión de riesgos para gobernanza y cumplimiento.
Por qué elegir DatIACode
No vendemos formación: diseñamos programas que se traducen en capacidad operativa real.
Experiencia aplicada
Más de 20 años combinando consultoría, desarrollo y formación tecnológica para empresas de distintos sectores.
Visión de negocio
Cada programa parte de los objetivos del cliente. La técnica está al servicio del problema, no al revés.
Adaptación al equipo
Ajustamos profundidad, ritmo y casos de uso al nivel real del equipo tras un breve diagnóstico inicial.
Formación + consultoría
Si la formación destapa un proyecto, podemos acompañarte en su implantación. No abandonamos el resultado.
Especialización en IA
Trabajamos en IA aplicada todos los días. La formación no la imparte alguien que solo enseña, la imparte alguien que también construye.
Orientación a resultados
Entregables tangibles y métricas pactadas. Sin promesas vacías.
FAQ
El curso de RAG avanzado trata la seguridad dentro del contexto RAG: inyección vía documentos, permisos por documento y guardrails del asistente documental. Este curso cubre la seguridad de cualquier solución generativa — chatbots, agentes con herramientas, generación de contenido — con más profundidad: OWASP Top 10 completo, red teaming sistemático y el gate de calidad como proceso.
Cuéntanos qué necesitas
Te respondemos en menos de 24h laborables con disponibilidad, opciones de modalidad y propuesta a medida si aplica.
- Diagnóstico inicial sin compromiso.
- Propuesta adaptada al nivel y al sector.
- Asesoramiento sobre formación bonificada.
Cursos relacionados
Ver todos los cursos- Ver curso
IA20 horasRAG avanzado: evaluación, seguridad y optimización de respuestas
- Ver curso
IA16 horasGobernanza de la IA y cumplimiento del AI Act
- Ver curso
IA20 horasEvaluación de aplicaciones con IA generativa: métricas, testing y calidad