Idioma
Preparando tu curso y el progreso guardado.
RESUMEN DE LA RUTA
Encuentra, corrige y verifica fallas de seguridad en una aplicación local de IA realista.
Una ruta práctica de seguridad de IA basada en Aegis Vulnerable AI Lab, que comienza con un exploit determinista entre tenants, aislamiento, autorización de objetos, modelado de amenazas y controles de seguridad acumulativos.
A QUIÉN VA DIRIGIDA ESTA RUTA
Lo que vas a construir
Usa una aplicación de IA intencionalmente vulnerable para reproducir ataques, implementar controles delimitados, preservar el uso legítimo y verificar resultados con evidencia determinista.
El sistema evoluciona a lo largo del programa completo. Cada fase publicada aporta una capacidad delimitada; las siguientes se agregan cuando se publican sus contenidos.
A · Capacidad publicada
Aegis Lab · Primer exploit · Aislamiento de tenants · Autorización · Modelado de amenazas · Puertas de seguridad
Inicia el Aegis Vulnerable AI Lab ya preparado, reproduce una falla de seguridad determinista entre tenants, implementa y verifica la recuperación (retrieval) acotada al tenant, mapea el flujo de datos de IA y los límites de confianza, implementa autorización de objetos mediante un segundo punto de extensión modificable bajo control del estudiante, convierte las amenazas observadas en requisitos comprobables y supera una puerta acumulativa de ataque más utilidad.
B · Capacidad publicada
Inyección de prompt · Recuperación no confiable · Autorización de recuperación · Límite de salida · Procedencia de documentos · Salida de datos local
Reproduce un caso de inyección de prompt directa y otro de inyección indirecta contra el laboratorio local de Aegis, implementa un límite de confianza para el contenido recuperado de modo que el contenido autorizado deje de actuar como instrucción, extiende la autorización al almacenamiento en caché y la revalidación de evidencia de recuperación, valida la salida estructurada del modelo antes de cualquier interpretación posterior, agrega controles de procedencia de documentos y salida de datos local mediante dos sublaboratorios acotados y supera una puerta acumulativa que demuestra que los cinco límites de la Fase B funcionan en conjunto sin destruir la utilidad legítima de RAG.
REQUISITOS PREVIOS ESPERADOS
Se esperan nociones de programación, manejo de terminal y Git, y capacidad para ejecutar una aplicación Python local. No necesitas experiencia previa en seguridad de IA.
Currículo
Primer ataque
Inicia el Aegis Vulnerable AI Lab ya preparado, reproduce una falla de seguridad determinista entre tenants, implementa y verifica la recuperación (retrieval) acotada al tenant, mapea el flujo de datos de IA y los límites de confianza, implementa autorización de objetos mediante un segundo punto de extensión modificable bajo control del estudiante, convierte las amenazas observadas en requisitos comprobables y supera una puerta acumulativa de ataque más utilidad.
6 unidades
Vista previa gratuita
A01 · Primer ataque
A02 · Primer ataque
A03 · Primer ataque
Ruta inicial
Empieza con tres unidades completas de AI Engineering Foundations y usa el mismo sistema de aprendizaje que el curso completo. No necesitas cuenta ni tarjeta de crédito para comenzar.
Iniciar Aegis y reproducir la primera falla de seguridad
A01
Corregir el primer límite de tenant y demostrar la utilidad
A02
Mapear el flujo de datos de IA y los límites de confianza
A03
METODOLOGÍA
CONFIANZA Y METODOLOGÍA
Esta ruta vincula las habilidades del currículo con el trabajo práctico de seguridad de IA. La cobertura no mide preparación laboral ni promete contratación o certificación, y no sustituye el trabajo demostrado.
Los resultados del curso provienen de los proyectos, tareas y comprobaciones que el estudiante realiza de verdad.
Las verificaciones prácticas y la finalización dependen de quien aprende. Las evaluaciones rápidas son formativas y el producto no afirma que hayas adquirido competencias sin evidencia.
Completar un curso no es una promesa de contratación, certificación, calificación ni sustituto del trabajo demostrado.
ACCESO
VISTA PREVIA GRATUITA
La ruta pública y unidades completas de vista previa del curso real.
Empezar gratisRUTA COMPLETA
Acceso con pago único a todas las unidades publicadas, progreso, evaluaciones rápidas, notas de las lecciones y herramientas de respaldo.
Elige un curso o el paquete All-Access de cuatro cursos.
Comparar opciones de accesoC · Capacidad publicada
Inventario de capacidades · Autorización de herramientas · Autoridad de aprobación · Confianza de memoria · Autorización MCP · Aprobación del navegador
Inventaría las capacidades del runtime de agente de Aegis ya preparado y separa la propuesta del modelo del permiso de la aplicación (C13), implementa las políticas emparejadas de autorización de herramientas y aprobación que detienen ataques de confused deputy y de concesión por parte de quien no tiene autoridad para aprobar (C14), implementa el límite de confianza de memoria que impide admitir como contexto de confianza una escritura sin procedencia demostrada (C15), implementa autorización por llamada para capacidades MCP contra el servidor local fijo de entrenamiento (C16), implementa el límite de aprobación para acciones sensibles del navegador (C17) y supera una puerta acumulativa que demuestra que los cinco límites de la Fase C funcionan en conjunto mientras todos los flujos de utilidad declarados siguen funcionando (C18).
D · Capacidad publicada
Hipótesis de amenaza · Scoring basado en evidencia · Entradas protegidas · Lectura de gates de liberación · Programa repetible de pruebas
Usa el harness de evaluación de Aegis, ya preparado y completo, para convertir el modelo de amenazas y los controles de las Fases A-C en un programa repetible de pruebas de seguridad de IA: redacta hipótesis de amenaza falsables contra evidencia real de Aegis (D19), implementa las dos decisiones que el harness no puede tomar por sí solo -- si la evidencia de ejecución realmente demuestra contención y si una ejecución completada realmente demuestra utilidad legítima (D20), demuestra de forma adversarial que las entradas protegidas del conjunto holdout no se exponen a través de interfaces del dataset legibles por el estudiante (D21), aprende a leer un gate de liberación declarativo que no puede ser engañado por un promedio alto (D23) y vuelve a ejecutar las mismas dos políticas aceptadas, sin modificarlas, sobre el dataset completo de cuatro particiones para obtener una decisión de liberación reproducible en el capstone (D24).
E · Capacidad publicada
Comprensión del inventario de activos de IA · Comprensión de la vinculación de integridad · Verificación de artefactos · Comprensión del runtime restringido · Comprensión de presupuestos y denial-of-wallet · Runtime de IA verificado y restringido
Usa las superficies ya preparadas de integridad y runtime restringido de Aegis para leer un inventario real de activos de IA y un modelo de procedencia (E25), leer la vinculación real y ya incondicional de origen-argumentos-esquema para herramientas/MCP de Aegis como evidencia de integridad de dependencias, herramientas y MCP (E26), implementar la única brecha real -- una decisión ligera de verificación de artefactos y atestación que vincula una declaración de verificación con el sujeto, digest y autoridad del builder observados por el inventario confiable (E27), leer las fronteras reales y ya aplicadas de salida de datos, campos sensibles y autorización de capacidades de Aegis como la evidencia de restricción que, de otro modo, tendría que construir un sandbox completo (E28), leer los presupuestos de recursos reales y ya fijados de agente/handoff/MCP/navegador de Aegis y el evento canónico de agotamiento de presupuesto como evidencia de denial-of-wallet (E29), y volver a ejecutar la política aceptada de E27, sin modificarla y compuesta con la evidencia estructural de solo lectura de E26/E28/E29, para obtener una decisión de liberación reproducible en el capstone (E30).
F · Capacidad publicada
Alfabetización en evidencia de detección · Alfabetización en triage de incidentes · Autorización de respuesta · Alfabetización en verificación de remediación · Alfabetización sobre Control Plane · AI Security Control Plane
Usa las superficies ya preparadas de Aegis para incidentes, respuesta, reproducción, evidencia y Control Plane para leer evidencia real de detección basada en eventos canónicos (F31), leer el comportamiento real de triage de incidentes y preservación de evidencia (F32), implementar la única brecha genuina -- una decisión de autorización de respuesta que vincula el objetivo de una respuesta propuesta con el alcance afectado registrado por el propio incidente (F33), reutilizar el harness de evaluación ya aceptado de la Fase D para razonar sobre la verificación de remediación (F34), leer el AI Security Control Plane real, ya de carácter no autoritativo (F35), y componer un incidente de Purple Team de extremo a extremo que reutiliza el propio punto de extensión de F33 mediante un ciclo de autorización nuevo para la decisión final de liberación del curso (F36).
RESULTADOS
RESULTADO 01
Inicia Aegis Vulnerable AI Lab y reproduce una falla de seguridad determinista entre tenants.
RESULTADO 02
Implementa recuperación limitada por tenant y autorización de objetos sin afectar el uso legítimo.
RESULTADO 03
Mapea los flujos de datos de IA y los límites de confianza, y convierte las amenazas observadas en requisitos de seguridad comprobables.
RESULTADO 04
Supera un control acumulativo de ataques y utilidad, y genera evidencia de los controles de seguridad implementados.
RAG seguro
Reproduce un caso de inyección de prompt directa y otro de inyección indirecta contra el laboratorio local de Aegis, implementa un límite de confianza para el contenido recuperado de modo que el contenido autorizado deje de actuar como instrucción, extiende la autorización al almacenamiento en caché y la revalidación de evidencia de recuperación, valida la salida estructurada del modelo antes de cualquier interpretación posterior, agrega controles de procedencia de documentos y salida de datos local mediante dos sublaboratorios acotados y supera una puerta acumulativa que demuestra que los cinco límites de la Fase B funcionan en conjunto sin destruir la utilidad legítima de RAG.
6 unidades
Seguridad de agentes
Inventaría las capacidades del runtime de agente de Aegis ya preparado y separa la propuesta del modelo del permiso de la aplicación (C13), implementa las políticas emparejadas de autorización de herramientas y aprobación que detienen ataques de confused deputy y de concesión por parte de quien no tiene autoridad para aprobar (C14), implementa el límite de confianza de memoria que impide admitir como contexto de confianza una escritura sin procedencia demostrada (C15), implementa autorización por llamada para capacidades MCP contra el servidor local fijo de entrenamiento (C16), implementa el límite de aprobación para acciones sensibles del navegador (C17) y supera una puerta acumulativa que demuestra que los cinco límites de la Fase C funcionan en conjunto mientras todos los flujos de utilidad declarados siguen funcionando (C18).
6 unidades
Evaluaciones de seguridad
Usa el harness de evaluación de Aegis, ya preparado y completo, para convertir el modelo de amenazas y los controles de las Fases A-C en un programa repetible de pruebas de seguridad de IA: redacta hipótesis de amenaza falsables contra evidencia real de Aegis (D19), implementa las dos decisiones que el harness no puede tomar por sí solo -- si la evidencia de ejecución realmente demuestra contención y si una ejecución completada realmente demuestra utilidad legítima (D20), demuestra de forma adversarial que las entradas protegidas del conjunto holdout no se exponen a través de interfaces del dataset legibles por el estudiante (D21), aprende a leer un gate de liberación declarativo que no puede ser engañado por un promedio alto (D23) y vuelve a ejecutar las mismas dos políticas aceptadas, sin modificarlas, sobre el dataset completo de cuatro particiones para obtener una decisión de liberación reproducible en el capstone (D24).
5 unidades
Integridad del runtime
Usa las superficies ya preparadas de integridad y runtime restringido de Aegis para leer un inventario real de activos de IA y un modelo de procedencia (E25), leer la vinculación real y ya incondicional de origen-argumentos-esquema para herramientas/MCP de Aegis como evidencia de integridad de dependencias, herramientas y MCP (E26), implementar la única brecha real -- una decisión ligera de verificación de artefactos y atestación que vincula una declaración de verificación con el sujeto, digest y autoridad del builder observados por el inventario confiable (E27), leer las fronteras reales y ya aplicadas de salida de datos, campos sensibles y autorización de capacidades de Aegis como la evidencia de restricción que, de otro modo, tendría que construir un sandbox completo (E28), leer los presupuestos de recursos reales y ya fijados de agente/handoff/MCP/navegador de Aegis y el evento canónico de agotamiento de presupuesto como evidencia de denial-of-wallet (E29), y volver a ejecutar la política aceptada de E27, sin modificarla y compuesta con la evidencia estructural de solo lectura de E26/E28/E29, para obtener una decisión de liberación reproducible en el capstone (E30).
6 unidades
Operaciones de Seguridad
Usa las superficies ya preparadas de Aegis para incidentes, respuesta, reproducción, evidencia y Control Plane para leer evidencia real de detección basada en eventos canónicos (F31), leer el comportamiento real de triage de incidentes y preservación de evidencia (F32), implementar la única brecha genuina -- una decisión de autorización de respuesta que vincula el objetivo de una respuesta propuesta con el alcance afectado registrado por el propio incidente (F33), reutilizar el harness de evaluación ya aceptado de la Fase D para razonar sobre la verificación de remediación (F34), leer el AI Security Control Plane real, ya de carácter no autoritativo (F35), y componer un incidente de Purple Team de extremo a extremo que reutiliza el propio punto de extensión de F33 mediante un ciclo de autorización nuevo para la decisión final de liberación del curso (F36).
6 unidades