Idioma
Preparando seu curso e o progresso salvo.
VISÃO GERAL DA TRILHA
Encontre, corrija e verifique falhas de segurança em uma aplicação local de IA realista.
Uma trilha prática de segurança de IA baseada no Aegis Vulnerable AI Lab, começando com uma exploração determinística entre tenants, isolamento, autorização de objetos, modelagem de ameaças e verificações cumulativas de segurança.
PARA QUEM É ESTA TRILHA
O que você vai construir
Use uma aplicação de IA intencionalmente vulnerável para reproduzir ataques, implementar controles delimitados, preservar o uso legítimo e verificar resultados com evidências determinísticas.
O sistema evolui ao longo de todo o currículo. Cada fase publicada entrega uma capacidade delimitada; as seguintes são adicionadas quando seus currículos são publicados.
A · Capacidade publicada
Laboratório Aegis · Primeiro Exploit · Isolamento entre Tenants · Autorização · Modelagem de Ameaças · Gates de Segurança
Inicie o Aegis Vulnerable AI Lab já pronto, reproduza uma falha de segurança determinística entre tenants, implemente e verifique recuperação (retrieval) com escopo por tenant, mapeie o fluxo de dados de AI e os limites de confiança, implemente autorização de objetos por meio de um segundo ponto de política (policy seam) sob responsabilidade do aluno, converta ameaças observadas em requisitos testáveis e passe por um gate cumulativo de ataque mais utilidade.
B · Capacidade publicada
Prompt Injection · Recuperação Não Confiável · Autorização de Recuperação · Limite de Output · Proveniência do Documento · Saída Local de Dados
Reproduza um caso de direct prompt injection e um de indirect prompt injection contra o laboratório Aegis local, implemente um limite de confiança para conteúdo recuperado para que conteúdo autorizado deixe de atuar como instrução, estenda a autorização ao cache e à revalidação de evidência de recuperação, valide a saída estruturada do modelo antes de qualquer interpretação downstream, adicione controles de proveniência do documento e saída local de dados por meio de dois sublaboratórios delimitados e passe por um gate cumulativo que prove que os cinco limites da Phase B funcionam em conjunto sem destruir a utilidade legítima do RAG.
PRÉ-REQUISITOS ESPERADOS
São esperadas noções de programação, familiaridade com terminal e Git e capacidade de executar uma aplicação Python local. Não é necessária experiência em segurança de IA.
Currículo
Primeiro Ataque
Inicie o Aegis Vulnerable AI Lab já pronto, reproduza uma falha de segurança determinística entre tenants, implemente e verifique recuperação (retrieval) com escopo por tenant, mapeie o fluxo de dados de AI e os limites de confiança, implemente autorização de objetos por meio de um segundo ponto de política (policy seam) sob responsabilidade do aluno, converta ameaças observadas em requisitos testáveis e passe por um gate cumulativo de ataque mais utilidade.
6 unidades
Prévia gratuita
A01 · Primeiro Ataque
A02 · Primeiro Ataque
A03 · Primeiro Ataque
Trilha inicial
Comece com três unidades completas de AI Engineering Foundations e use o mesmo sistema de aprendizagem do curso completo. Não é preciso conta nem cartão de crédito para iniciar.
Iniciar o Aegis e reproduzir a primeira falha de segurança
A01
Corrigir o primeiro limite de tenant e provar utilidade
A02
Mapear o fluxo de dados de AI e os limites de confiança
A03
METODOLOGIA
CONFIANÇA E METODOLOGIA
Esta trilha relaciona as habilidades do currículo ao trabalho prático de segurança de IA. A cobertura não mede prontidão profissional, não promete contratação ou certificação e não substitui trabalho demonstrado.
Os resultados do curso vêm dos projetos, tarefas e verificações que o aluno realmente conclui.
As verificações práticas e a conclusão são controladas por quem aprende. Os testes rápidos são formativos; o produto não inventa comprovações de competência.
Concluir um curso não é promessa de contratação, certificação, avaliação nem substituto para trabalho demonstrado.
ACESSO
PRÉVIA GRATUITA
O roteiro público e unidades completas de prévia do curso real.
Começar grátisTRILHA COMPLETA
Acesso com pagamento único a todas as unidades publicadas, progresso, testes rápidos, notas das lições e ferramentas de backup.
Escolha um curso ou o pacote All-Access com os quatro cursos atuais.
Comparar opções de acessoC · Capacidade publicada
Inventário de Capacidades · Autorização de Ferramentas · Autoridade de Aprovação · Confiança da Memória · Autorização MCP · Aprovação no Navegador
Inventarie as capacidades do runtime de agentes pronto para uso do Aegis e separe a proposta do modelo da permissão da aplicação (C13), implemente as políticas pareadas de autorização de ferramenta e aprovação que interrompem ataques de confused deputy e de concessão por não aprovador (C14), implemente o limite de confiança da memória que impede que uma gravação sem proveniência seja admitida como contexto confiável (C15), implemente autorização de capacidades MCP por chamada contra o servidor local fixo de treinamento (C16), implemente o limite de aprovação de ações sensíveis do navegador (C17) e passe por um gate cumulativo que prove que os cinco limites da Phase C funcionam em conjunto enquanto todos os workflows de utilidade declarados continuam funcionando (C18).
D · Capacidade publicada
Hipóteses de Ameaça · Pontuação Baseada em Evidências · Entradas Protegidas · Leitura de Release Gate · Programa Repetível de Testes
Use o harness de avaliação completo e pronto do Aegis para transformar o modelo de ameaças e os controles das Phases A-C em um programa repetível de testes de segurança de AI: escreva hipóteses de ameaça falsificáveis com base em evidências reais do Aegis (D19), implemente as duas decisões que o harness não consegue tomar sozinho -- se a evidência de execução realmente demonstra contenção e se um run concluído realmente demonstra utilidade legítima (D20), prove de forma adversarial que entradas protegidas do holdout não são expostas por interfaces de dataset legíveis pelo aluno (D21), aprenda a ler um release gate declarativo que não pode ser enganado por uma média alta (D23) e execute novamente, sem modificá-las, as mesmas duas políticas aceitas sobre o dataset completo de quatro partições para obter uma decisão de release reproduzível no projeto integrador (D24).
E · Capacidade publicada
Leitura de Inventário de Ativos de AI · Leitura de Vinculação de Integridade · Verificação de Artefato · Leitura de Runtime Restrito · Leitura de Orçamentos e Denial-of-Wallet · Runtime de AI Verificado e Restrito
Use as superfícies prontas de integridade e runtime restrito do Aegis para ler um inventário real de ativos de AI e um modelo de proveniência (E25), ler a vinculação real e já incondicional de origem, argumentos e schema de tool/MCP do Aegis como evidência de integridade de dependências, tools e MCP (E26), implementar a única lacuna real -- uma decisão leve de verificação de artefato e atestação que vincula uma declaração apresentada ao sujeito observado, ao digest e à autoridade do processo de build do inventário confiável (E27), ler os limites reais e já aplicados pelo Aegis para saída de dados, campos sensíveis e autorização de capacidades como a evidência de restrição que um sandbox completo teria de construir (E28), ler os orçamentos de recursos reais e já fixos de agent/handoff/MCP/browser do Aegis e o evento canônico de esgotamento de orçamento como evidência de denial-of-wallet (E29) e reexecutar, sem modificações, a política aceita em E27, composta com a evidência estrutural somente leitura de E26/E28/E29, para uma decisão de release reprodutível no projeto integrador (E30).
F · Capacidade publicada
Leitura de Evidências de Detecção · Leitura de Triagem de Incidentes · Autorização de Resposta · Leitura de Verificação da Remediação · Leitura do Control Plane · AI Security Control Plane
Use as superfícies prontas de incidentes, resposta, replay, evidência e Control Plane do Aegis para ler evidências reais de detecção baseadas em eventos canônicos (F31), ler o comportamento real de triagem de incidentes e preservação de evidências (F32), implementar a única lacuna real -- uma decisão de autorização de resposta que vincula o alvo de uma resposta proposta ao escopo afetado registrado pelo próprio incidente (F33), reutilizar o harness de avaliação já aceito da Phase D para raciocinar sobre verificação da remediação (F34), ler o AI Security Control Plane real e já não autoritativo (F35) e compor um incidente purple team de ponta a ponta que reutiliza o próprio ponto de política de F33 por meio de um novo ciclo de autorização para a decisão final de release do curso (F36).
RESULTADOS
RESULTADO 01
Inicie o Aegis Vulnerable AI Lab e reproduza uma falha de segurança determinística entre tenants.
RESULTADO 02
Implemente recuperação limitada por tenant e autorização de objetos preservando o uso legítimo.
RESULTADO 03
Mapeie fluxos de dados de IA e limites de confiança e converta as ameaças observadas em requisitos de segurança testáveis.
RESULTADO 04
Passe por uma verificação cumulativa de ataques e utilidade e produza evidências dos controles de segurança implementados.
Secure RAG
Reproduza um caso de direct prompt injection e um de indirect prompt injection contra o laboratório Aegis local, implemente um limite de confiança para conteúdo recuperado para que conteúdo autorizado deixe de atuar como instrução, estenda a autorização ao cache e à revalidação de evidência de recuperação, valide a saída estruturada do modelo antes de qualquer interpretação downstream, adicione controles de proveniência do documento e saída local de dados por meio de dois sublaboratórios delimitados e passe por um gate cumulativo que prove que os cinco limites da Phase B funcionam em conjunto sem destruir a utilidade legítima do RAG.
6 unidades
Segurança de Agentes
Inventarie as capacidades do runtime de agentes pronto para uso do Aegis e separe a proposta do modelo da permissão da aplicação (C13), implemente as políticas pareadas de autorização de ferramenta e aprovação que interrompem ataques de confused deputy e de concessão por não aprovador (C14), implemente o limite de confiança da memória que impede que uma gravação sem proveniência seja admitida como contexto confiável (C15), implemente autorização de capacidades MCP por chamada contra o servidor local fixo de treinamento (C16), implemente o limite de aprovação de ações sensíveis do navegador (C17) e passe por um gate cumulativo que prove que os cinco limites da Phase C funcionam em conjunto enquanto todos os workflows de utilidade declarados continuam funcionando (C18).
6 unidades
Security Evals
Use o harness de avaliação completo e pronto do Aegis para transformar o modelo de ameaças e os controles das Phases A-C em um programa repetível de testes de segurança de AI: escreva hipóteses de ameaça falsificáveis com base em evidências reais do Aegis (D19), implemente as duas decisões que o harness não consegue tomar sozinho -- se a evidência de execução realmente demonstra contenção e se um run concluído realmente demonstra utilidade legítima (D20), prove de forma adversarial que entradas protegidas do holdout não são expostas por interfaces de dataset legíveis pelo aluno (D21), aprenda a ler um release gate declarativo que não pode ser enganado por uma média alta (D23) e execute novamente, sem modificá-las, as mesmas duas políticas aceitas sobre o dataset completo de quatro partições para obter uma decisão de release reproduzível no projeto integrador (D24).
5 unidades
Integridade do Runtime
Use as superfícies prontas de integridade e runtime restrito do Aegis para ler um inventário real de ativos de AI e um modelo de proveniência (E25), ler a vinculação real e já incondicional de origem, argumentos e schema de tool/MCP do Aegis como evidência de integridade de dependências, tools e MCP (E26), implementar a única lacuna real -- uma decisão leve de verificação de artefato e atestação que vincula uma declaração apresentada ao sujeito observado, ao digest e à autoridade do processo de build do inventário confiável (E27), ler os limites reais e já aplicados pelo Aegis para saída de dados, campos sensíveis e autorização de capacidades como a evidência de restrição que um sandbox completo teria de construir (E28), ler os orçamentos de recursos reais e já fixos de agent/handoff/MCP/browser do Aegis e o evento canônico de esgotamento de orçamento como evidência de denial-of-wallet (E29) e reexecutar, sem modificações, a política aceita em E27, composta com a evidência estrutural somente leitura de E26/E28/E29, para uma decisão de release reprodutível no projeto integrador (E30).
6 unidades
Operações de Segurança
Use as superfícies prontas de incidentes, resposta, replay, evidência e Control Plane do Aegis para ler evidências reais de detecção baseadas em eventos canônicos (F31), ler o comportamento real de triagem de incidentes e preservação de evidências (F32), implementar a única lacuna real -- uma decisão de autorização de resposta que vincula o alvo de uma resposta proposta ao escopo afetado registrado pelo próprio incidente (F33), reutilizar o harness de avaliação já aceito da Phase D para raciocinar sobre verificação da remediação (F34), ler o AI Security Control Plane real e já não autoritativo (F35) e compor um incidente purple team de ponta a ponta que reutiliza o próprio ponto de política de F33 por meio de um novo ciclo de autorização para a decisão final de release do curso (F36).
6 unidades