ÖFFENTLICHE LERNÜBERSICHT

AI Security Engineer – Lernübersicht

Eine reine Metadatenansicht von Reihenfolge, Meilensteinen und Vorschaugrenze.

VERFÜGBARER LEHRPLAN: 35 Einheiten
Kostenlose Vorschau: 3 kostenlose Vorschau-Einheiten

Threat-Modeled AI Application und erstes Security Gate

Erster Angriff

Starte das fertig bereitgestellte Aegis Vulnerable AI Lab, reproduziere einen deterministischen mandantenübergreifenden Security-Fehler, implementiere und verifiziere mandantenspezifisches Retrieval, kartiere den AI-Datenfluss und die Vertrauensgrenzen, implementiere Objektautorisierung über eine zweite vom Lernenden bearbeitete Policy-Seam, überführe beobachtete Bedrohungen in testbare Anforderungen und bestehe ein kumulatives Attack-plus-Utility-Gate.

Aegis Vulnerable AI LabThreat-Modeled AI ApplicationErster Exploit + Mandantengrenze + Bedrohungsmodell

6 Einheiten

01
Aegis starten und den ersten Security-Fehler reproduzieren
A01 · Einstiegspfad
02
Die erste Mandantengrenze beheben und Utility nachweisen
A02 · Einstiegspfad
Meilenstein
03
Den AI-Datenfluss und die Vertrauensgrenzen kartieren
A03 · Einstiegspfad
Meilenstein
04
Identität, Autorisierung und Mandantenkontext stärken
A04
05
Bedrohungsmodell und Verifikationsanforderungen erstellen
A05
06
Capstone der Threat-Modeled AI Application
A06
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

Secure RAG und Datengrenzen

Secure RAG

Reproduziere einen direkten und einen indirekten Prompt-Injection-Fall gegen das lokale Aegis Lab, implementiere eine Vertrauensgrenze für abgerufene Inhalte, damit autorisierte Inhalte nicht länger als Anweisung wirken, erweitere die Autorisierung auf Caching und Revalidierung von Retrieval-Evidenz, validiere strukturierte Modellausgaben vor jeder nachgelagerten Interpretation, ergänze Dokumentprovenienz- und lokale Egress-Kontrollen in zwei abgegrenzten Sublabs und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase B zusammenhalten, ohne die legitime RAG-Utility zu zerstören.

Aegis Vulnerable AI LabInjection-Resistant Multi-Tenant RAGPrompt Injection + Retrieval-Autorisierung + Ausgabegrenze + Provenienz/Egress

6 Einheiten

01
Direkte und indirekte Prompt-Injection-Fälle reproduzieren
B07
02
Vertrauensgrenze für abgerufene Inhalte implementieren
B08
Meilenstein
03
Autorisierung von Retrieval-Evidenz und Cache-Revalidierung implementieren
B09
Meilenstein
04
Strukturierte Modellausgabe vor der Interpretation validieren
B10
05
Dokumentprovenienz und lokaler Egress: zwei abgegrenzte Sublabs
B11
06
Kumulativer Secure-RAG-Capstone
B12
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

Least-Privilege Agent Runtime

Agent Security

Erfasse die Capabilities der fertigen Aegis Agent Runtime und trenne Modellvorschlag von Anwendungsberechtigung (C13), implementiere die gekoppelten Policies für Tool-Autorisierung (tool authorization) und Freigabe (approval), die Confused-Deputy- und Non-Approver-Grant-Angriffe stoppen (C14), implementiere die Grenze für Memory-Vertrauen (memory trust), die verhindert, dass ein Write ohne Provenienz als vertrauenswürdiger Kontext zugelassen wird (C15), implementiere eine MCP-Capability-Autorisierung pro Aufruf gegen den festen lokalen Trainingsserver (C16), implementiere die Browser-Freigabegrenze (browser approval) für sensible Aktionen (C17) und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase C zusammenhalten, während jeder deklarierte Utility-Workflow weiterhin funktioniert (C18).

Aegis Vulnerable AI LabLeast-Privilege Agent RuntimeCapability-Inventar + Tool-Autorisierung/Freigabe + Memory-Vertrauen + MCP + Browser

6 Einheiten

01
Capabilities inventarisieren und Vorschlag von Berechtigung unterscheiden
C13
02
Tools autorisieren und einschränken, wer sie freigeben darf
C14
Meilenstein
03
Nur Memory mit sauberer Provenienz als vertrauenswürdigen Kontext zulassen
C15
Meilenstein
04
MCP-Capability-Aufrufe pro Akteursrolle autorisieren
C16
05
Freigabe für sensible Browser-Aktionen verlangen
C17
06
Capstone der Least-Privilege Agent Runtime
C18
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

AI Red Teaming und Security Evals

Security Evals

Nutze den einsatzbereiten, bereits vollständigen Aegis-Evaluation-Harness, um das Bedrohungsmodell und die Controls aus den Phasen A-C in ein wiederholbares AI-Security-Testprogramm zu überführen: Formuliere falsifizierbare Bedrohungshypothesen anhand realer Aegis-Evidenz (D19), implementiere die beiden Entscheidungen, die der Harness nicht selbst treffen kann -- ob Ausführungsevidenz tatsächlich Containment belegt und ob ein abgeschlossener Run tatsächlich legitime Utility belegt (D20), weise adversarial nach, dass geschützte Holdout-Eingaben nicht über für Lernende lesbare Dataset-Schnittstellen offengelegt werden (D21), lerne ein deklaratives Release Gate zu lesen, das sich nicht durch einen hohen Durchschnitt täuschen lässt (D23), und führe dieselben beiden akzeptierten Policies unverändert über das vollständige Dataset mit vier Partitionen erneut aus, um eine reproduzierbare Release-Entscheidung im Capstone zu erhalten (D24).

Aegis Vulnerable AI LabRepeatable AI Security Test ProgramBedrohungshypothesen + evidenzbasiertes Scoring + geschützte Eingaben + Release Gates

5 Einheiten

01
Bedrohungshypothesen und beobachtbare Evidenz (observable evidence) definieren
D19
02
Evidenzbasiertes Security- und Utility-Scoring implementieren
D20
Meilenstein
03
Schutz der Sichtbarkeit geschützter Eingaben nachweisen
D21
04
Das Release Gate lesen, das D20 bereits bestanden hat
D23
05
Capstone: Repeatable AI Security Test Program
D24
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

Verifizierte AI Runtime und Supply Chain

Runtime-Integrität

Nutze die einsatzbereiten Integritäts- und Constrained-Runtime-Oberflächen von Aegis, um ein reales AI-Asset-Inventar und Provenienzmodell zu lesen (E25), lies Aegis’ reale, bereits bedingungslose Tool-/MCP-Origin-Argument-Schema-Bindung als Evidenz für Dependency-, Tool- und MCP-Integrität (E26), implementiere die eine echte Lücke - eine leichtgewichtige Entscheidung zur Artefaktverifikation und Attestierung, die eine behauptete Aussage an das beobachtete Subject, den Digest und die Builder-Autorität des vertrauenswürdigen Inventars bindet (E27), lies Aegis’ reale, bereits erzwungene Grenzen für Egress, sensible Felder und Capability-Autorisierung als einschränkende Evidenz, die ein vollständiger Sandbox-Aufbau sonst erst schaffen müsste (E28), lies Aegis’ reale, bereits festgelegte Ressourcenbudgets für Agent/Handoff/MCP/Browser und das kanonische Budget-Exhaustion-Event als Denial-of-Wallet-Evidenz (E29), und führe die akzeptierte E27-Policy unverändert erneut aus, zusammengesetzt mit der read-only strukturellen Evidenz aus E26/E28/E29, um eine reproduzierbare Capstone-Release-Entscheidung zu erhalten (E30).

Aegis Vulnerable AI LabVerified and Constrained AI RuntimeInventarverständnis + Integritätsverständnis + Artefaktverifikation + Grenzverständnis + Budgetverständnis

6 Einheiten

01
Das reale AI-Asset-Inventar und Provenienzmodell lesen
E25
02
Die reale Integritätsbindung (integrity binding) für Dependencies, Tools und MCP lesen
E26
03
Leichtgewichtige Artefaktverifikation und Attestierung implementieren
E27
Meilenstein
04
Die realen Grenzen für Egress, sensible Felder und Capabilities lesen
E28
05
Die realen Ressourcenbudgets und Denial-of-Wallet-Evidenz lesen
E29
06
Capstone der Verified and Constrained AI Runtime
E30
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

AI Security Operations und Purple-Team-Capstone

Security Operations

Nutze die fertigen Incident-, Response-, Replay-, Evidenz- und Control-Plane-Oberflächen von Aegis, um reale Detektionsevidenz aus kanonischen Events zu lesen (F31), reales Incident-Triage- und Evidenzsicherungsverhalten zu analysieren (F32), die einzige echte Lücke zu schließen -- durch eine Response-Autorisierungsentscheidung, die das Ziel einer vorgeschlagenen Response an den im Incident selbst aufgezeichneten betroffenen Scope bindet (F33), den bereits akzeptierten Evaluation Harness aus Phase D für die Argumentation über Remediation-Verifikation wiederzuverwenden (F34), die reale, bereits nicht autoritative AI Security Control Plane zu lesen (F35) und einen durchgängigen Purple-Team-Incident zusammenzuführen, der F33s eigenen Seam über einen frischen Autorisierungszyklus für die finale Release-Entscheidung des Kurses wiederverwendet (F36).

Aegis Vulnerable AI LabAI Security Control PlaneDetektieren + Triage + Autorisieren + Remediation + Beobachten + Recovery

6 Einheiten

01
Reale Detektionsevidenz aus kanonischen Events lesen
F31
Meilenstein
02
Reales Incident-Triage- und Evidenzsicherungsverhalten lesen
F32
03
Begrenzte Response-Autorisierung implementieren
F33
Meilenstein
04
Mit dem Harness aus Phase D über Remediation-Verifikation argumentieren
F34
05
Die reale, nicht autoritative AI Security Control Plane lesen
F35
06
Purple-Team-Incident- und Recovery-Capstone
F36
Meilenstein

Sobald du angemeldet bist, wird hier dein Fortschritt in dieser Phase angezeigt.

AI Security Engineer Finde deinen Lernpfad

Arbeitsbereich wird geladen

Threat-Modeled AI Application und erstes Security Gate

Secure RAG und Datengrenzen

Least-Privilege Agent Runtime

AI Red Teaming und Security Evals

Verifizierte AI Runtime und Supply Chain

AI Security Operations und Purple-Team-Capstone