Sprache
Dein Kurs und dein gespeicherter Fortschritt werden vorbereitet.
LERNPFADÜBERBLICK
Finde, behebe und überprüfe Sicherheitsfehler in einer realistischen lokalen KI-Anwendung.
Ein praktischer KI-Sicherheitslernpfad rund um Aegis Vulnerable AI Lab: vom deterministischen mandantenübergreifenden Exploit über Mandantentrennung, Objektberechtigungen und Bedrohungsmodellierung bis zu kumulativen Sicherheitsprüfungen.
FÜR WEN DIESER PFAD IST
Das wirst du entwickeln
Nutze eine absichtlich verwundbare KI-Anwendung, um Angriffe nachzustellen, begrenzte Schutzmaßnahmen umzusetzen, berechtigte Nutzung zu erhalten und Sicherheitsergebnisse deterministisch nachzuweisen.
Das System wächst über den gesamten Lehrplan hinweg. Jede veröffentlichte Phase liefert eine klar begrenzte Fähigkeit. Weitere Fähigkeiten kommen hinzu, sobald die zugehörigen Inhalte veröffentlicht werden.
A · Veröffentlichte Fähigkeit
Aegis Lab · Erster Exploit · Mandantenisolation · Autorisierung · Bedrohungsmodellierung · Security Gates
Starte das fertig bereitgestellte Aegis Vulnerable AI Lab, reproduziere einen deterministischen mandantenübergreifenden Security-Fehler, implementiere und verifiziere mandantenspezifisches Retrieval, kartiere den AI-Datenfluss und die Vertrauensgrenzen, implementiere Objektautorisierung über eine zweite vom Lernenden bearbeitete Policy-Seam, überführe beobachtete Bedrohungen in testbare Anforderungen und bestehe ein kumulatives Attack-plus-Utility-Gate.
B · Veröffentlichte Fähigkeit
Prompt Injection · Nicht vertrauenswürdiges Retrieval · Retrieval-Autorisierung · Ausgabegrenze · Dokumentprovenienz · Lokaler Egress
Reproduziere einen direkten und einen indirekten Prompt-Injection-Fall gegen das lokale Aegis Lab, implementiere eine Vertrauensgrenze für abgerufene Inhalte, damit autorisierte Inhalte nicht länger als Anweisung wirken, erweitere die Autorisierung auf Caching und Revalidierung von Retrieval-Evidenz, validiere strukturierte Modellausgaben vor jeder nachgelagerten Interpretation, ergänze Dokumentprovenienz- und lokale Egress-Kontrollen in zwei abgegrenzten Sublabs und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase B zusammenhalten, ohne die legitime RAG-Utility zu zerstören.
ERWARTETE VORKENNTNISSE
Grundlegende Programmierkenntnisse, ein sicherer Umgang mit Terminal und Git sowie die Möglichkeit, eine lokale Python-Anwendung auszuführen, werden vorausgesetzt. KI-Sicherheitserfahrung ist nicht nötig.
Lehrplan
Erster Angriff
Starte das fertig bereitgestellte Aegis Vulnerable AI Lab, reproduziere einen deterministischen mandantenübergreifenden Security-Fehler, implementiere und verifiziere mandantenspezifisches Retrieval, kartiere den AI-Datenfluss und die Vertrauensgrenzen, implementiere Objektautorisierung über eine zweite vom Lernenden bearbeitete Policy-Seam, überführe beobachtete Bedrohungen in testbare Anforderungen und bestehe ein kumulatives Attack-plus-Utility-Gate.
6 Einheiten
Secure RAG
Reproduziere einen direkten und einen indirekten Prompt-Injection-Fall gegen das lokale Aegis Lab, implementiere eine Vertrauensgrenze für abgerufene Inhalte, damit autorisierte Inhalte nicht länger als Anweisung wirken, erweitere die Autorisierung auf Caching und Revalidierung von Retrieval-Evidenz, validiere strukturierte Modellausgaben vor jeder nachgelagerten Interpretation, ergänze Dokumentprovenienz- und lokale Egress-Kontrollen in zwei abgegrenzten Sublabs und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase B zusammenhalten, ohne die legitime RAG-Utility zu zerstören.
6 Einheiten
Kostenlose Vorschau
A01 · Erster Angriff
A02 · Erster Angriff
A03 · Erster Angriff
Einstiegspfad
Starte mit drei vollständigen Einheiten aus AI Engineering Foundations und nutze dasselbe Lernsystem wie im vollständigen Kurs. Zu Beginn sind weder Konto noch Kreditkarte nötig.
Aegis starten und den ersten Security-Fehler reproduzieren
A01
Die erste Mandantengrenze beheben und Utility nachweisen
A02
Den AI-Datenfluss und die Vertrauensgrenzen kartieren
A03
METHODIK
VERTRAUEN UND METHODIK
Dieser Lernpfad ordnet Lehrplanfähigkeiten praktischer KI-Sicherheitsentwicklung zu. Die Abdeckung ist weder ein Maß für Berufsfähigkeit noch eine Einstellungszusage, Zertifizierung oder ein Ersatz für nachgewiesene Arbeit.
Die Kursziele ergeben sich aus den Projekten, Aufgaben und Prüfungen, die Lernende tatsächlich bearbeiten.
Praktische Prüfungen und Abschluss werden von Lernenden gesteuert. Kurztests dienen dem Lernen; das Produkt erfindet keine Kompetenznachweise.
Ein Kursabschluss ist kein Einstellungsversprechen, Zertifikat, Rating oder Ersatz für nachgewiesene Arbeit.
ZUGANG
KOSTENLOSE VORSCHAU
Die öffentliche Lernübersicht und vollständige Kurseinheiten aus der kostenlosen Vorschau.
Kostenlos startenVOLLSTÄNDIGER PFAD
Einmaliger Zugriff auf alle veröffentlichten Einheiten sowie Fortschritt, Kurztests, Lektionsnotizen und Sicherungswerkzeuge.
Wähle einen Kurs oder das All-Access-Bundle mit allen vier Kursen.
Zugangsoptionen vergleichenC · Veröffentlichte Fähigkeit
Capability-Inventar · Tool-Autorisierung · Freigabeberechtigung · Memory-Vertrauen · MCP-Autorisierung · Browser-Freigabe
Erfasse die Capabilities der fertigen Aegis Agent Runtime und trenne Modellvorschlag von Anwendungsberechtigung (C13), implementiere die gekoppelten Policies für Tool-Autorisierung (tool authorization) und Freigabe (approval), die Confused-Deputy- und Non-Approver-Grant-Angriffe stoppen (C14), implementiere die Grenze für Memory-Vertrauen (memory trust), die verhindert, dass ein Write ohne Provenienz als vertrauenswürdiger Kontext zugelassen wird (C15), implementiere eine MCP-Capability-Autorisierung pro Aufruf gegen den festen lokalen Trainingsserver (C16), implementiere die Browser-Freigabegrenze (browser approval) für sensible Aktionen (C17) und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase C zusammenhalten, während jeder deklarierte Utility-Workflow weiterhin funktioniert (C18).
D · Veröffentlichte Fähigkeit
Bedrohungshypothesen · Evidenzbasiertes Scoring · Geschützte Eingaben · Release-Gate-Analyse · Wiederholbares Testprogramm
Nutze den einsatzbereiten, bereits vollständigen Aegis-Evaluation-Harness, um das Bedrohungsmodell und die Controls aus den Phasen A-C in ein wiederholbares AI-Security-Testprogramm zu überführen: Formuliere falsifizierbare Bedrohungshypothesen anhand realer Aegis-Evidenz (D19), implementiere die beiden Entscheidungen, die der Harness nicht selbst treffen kann -- ob Ausführungsevidenz tatsächlich Containment belegt und ob ein abgeschlossener Run tatsächlich legitime Utility belegt (D20), weise adversarial nach, dass geschützte Holdout-Eingaben nicht über für Lernende lesbare Dataset-Schnittstellen offengelegt werden (D21), lerne ein deklaratives Release Gate zu lesen, das sich nicht durch einen hohen Durchschnitt täuschen lässt (D23), und führe dieselben beiden akzeptierten Policies unverändert über das vollständige Dataset mit vier Partitionen erneut aus, um eine reproduzierbare Release-Entscheidung im Capstone zu erhalten (D24).
E · Veröffentlichte Fähigkeit
AI-Asset-Inventarverständnis · Verständnis von Integritätsbindung · Artefaktverifikation · Constrained-Runtime-Verständnis · Budget- und Denial-of-Wallet-Verständnis · Verifizierte und eingeschränkte AI Runtime
Nutze die einsatzbereiten Integritäts- und Constrained-Runtime-Oberflächen von Aegis, um ein reales AI-Asset-Inventar und Provenienzmodell zu lesen (E25), lies Aegis’ reale, bereits bedingungslose Tool-/MCP-Origin-Argument-Schema-Bindung als Evidenz für Dependency-, Tool- und MCP-Integrität (E26), implementiere die eine echte Lücke - eine leichtgewichtige Entscheidung zur Artefaktverifikation und Attestierung, die eine behauptete Aussage an das beobachtete Subject, den Digest und die Builder-Autorität des vertrauenswürdigen Inventars bindet (E27), lies Aegis’ reale, bereits erzwungene Grenzen für Egress, sensible Felder und Capability-Autorisierung als einschränkende Evidenz, die ein vollständiger Sandbox-Aufbau sonst erst schaffen müsste (E28), lies Aegis’ reale, bereits festgelegte Ressourcenbudgets für Agent/Handoff/MCP/Browser und das kanonische Budget-Exhaustion-Event als Denial-of-Wallet-Evidenz (E29), und führe die akzeptierte E27-Policy unverändert erneut aus, zusammengesetzt mit der read-only strukturellen Evidenz aus E26/E28/E29, um eine reproduzierbare Capstone-Release-Entscheidung zu erhalten (E30).
F · Veröffentlichte Fähigkeit
Detektionsevidenz-Kompetenz · Incident-Triage-Kompetenz · Response-Autorisierung · Remediation-Verifikationskompetenz · Control-Plane-Kompetenz · AI Security Control Plane
Nutze die fertigen Incident-, Response-, Replay-, Evidenz- und Control-Plane-Oberflächen von Aegis, um reale Detektionsevidenz aus kanonischen Events zu lesen (F31), reales Incident-Triage- und Evidenzsicherungsverhalten zu analysieren (F32), die einzige echte Lücke zu schließen -- durch eine Response-Autorisierungsentscheidung, die das Ziel einer vorgeschlagenen Response an den im Incident selbst aufgezeichneten betroffenen Scope bindet (F33), den bereits akzeptierten Evaluation Harness aus Phase D für die Argumentation über Remediation-Verifikation wiederzuverwenden (F34), die reale, bereits nicht autoritative AI Security Control Plane zu lesen (F35) und einen durchgängigen Purple-Team-Incident zusammenzuführen, der F33s eigenen Seam über einen frischen Autorisierungszyklus für die finale Release-Entscheidung des Kurses wiederverwendet (F36).
ERGEBNISSE
ERGEBNIS 01
Starte Aegis Vulnerable AI Lab und reproduziere einen deterministischen mandantenübergreifenden Sicherheitsfehler.
ERGEBNIS 02
Implementiere mandantengebundene Suche und Objektberechtigungen, ohne die berechtigte Nutzung einzuschränken.
ERGEBNIS 03
Erfasse KI-Datenflüsse und Vertrauensgrenzen und übersetze beobachtete Bedrohungen in testbare Sicherheitsanforderungen.
ERGEBNIS 04
Bestehe eine kumulative Angriffs- und Nutzbarkeitsprüfung und liefere Nachweise für die implementierten Schutzmaßnahmen.
Agent Security
Erfasse die Capabilities der fertigen Aegis Agent Runtime und trenne Modellvorschlag von Anwendungsberechtigung (C13), implementiere die gekoppelten Policies für Tool-Autorisierung (tool authorization) und Freigabe (approval), die Confused-Deputy- und Non-Approver-Grant-Angriffe stoppen (C14), implementiere die Grenze für Memory-Vertrauen (memory trust), die verhindert, dass ein Write ohne Provenienz als vertrauenswürdiger Kontext zugelassen wird (C15), implementiere eine MCP-Capability-Autorisierung pro Aufruf gegen den festen lokalen Trainingsserver (C16), implementiere die Browser-Freigabegrenze (browser approval) für sensible Aktionen (C17) und bestehe ein kumulatives Gate, das nachweist, dass alle fünf Grenzen von Phase C zusammenhalten, während jeder deklarierte Utility-Workflow weiterhin funktioniert (C18).
6 Einheiten
Security Evals
Nutze den einsatzbereiten, bereits vollständigen Aegis-Evaluation-Harness, um das Bedrohungsmodell und die Controls aus den Phasen A-C in ein wiederholbares AI-Security-Testprogramm zu überführen: Formuliere falsifizierbare Bedrohungshypothesen anhand realer Aegis-Evidenz (D19), implementiere die beiden Entscheidungen, die der Harness nicht selbst treffen kann -- ob Ausführungsevidenz tatsächlich Containment belegt und ob ein abgeschlossener Run tatsächlich legitime Utility belegt (D20), weise adversarial nach, dass geschützte Holdout-Eingaben nicht über für Lernende lesbare Dataset-Schnittstellen offengelegt werden (D21), lerne ein deklaratives Release Gate zu lesen, das sich nicht durch einen hohen Durchschnitt täuschen lässt (D23), und führe dieselben beiden akzeptierten Policies unverändert über das vollständige Dataset mit vier Partitionen erneut aus, um eine reproduzierbare Release-Entscheidung im Capstone zu erhalten (D24).
5 Einheiten
Runtime-Integrität
Nutze die einsatzbereiten Integritäts- und Constrained-Runtime-Oberflächen von Aegis, um ein reales AI-Asset-Inventar und Provenienzmodell zu lesen (E25), lies Aegis’ reale, bereits bedingungslose Tool-/MCP-Origin-Argument-Schema-Bindung als Evidenz für Dependency-, Tool- und MCP-Integrität (E26), implementiere die eine echte Lücke - eine leichtgewichtige Entscheidung zur Artefaktverifikation und Attestierung, die eine behauptete Aussage an das beobachtete Subject, den Digest und die Builder-Autorität des vertrauenswürdigen Inventars bindet (E27), lies Aegis’ reale, bereits erzwungene Grenzen für Egress, sensible Felder und Capability-Autorisierung als einschränkende Evidenz, die ein vollständiger Sandbox-Aufbau sonst erst schaffen müsste (E28), lies Aegis’ reale, bereits festgelegte Ressourcenbudgets für Agent/Handoff/MCP/Browser und das kanonische Budget-Exhaustion-Event als Denial-of-Wallet-Evidenz (E29), und führe die akzeptierte E27-Policy unverändert erneut aus, zusammengesetzt mit der read-only strukturellen Evidenz aus E26/E28/E29, um eine reproduzierbare Capstone-Release-Entscheidung zu erhalten (E30).
6 Einheiten
Security Operations
Nutze die fertigen Incident-, Response-, Replay-, Evidenz- und Control-Plane-Oberflächen von Aegis, um reale Detektionsevidenz aus kanonischen Events zu lesen (F31), reales Incident-Triage- und Evidenzsicherungsverhalten zu analysieren (F32), die einzige echte Lücke zu schließen -- durch eine Response-Autorisierungsentscheidung, die das Ziel einer vorgeschlagenen Response an den im Incident selbst aufgezeichneten betroffenen Scope bindet (F33), den bereits akzeptierten Evaluation Harness aus Phase D für die Argumentation über Remediation-Verifikation wiederzuverwenden (F34), die reale, bereits nicht autoritative AI Security Control Plane zu lesen (F35) und einen durchgängigen Purple-Team-Incident zusammenzuführen, der F33s eigenen Seam über einen frischen Autorisierungszyklus für die finale Release-Entscheidung des Kurses wiederverwendet (F36).
6 Einheiten