01
KI-Security
threat-modeling · prompt-injection · data-poisoning · retrieval-acl · mcp-scopes
Ein Sprachmodell erhält Zugriff auf vertrauliche Daten oder interne Systeme und muss einer Prüfung standhalten.
Absicherung von RAG-Pipelines und LLM-Anwendungen: wer welche Dokumente zu sehen bekommt, welche Eingaben das Modell steuern dürfen und welche Aktionen ein Agent ausführen darf. Mit Projekterfahrung bis in die Hochsicherheitszone einer Bank.
- Threat Modeling für LLM- und Agenten-Anwendungen
- Prompt Injection und Data Poisoning in RAG-Pipelines
- Berechtigungsprüfung beim Retrieval
- Werkzeug- und MCP-Zugriffe von Agenten begrenzen
- Gehärtete Laufzeitumgebungen für Modelle und Gateways