LLM-Pentest & KI-Pentest
Klassische Penetrationstests übersehen die Angriffsfläche moderner KI-Systeme. Ein LLM-Pentest (auch KI-Pentest) prüft Ihre KI-Anwendung gezielt auf die Schwachstellen, die durch Large Language Models neu entstehen — manuell und werkzeuggestützt, so wie echte Angreifer vorgehen.
Für wen?
Für Unternehmen, die einen Chatbot, KI-Assistenten, RAG-System oder KI-Agenten produktiv einsetzen oder vor dem Launch absichern wollen — bevor es jemand anders testet.
Was ich teste
- Prompt & Indirect Prompt Injection — Überschreiben der ursprünglichen Anweisungen
- Jailbreaks & Guardrail-Bypass — Umgehen der Sicherheitsregeln
- System-Prompt-Leak & Sensitive Information Disclosure — Abfluss interner Daten
- Insecure Output Handling — gefährliche Weiterverarbeitung der Modell-Ausgabe
- RAG-Poisoning & Tool-/API-Missbrauch bei verbundenen Systemen
Alle Findings werden auf die OWASP LLM Top 10 und MITRE ATLAS gemappt — nachvollziehbar und anschlussfähig an gängige Standards.
Ablauf
- 1. Scoping — gemeinsame Festlegung von Ziel, Umfang und Freigaben (nur sanktionierte Systeme)
- 2. Test — manuelle Angriffe + Tools wie Garak, PyRIT, Promptfoo
- 3. Report — Schwachstellen mit Schweregrad, Nachweis und konkreter Gegenmaßnahme
- 4. Nachtest (optional) — Verifikation der behobenen Findings
Ihr Ergebnis
Ein verständlicher Report, der Risiko und Maßnahme klar macht — nicht nur Tool-Output. Geeignet für Technik und Entscheider.