KI-Governance, Datenschutz & KI-Sicherheit
Getestete KI-Anwendungen, priorisierte Befunde mit Lösungen und Kontrollen, die Prompt Injection und Datenabfluss eindämmen.
Die Ausgangslage
KI-Anwendungen werden über Sprache angegriffen, nicht nur über Code. Eine versteckte Anweisung in einer E-Mail, auf einer Webseite oder in einem geteilten Dokument kann einen Copilot oder Agenten dazu bringen, Daten preiszugeben oder Aktionen auszuführen, die niemand wollte.
Agenten lesen Postfächer, fragen Datenbanken ab und rufen APIs mit echten Berechtigungen auf. RAG-Anwendungen können Dokumente liefern, die eine Person nie sehen dürfte. Klassische Penetrationstests decken diese Risiken nicht ab, und die meisten KI-Anwendungen gehen ohne eigenen Test live.
Was wir tun
Wir erfassen jede KI-Anwendung mit Modellen, Prompts, Datenquellen, Tools, Identitäten und Nutzenden und ermitteln, wie sie angegriffen werden kann und was ein Angreifer erreichen würde.
Wir prüfen Agenten-Identitäten, Rechte von Konnektoren, Zugriffskontrolle bei der Suche und den Umgang mit Ausgaben gegen das Prinzip der minimalen Rechte und die OWASP Top 10 for LLM Applications.
Wir greifen die Anwendung mit direkter und indirekter Prompt Injection, Jailbreaks, dem Auslesen von System-Prompts, Datenabfluss und dem Missbrauch von Tools und Agenten-Aktionen an.
Wir testen, ob die Suche die Berechtigungen der Nutzenden einhält, ob manipulierte Dokumente Antworten verändern und ob sensible Daten über den Index abfließen.
Wir priorisieren die Befunde nach Risiko, unterstützen Ihre Teams bei der Behebung und testen nach, damit Sie wissen, dass die Lösung wirkt.
Wir richten Eingabe- und Ausgabefilter, menschliche Freigabe für folgenreiche Agenten-Aktionen, Protokollierung und Überwachung für die Anwendungen ein, die sie brauchen.
So arbeiten wir
Unsere Sicherheitsberatung modelliert die Bedrohungen, prüft die Architektur und berät zum sicheren Design von Copilots, Agenten und KI-Anwendungen.
Unsere Tester führen das Red Teaming in Ihrer Umgebung durch, und unsere Fachleute setzen Korrekturen, Guardrails und Rechteänderungen gemeinsam mit Ihren Teams um.
Als Managed Service testen wir KI-Anwendungen nach Änderungen und in festen Abständen erneut und überwachen Guardrails und Agentenrechte.
Regelwerke
Plattform
Ab Dezember 2026 setzt die Fidempli-Plattform die Guardrails live um: Jeder Prompt und jede Agenten-Aktion wird geprüft, bevor sie das Modell erreicht, und folgenreiche Aktionen warten auf eine Person.
Plattform entdecken
Ein Penetrationstest betrachtet Infrastruktur und Anwendungscode. KI-Red-Teaming greift zusätzlich das Verhalten des Modells an, seine Prompts, seine Datenquellen und die Aktionen, die Agenten ausführen können. Wo es sinnvoll ist, kombinieren wir beides.
Ja. Wir testen, wie Copilot und Copilot-Studio-Agenten mit indirekter Prompt Injection, zu weit freigegebenen Inhalten und Daten aus angebundenen Quellen umgehen, im Rahmen der Testbedingungen von Microsoft.
Wir bevorzugen eine Testumgebung, die der Produktion entspricht. Wenn wir in der Produktion testen, stimmen wir Umfang, Testkonten und Grenzen vorab mit Ihnen ab.
Eine verbreitete Liste der wichtigsten Sicherheitsrisiken für Anwendungen auf Basis großer Sprachmodelle, von Prompt Injection bis zu zu weitreichenden Handlungsbefugnissen. Wir strukturieren damit Tests und Befunde.
Für Hochrisiko-KI-Systeme verlangt der AI Act ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit. Unabhängig davon sollte jede KI mit Zugriff auf Daten oder Systeme getestet werden, bevor sie live geht.
Eine Senior-Beraterin oder ein Senior-Berater antwortet innerhalb eines Werktags. Oder gestalten Sie die Plattform als einer von 3–5 Design-Partnern vor dem Start mit.
