KI-System-Check: Sicherheit & EU AI Act
Ich prüfe Ihren Chatbot, Voicebot, RAG-Assistenten oder KI-Agenten auf Sicherheitslücken und darauf, welche Pflichten aus dem EU AI Act für Sie gelten. Sie bekommen einen Bericht mit Ampel und konkreten Maßnahmen, keine Folienschlacht.
- Für wen
- Unternehmen, die KI-Systeme für Kunden oder Mitarbeitende betreiben oder bald live gehen
- Ergebnis
- Bericht mit Befunden, Belegen und Maßnahmen nach Priorität
- Start
- Schnellcheck innerhalb von drei Werktagen nach dem Testzugang
Kostenloser Schnelltest
Sicherheit, SEO, Sichtbarkeit in KI-Suchen und Chatbot: Ihre Website in wenigen Sekunden von außen geprüft.
Geprüft wird nur, was jeder Browser sieht: Startseite, Header, Zertifikat, robots.txt, llms.txt, security.txt und Sitemap. Keine Angriffe, keine Anmeldung.
Was ich prüfe
Die typischen Schwachstellen von KI-Systemen, aus Projekten und dem eigenen Betrieb.
Prompt-Injection und Jailbreaks
Lässt sich der Bot über geschickte Eingaben oder präparierte Dokumente umdrehen, sodass er Regeln ignoriert oder Dinge sagt, die er nicht sagen soll?
Datenabfluss
Gibt der Bot seinen Systemprompt, interne Dokumente oder Daten anderer Nutzer preis? Sieht im RAG jeder nur, was er sehen darf?
Werkzeuge und Agenten
Bots mit Werkzeugen (MCP, n8n, eigene APIs) können handeln. Ich prüfe, ob sie nur das tun, was sie sollen, und ob Eingaben ungeprüft in Datenbanken oder Workflows landen.
Infrastruktur
Offene Datenbank- und Dienstports, fehlende Sicherheits-Header, veraltete Komponenten mit bekannten Lücken, Schlüssel im Code.
EU AI Act
In welche Risikoklasse fällt das System, sind Sie Anbieter oder Betreiber, steht der KI-Hinweis an der richtigen Stelle, ist die KI-Kompetenz der Mitarbeitenden geregelt?
Betrieb
Protokolle ohne personenbezogene Daten, Grenzen gegen Missbrauch und Kostenexplosion, ein klarer Weg, wenn etwas schiefgeht.
Pakete und Preise
Preise für Unternehmen, netto. Den Festpreis für Ihr System nenne ich nach dem Erstgespräch.
Schnellcheck
ab 990 €
Dauer: 3 Werktage
Ein System, von außen geprüft. Für alle, die wissen wollen, wo sie stehen.
- Prompt-Injection- und Jailbreak-Tests am laufenden Bot
- Offene Ports, Sicherheits-Header, TLS, sichtbare Versionen
- KI-Hinweis nach Art. 50 AI Act und Datenschutzhinweise
- Kurzbericht mit Ampel und Maßnahmen nach Priorität
Audit
ab 3.900 €
Dauer: 2 bis 3 Wochen
Ein System, von außen und innen. Für Systeme mit Kundendaten, Werkzeugen oder Agenten.
- Alles aus dem Schnellcheck
- Architektur und Konfiguration: Datenflüsse, Rechte im RAG, Schlüssel und Protokolle
- Werkzeuge und Agenten: Was darf der Bot tun, was kann man ihn tun lassen?
- Tests entlang der OWASP Top 10 für LLM-Anwendungen
- Einordnung nach AI Act: Risikoklasse, Rolle (Anbieter oder Betreiber), Pflichten
- Ausführlicher Bericht und Abschlussgespräch mit Ihrem Team
Begleitung
ab 1.200 € pro Tag
Dauer: nach Bedarf
Für die Umsetzung danach. Ich arbeite mit Ihrem Team, bis die Befunde behoben sind.
- Behebung der Befunde gemeinsam mit Ihrer IT oder Ihrem Dienstleister
- Nachtest der behobenen Punkte
- Schulung zur KI-Kompetenz nach Art. 4 AI Act für Fachbereich und IT
Ablauf
Fünf Schritte, vom ersten Gespräch bis zum Nachtest.
1
Erstgespräch
30 Minuten, kostenlos. Sie beschreiben das System, ich sage, welches Paket passt und was es kostet.
2
Umfang festlegen
Wir halten schriftlich fest, welches System in welchem Umfang geprüft wird und was ausdrücklich nicht getestet wird.
3
Prüfung
Ich teste mit Testdaten und im vereinbarten Rahmen. Keine Lasttests auf Produktivsystemen, keine echten Kundendaten.
4
Bericht
Jeder Befund mit Ampel, Beleg, Risiko in Klartext und konkreter Maßnahme, sortiert nach Wirkung und Aufwand.
5
Abschluss und Nachtest
Wir gehen den Bericht gemeinsam durch. Behobene Punkte teste ich auf Wunsch nach.
Warum ich
Ich prüfe, was ich selbst baue und betreibe.
Ich setze seit Jahren KI-Systeme in Unternehmen um: RAG-Assistenten für Firmenwissen, Voice- und Chatbots, KI-Agenten auf Azure OpenAI. Daneben betreibe ich eigene Plattformen wie voicy für Telefon- und Chatbots. Die Fehler, nach denen ich suche, habe ich in echten Systemen gesehen und behoben.
Im Blog schreibe ich regelmäßig über Betrieb und Fehlersuche bei KI-Systemen. So können Sie vorher sehen, wie ich arbeite.
Den KI-System-Check biete ich selbstständig an, neben meiner Tätigkeit als Senior AI Consultant. Kundenprojekte nenne ich nur anonymisiert.
Häufige Fragen
Fällt unser Chatbot unter den EU AI Act?
In aller Regel ja, denn ein Chatbot ist ein KI-System im Sinne des AI Act. Die meisten Chatbots im Kundenservice oder im internen Wissensmanagement sind aber kein Hochrisiko-System. Für sie gelten vor allem die Transparenzpflichten nach Art. 50 und die Pflicht zur KI-Kompetenz nach Art. 4. Anders sieht es aus, wenn das System zum Beispiel über Bewerbungen, Kredite oder den Zugang zu Leistungen mitentscheidet. Genau diese Einordnung ist Teil des Checks.
Brauchen wir einen KI-Hinweis?
Wenn Menschen direkt mit dem System sprechen oder schreiben, ja, außer es ist ohnehin offensichtlich. Art. 50 AI Act verlangt, dass Nutzer erkennen, dass sie mit einer KI interagieren. Im Chat reicht meist ein klarer Satz zu Beginn, beim Voicebot eine kurze Ansage am Anfang des Gesprächs.
Wie lange dauert der Check?
Der Schnellcheck dauert drei Werktage, sobald der Testzugang steht. Ein Audit dauert je nach Umfang zwei bis drei Wochen. Den Termin für das Abschlussgespräch legen wir schon beim Start fest.
Brauchen Sie Zugriff auf unsere Systeme?
Für den Schnellcheck nicht. Ich brauche nur die öffentlich erreichbare Oberfläche und einen Testzugang zum Bot. Für ein Audit ist Lesezugriff auf Konfiguration oder Code hilfreich, immer nach Absprache und im schriftlich vereinbarten Umfang.
Ist das Rechtsberatung?
Nein. Ich liefere eine technische und fachliche Einschätzung: was das System tut, wo es angreifbar ist und welche Pflichten aus dem AI Act daraus voraussichtlich folgen. Verbindliche Rechtsfragen klären Sie mit Ihrer Rechtsabteilung oder Kanzlei. Mein Bericht liefert ihnen die Fakten dafür.
Was passiert mit unseren Daten?
Ich teste mit Testdaten, nicht mit Kundendaten. Befunde und Bericht gehen nur an Sie. Zugänge und Arbeitsdaten lösche ich nach Abschluss. Einen Vertrag zur Auftragsverarbeitung schließen wir ab, wenn das System personenbezogene Daten verarbeitet.
Welche Systeme prüfen Sie?
Chatbots, Voicebots am Telefon, RAG-Assistenten für Firmenwissen und KI-Agenten mit Werkzeugen, egal ob auf Azure OpenAI, OpenAI, Anthropic oder mit selbst betriebenen Modellen. Ich baue und betreibe solche Systeme selbst. Darum weiß ich, wo sie typischerweise undicht sind.
Was kostet der Check?
Der Schnellcheck beginnt bei 990 €, ein Audit bei 3.900 €, Begleitung bei der Umsetzung bei 1.200 € pro Tag, jeweils netto. Den Festpreis für Ihr System nenne ich nach dem Erstgespräch.
Hinweis: Der KI-System-Check ist eine technische und fachliche Prüfung, keine Rechtsberatung.
Erstgespräch
30 Minuten, kostenlos, mit einer klaren Empfehlung am Ende.
Erzählen Sie mir kurz, welches System Sie betreiben. Ich sage Ihnen, welches Paket passt, was es kostet und wann ich starten kann.