Neue Systeme, neue Angriffswege
KI-Anwendungen verarbeiten Anweisungen in natürlicher Sprache. Angreifer können versuchen, sie mit präparierten Eingaben zu manipulieren (Prompt Injection). Oft haben KI-Assistenten Zugriff auf Dokumente, Postfächer oder andere Systeme und damit auf mehr Daten, als nötig wäre.
Das Geschäftsrisiko
Eine manipulierte KI kann vertrauliche Daten preisgeben, falsche Auskünfte erteilen oder Aktionen in verbundenen Systemen auslösen. Weil die Technik neu ist, fehlen in vielen Unternehmen noch Erfahrungen und Prüfroutinen.
Worauf wir achten
-
Eingaben: Wie anfällig ist das System für manipulierte Anweisungen?
-
Datenzugriffe: Auf welche Daten kann die KI zugreifen, und ist das notwendig?
-
Schnittstellen: Wie ist die KI mit anderen Systemen verbunden?
-
Berechtigungen: Welche Aktionen darf die KI selbstständig ausführen?
-
Betrieb: Protokollierung, Überwachung und Verantwortlichkeiten
Ergebnis
Sie erhalten eine Einschätzung der Risiken Ihrer KI-Anwendung und konkrete Empfehlungen zur Absicherung. Umfang und Vorgehen stimmen wir auf Ihr System ab.
Häufige Fragen
Für welche KI-Systeme ist die Analyse sinnvoll?
Für alle Anwendungen, bei denen KI auf Unternehmensdaten zugreift oder mit Kunden und Mitarbeitenden interagiert, etwa Chatbots, Assistenten oder automatisierte Abläufe.