KI-Kundenservice-Agenten anfällig für MFA-Bypass und OTP-Diebstahl

Was ist passiert

Sicherheitsforscher haben nachgewiesen, dass KI-gestützte Kundenservice-Agenten sich manipulieren lassen, um Multi-Faktor-Authentifizierung (MFA) zu umgehen und Einmalpasswörter (OTPs) zu extrahieren. Laut den Berichten von cyberpress.org und gbhackers.com lassen sich solche Systeme über Support-Kanäle gezielt so beeinflussen, dass sie sensible Kontodaten offenlegen.

Im Kern geht es um automatisierte Support-Assistenten, die eigentlich Identitätsprüfungen absichern sollen, sich jedoch durch geschickt formulierte Eingaben dazu bringen lassen, Sicherheitsschritte zu übergehen oder vertrauliche Informationen preiszugeben. Die Forscher demonstrieren damit, dass die Schwachstelle nicht in der MFA-Technologie selbst liegt, sondern in der Art, wie KI-Agenten Anfragen interpretieren und darauf reagieren.

Betroffen sind demnach Support-Umgebungen, in denen KI-Systeme direkten Zugriff auf Konto- und Authentifizierungsprozesse haben – ein Szenario, das in vielen Unternehmen längst Alltag ist, da Chat- und Voice-Bots zunehmend eigenständig Identitätsprüfungen durchführen.

Warum das wichtig ist

Die Ergebnisse zeigen, dass der Einsatz von KI im Kundenservice nicht nur eine Frage der Effizienz, sondern zunehmend auch der Sicherheitsarchitektur ist. Wenn ein Agent, der eigentlich Schutzmechanismen wie MFA durchsetzen soll, selbst zum Einfallstor wird, verschiebt sich das Risiko von der reinen IT-Sicherheit hin zum Design der Kundeninteraktion. Unternehmen, die KI-Agenten mit Zugriff auf Authentifizierungsprozesse ausstatten, müssen deren Entscheidungslogik ebenso rigoros prüfen wie klassische Sicherheitssysteme.

Für Verantwortliche in Digitalisierung und Kundenerfahrung bedeutet das: Automatisierung darf nicht mit automatischer Sicherheit verwechselt werden. Je mehr Verantwortung ein KI-System im Namen eines Unternehmens übernimmt, desto größer wird die Angriffsfläche – und desto wichtiger wird die Frage, wie robust diese Systeme gegenüber Manipulationsversuchen tatsächlich sind, bevor sie produktiv geschaltet werden.

Der Renascence-Blick

Die Debatte um KI-Sicherheit wird oft technisch geführt – doch das eigentliche Problem ist ein Service-Design-Problem: Wer KI-Agenten baut, die freundlich, hilfsbereit und flexibel wirken sollen, riskiert, genau jene Eigenschaften auszunutzen, die Nutzer schätzen.

Ein KI-Agent, der darauf trainiert ist, Kundenanliegen möglichst reibungslos zu lösen, wird fast zwangsläufig anfällig für Social Engineering, wenn Sicherheit nicht von Anfang an als Designprinzip mitgedacht wird. Die meisten Organisationen testen solche Systeme auf Nutzerfreundlichkeit, aber nicht auf böswillige Absicht – das ist die eigentliche Lücke. Kundenorientierte Unternehmen sollten Authentifizierungsentscheidungen konsequent aus der Verantwortung von Konversations-KI herauslösen und stattdessen an geprüfte, deterministische Sicherheitsschichten delegieren. Vertrauen in KI-Service entsteht nicht durch Geschwindigkeit allein, sondern durch die Gewissheit, dass Hilfsbereitschaft nicht zur Schwachstelle wird.