Cyberrisiken durch KI: „Die Reaktionszeit muss schneller werden.“

Herr Dr. Bartsch, inwieweit haben sich die Anforderungen an Cybersicherheit durch KI verändert?

Dr. Steffen Bartsch: Grundlegend sehe ich keine große Veränderung bei den Anforderungen – Patch-Management haben wir schon immer gemacht. Jedoch müssen die Organisation und die technische Umsetzung viel schneller werden, da die Bedrohungen wachsen und Sicherheitslücken schneller ausgenutzt werden können. Es braucht beschleunigte Prozesse und IT-Systeme, die diese Anforderungen erfüllen.

Die größte Herausforderung besteht also darin, schneller zu werden?

Dr. Steffen Bartsch: Ja, die Zeit ist ein zentraler Aspekt. Die wenigsten Banken sind Start-ups, die schnell agieren und mit modernsten Systemen arbeiten. Die meisten Banken arbeiten mit strukturell gewachsenen IT-Systemen, die erst modernisiert werden müssen. Um die Reaktionszeit zu beschleunigen, die im KI-Zeitalter erforderlich ist, übertragen wir bei Berenberg schrittweise Legacy-Systeme in moderne Technologien.

Zudem verändert sich die Risiko-Balance von einer Übergewichtung der reinen Betriebsstabilität hin zur Sicherheit. Wir patchen dann, wenn es notwendig ist. Man kann nicht mehr sagen: Wir patchen nicht, weil wir eine Down-Time haben könnten.

Wo liegt der Unterschied zwischen großen und kleinen Banken in der IKT-Risikosteuerung?

Dr. Steffen Bartsch: Die Komplexität unterscheidet sich von Bank zu Bank, es kommt darauf an, wie viele Prozesse ausgelagert sind bzw. selbst gesteuert werden. Wir bei Berenberg als mittelgroße Bank haben zum Beispiel eine umfangreiche IT, die wir steuern müssen. Dafür haben wir weniger Gremien und agieren direkter.

Wo spielt der Mensch eine Rolle? Und wo ist er künftig mehr gefragt als heute?

Dr. Steffen Bartsch: Der Mensch übernimmt eine überwachende Rolle. Jemand muss für die Ergebnisse der KI die Verantwortung tragen und sie begleiten. Außerdem muss jemand entscheiden und die Organisation davon überzeugen, welche Themen gerade die höchste Priorität haben. Das kann eine KI unterstützen, aber nicht ersetzen. Dass Menschen Bedrohungsanalysen durchführen, ergibt ebenfalls weitaus mehr Sinn als eine reine Datenanalyse durch KI. Auch nehmen wir als Team diverse Learnings im Prozess mit, die uns weiterbringen.

Wie gehen Sie bei Berenberg vor? Testen Sie bereits verfügbare Frontier-KI-Modelle für die Schwachstellensuche?

Dr. Steffen Bartsch: Wir nutzen bei Berenberg Frontier-KI-Modelle beispielsweise intensiv für Vibe-Coding (Softwareentwicklung rein über Textbefehle an eine KI, die den eigentlichen Code schreibt) und zum Aufspüren von Schwachstellen in Software. Dabei setzen wir sowohl Modelle von Anthropic als auch von OpenAI und Google ein.

Aktuell verwenden wir KI noch nicht beim Pen-Testing, also der Simulation von Cyberangriffen. Wir kennen alle die Beispiele von KI-Agenten, die eigenmächtig ihren Scope erweitern und nicht mehr kontrollierbar sind. Das können wir uns beim Pen-Testing nicht erlauben. Aktuell sind wir mit unseren klassischen Schwachstellenscans und Pen-Tests gut aufgestellt. Wir erwarten aber von unseren Pen-Test-Dienstleistern, dass sie die neuen Möglichkeiten nutzen.

Wie minimieren Sie den Schaden in Ihrer Bank, wenn ein Angriff stattfindet?

Dr. Steffen Bartsch: Hier setzen wir weiterhin auf klassische Incident-Response-Pläne, da die Auswirkungen immer sehr individuell und nicht direkt reproduzierbar sind. Durch KI haben wir noch keine entscheidenden Verbesserungen bemerkt, bewerten das aber immer wieder neu. Dabei ist uns immer bewusst, dass wir gerade bei technischen Gegenmaßnahmen die KI engmaschig durch Menschen steuern und kontrollieren müssen.

Wer trägt die Verantwortung, wenn die Künstliche Intelligenz eine Sicherheitslücke übersieht oder falsch priorisiert?

Dr. Steffen Bartsch: Die Frage der Haftung ist sehr spannend. Es gibt häufig zwei Akteure: die Seite, die den Prompt schreibt und KI-Handlungen überwacht – und die Seite, die die KI und deren Verhalten entwickelt hat. Beide haben ihren Beitrag geleistet. Das ist teilweise schwer auseinanderzuhalten. Der Sicherheitsvorfall bei OpenAI und Hugging Face zeigt, dass sich KI nicht immer vollständig überwachen lässt. Aber die promptende Seite hat ggfs. bewusst Sicherheitsfunktionen ausgeschaltet oder nicht berücksichtigt. Dann liegt, aus meiner persönlichen Sicht, hier die Verantwortung. Das wird man jedoch im Einzelfall immer wieder diskutieren müssen.