AI Act: Jetzt informieren und bei Standards einbringen

Das Problem: Noch ist einiges im Unklaren. Vor allem Standards, die über alle Branchen hinweg identisch sein werden, werden derzeit noch entwickelt. Man weiß, dass Banken mit einer Vielzahl ihrer KI-Anwendungen grundsätzlich unter den Hochrisiko-Annex III fallen. Damit ist klar, dass solche Anwendungen nur mit einer Konformitätsbewertung erlaubt werden. Wann genau eine Anwendung aber eine im Sinne des AI Acts ist, ist nicht immer eindeutig. Aurin: „Deshalb ist es wichtig, dass sich möglichst viele Banken in die Entwicklung der Standards mit einbringen. Ansonsten müssen sie mit Standards leben, die nach den Anforderungen von anderen Branchen wie Gesundheit oder Kommunikationsinfrastruktur entwickelt wurden.“

Risiken durch mangelhafte Trainingsdaten und verbotene KI-Praktiken

Wo die Reise grundsätzlich hingeht, ist hingegen klar. Der AI Act stellt Anforderungen an Hochrisiko-Systeme: Beispielsweise sollen so weit wie möglich einwandfreie und ausreichende Trainingsdaten eingesetzt werden, um einen schädlichen Bias, wie die Diskriminierung bestimmter Gruppen einer Hochrisiko-KI-Anwendung zu vermeiden. Denkbar wäre das etwa bei Kreditbewertungssystemen. Die so genannte Kindergeldaffäre in den Niederlanden gibt einen Eindruck von den möglichen Auswirkungen. Von 2013 an sorgte dort ein algorithmisches Entscheidungssystem dafür, dass Eltern bestimmter Nationen fälschlicherweise Sozialbetrug vorgeworfen wurde und man ausbezahlte Kinderbeihilfen zurückforderte. Viele von ihnen gerieten dadurch in höchste finanzielle Nöte. 2021 führte die Affäre zum Ende der Regierung von Mark Rütte.

In Abgrenzung zu Hochrisiko-KI-Systemen sind bestimmte KI-Praktiken bereits seit gut einem Jahr verboten. Eine verbotene KI-Praktik könnte zum Beispiel dann vorliegen, wenn ein Algorithmus gezielt Werbung für schädliche Finanzprodukte wie sehr teure Kredite oder betrügerische Angebote an Menschen in einkommensschwachen Gegenden ausspielt. Nicht verboten sind dagegen KI-Systeme in Banken, die Alter oder finanzielle Situation berücksichtigen, um Menschen zu schützen. Wenn eine KI zum Beispiel älteren Personen oder Menschen mit geringem Einkommen Kredite mit fairen und gut tragbaren Konditionen anbietet, dient sie der Unterstützung und nicht der Ausbeutung. Richtig eingesetzt kann KI so zu mehr Fairness und nachhaltigen Finanzdienstleistungen beitragen.

KI-Service Desk schafft Abhilfe

Der Digital Operational Resilience Act (DORA) dürfte dafür gesorgt haben, dass die meisten Banken bereits auf dem richtigen Weg sind. Bei etwaigen Unsicherheiten hilft derzeit die Bundesnetzagentur mit ihrem KI-Service Desk. Hier sind alle derzeit verfügbaren Informationen rund um den AI Act übersichtlich erklärt. Ein KI-Compliance Kompass unterstützt zudem bei der Feststellung, ob geplante Anwendungen KI-Systeme im Sinne des AI Acts sind und – falls sie das sind – in welche Risikoklasse sie fallen und wie weiter zu verfahren ist. „Die Betreiber des KI-Systems müssen sicherstellen und erklären, dass ihr System AI Act-konform ist“, klärt Aurin auf. Vorbehaltlich des Durchführungsgesetzes liegt die Marktüberwachung von Finanzdienstleistungen dann bei der BaFin, die zum Beispiel beschwerdebasiert eingreifen wird. Abgesehen von immensen Reputationsschäden klärt Artikel 99 darüber auf, was ein Verstoß zur Folge hat: Im schlimmsten Fall sind dann bis zu sieben Prozent des weltweiten Jahresumsatzes als Strafe fällig.