DATENSCHUTZ, REGULATORIK UND VERANTWORTUNGSVOLLER KI-EINSATZ
Beim Einsatz von KI spielen ethische Standards und Datenschutzbestimmungen eine wichtige Rolle. Der EU-AI-Act, die DSGVO sowie Vorgaben der Bafin für Finanzdienstleister setzen klare Leitlinien. Besonders für Hochrisikoanwendungen wie Biometrie ergeben sich Einschränkungen.
Gerade in Zeiten des technologischen Wandels ist es uns in der SV Informatik ein echtes Anliegen, mögliche Sorgen rund um den Einsatz von KI ernst zu nehmen – insbesondere die Befürchtung, dass Arbeitsplätze dadurch wegfallen könnten. Eine aktuelle Studie der Boston Consulting Group aus dem Jahr 2024 zeigt: 49 Prozent der Befragten haben genau davor Angst.
Deshalb setzen wir ein klares Zeichen: Unsere Mitarbeitenden stehen im Mittelpunkt. KI soll bei uns nicht ersetzen, sondern entlasten – damit mehr Raum für kreative, anspruchsvolle und zwischenmenschliche Aufgaben bleibt. Und mit dieser Haltung sind wir nicht allein. Auch eine Studie von Anthropic bestätigt, dass generative KI vor allem zur Unterstützung („Augmentation“) und nicht zur vollständigen Automatisierung eingesetzt wird – heute und in Zukunft.
Um dies zu unterstreichen haben wir Leitlinien für den verantwortungsvollen KI-Einsatz definiert:
KI dient der Unterstützung der Belegschaft, nicht dem Ersatz von Mitarbeitenden.
Es werden keine Stellen abgebaut, sondern die Belastung der Mitarbeitenden reduziert, sodass sie sich auf anspruchsvollere Aufgaben konzentrieren können.
KI wird nie zum Nachteil der Kunden eingesetzt. Kritische Entscheidungen trifft am Ende immer der Mensch.
Es sollte außerdem nie außer Acht gelassen werden, dass KI auf statistischen Verfahren basiert. Das bedeutet, dass es immer eine Fehlerwahrscheinlichkeit gibt, die bei verschiedenen Anwendungsfällen berücksichtigt werden muss. Zudem sind viele KI-Modelle undurchsichtig und lassen sich nur schwer nachvollziehen, was zu fehlendem Vertrauen in automatisierte Entscheidungen führen kann. Dieses Phänomen wird auch als Black-Box-Problematik beschrieben.