P●I–Autorin Susanne Jungblut hat sich der Lage und der Perspektive der KI im deutschen Pensionswesen angenommen. Heute Teil II ihres zweiteiligen Beitrags: von Halluzinationen, dem Austausch von Höflichkeiten, dem Umgang mit Datensalaten … und in mindestens einem Punkt hat die KI etwas sehr menschliches.
Wenden wir uns nach der Diskussion diverser, längst nicht aller KI-Anwendungsfälle im Pensionswesen im ersten Teil des Beitrags nun erneut einigen grundsätzlichen Fragen der KI-Anwendung zu. Beginnen wir mit der Tatsache, dass auch KI nicht vom Himmel fällt:
Grundsatzfrage Kosten: Billing in the Name of
Beschaffen, betreiben, schulen, prüfen und und und …: Grundlegend bleibt zu bedenken, dass der Einsatz von KI auch Ressourcen fordert – und damit Geld kostet. „Wo liegt der Break even?“, fragt Andre Cera von der Hamburger Otto Group.
Und Hapev-Vorstand Melanie Jura prophezeit gar: „KI wird kurz- bis mittelfristig nicht zu Kosteneinsparungen führen. Ihr Einsatz erfordert Investitionen u.a. in qualifiziertes Personal und eine entsprechende IT-Infrastruktur. KI wird aber dazu beitragen, dass Personal- und Sachkosten weniger steigen, als es ohne ihren Einsatz der Fall wäre.“
Grundsatzfrage Sicherheit (I): If you play with KI, you play with Fire
Auffallend und nachvollziehbar gleichermaßen: wie deutlich alle hier befragten KI-Nutzer immer betonen, dass beim Einsatz der KI stets am Ende ein Mensch steht, der die finale Prüfung vornimmt und die endgültige Entscheidung trifft. Denn klar ist: KI kann Fehler machen. Von den sog. KI-Halluzinationen kann wohl ein jeder Anwender berichten. Aufsehenerregende Fälle gehen immer wieder durch die Presse. Marc Mebert, Head of Growth Center Digital Pensions & Benefits bei Mercer, weiß zu berichten, wie ein weit verbreiteter KI-Chatbot für ihn schon mal ganz neue Paragrafen im BetrAVG erfunden hat.
Florian Burg, Partner und Geschäftsführer bei Aon, hat schon Ähnliches erlebt; immerhin: Bei ihm hat sich der Chatbot, auf den Fehler aufmerksam gemacht, hierfür entschuldigt. Ja, höflich ist die KI bekanntlich, zuweilen gar zuvorkommend. Das war schon früher so. Sie ist eben ein Mensch wie Du und ich.
Grundsatzfrage Sicherheit (II): No Human, no Cry?
Nun, trotz aller Höflichkeit können derartige Fehlleistungen vor allem dann kritisch werden, wenn bspw. ein MA aufgrund einer KI-generierten Auskunft zu seiner bAV eine falsche Entscheidung trifft. Wer haftet dann letztendlich dafür? Die KI wohl kaum, und der betroffene Berechtigte auch nicht. Sondern die EbAV, die die Auskunft erteilt hat.
Andererseits: Auch bei einer konventionellen Sachbearbeitung durch Menschen passieren Fehler. Doch schon heute dürften wir soweit sein, dass Menschen Fehlgriffe häufiger unterlaufen als einer KI, urteilt Döll, und „eine KI-gestützte Bearbeitung hat zudem den Vorteil, dass jegliche Kommunikation und alle Vorgänge gespeichert werden und jederzeit eingesehen werden können. Und natürlich kann KI auch immer als Sparrings-Partner oder als zweites Augenpaar im 4-Augen-Prinzip genutzt werden.“
Klar ist jedenfalls: Wir stehen bei der KI-Entwicklung erst am Anfang, und sie wird – das liegt in ihrer „Natur“ – rasend schnell besser. Ob der heutige Standard, dass am Ende bei KI-Ergebnissen am Ende immer noch ein Mensch entscheidet, noch lange aufrechterhalten wird – im Pensionswesen genauso wie in der Produktion, in der Wissenschaft, im Finanzwesen, in der Medizin, vor Gericht, im Krieg … – wird man sehen. Spinnt man Dölls Gedanken weiter, wird man irgendwann auf den Menschen als finalen Entscheider verzichten (müssen) – aus Sicherheitsgründen.
Grundsatzfrage Sicherheit (III): Never trust a Stranger with your Data
Eine weitere Sicherheitsfrage ist die des Datenschutzes. Wie im ersten Teil berichtet, weisen mehrere Gesprächspartner darauf hin, dass bei ihnen ihre KI nicht auf ihre SAP-Daten zugreifen darf, da man nicht sicher sein kann, was mit diesen sensiblen Daten dann geschieht.
Dieses Risiko des Kontrollverlustes unterstreicht Stephan Döll. Seines Erachtens sollten KI-Agenten grundsätzlich nicht direkt auf SAP- und ähnlich sensible Datenbanken oder Systeme zugreifen dürfen. Vielmehr sollte eine Datenübergabe an weiterverarbeitende Systeme über konventionelle Schnittstellen auf Basis regelbasierter Prüfungen erfolgen. „Damit ist dieses Risiko beherrschbar,“ so der Chef der 99Bots.
Eine WTW-Studie von Ende 2025 hat ergeben, dass eine deutliche Mehrheit der befragten Unternehmen den Datenschutz als größte Herausforderung in Sachen KI sieht. Übrigens folgen Bedenken bezüglich der Ergebnisqualität und der mangelnden Erklärbarkeit von KI-Ausgaben. Rund vier von zehn Unternehmen nennen zudem regulatorische Unsicherheiten als Grund für ihre Zurückhaltung. Auch wirtschaftliche Faktoren wie knappe IT-Budgets oder fehlende interdisziplinäre Ressourcen erschweren die Umsetzung.
Grundsatzfrage Sicherheit (IV): For four Eyes only
Authentizität wird eine der Kernfragen des KI-Zeitalters, unkte eine berühmte Kröte schon vor fast drei Jahren und seitdem regelmäßig.
Auch wenn z.B. deutsche Politiker offenbar zuweilen noch auf ganz profan-analoge Tricks reinfallen, so wird doch selbst für aufmerksame Anwender und Nutzer die Betrugsgefahr durch KI jeden Tag relevanter. Immer besser, immer authentischer, also immer schwieriger als Fälschung erkennbar, werden mittels KI erstellte oder veränderte Fotos, Videos, Posts und Chats. Kann man mit diesen Mitteln auch in der bAV betrügen? „Ja“, sagt Döll. „Denken Sie nur an die Möglichkeit, dass ein echt erscheinender Bot einen Mitarbeiter in der bAV-Administration um gewisse Mitarbeiterdaten bittet oder Kontoänderungen für die Leistungszahlungen aufgibt.“ Da bleibt dann der Mensch auf der anderen Seite die Schwachstelle.
Aber was wird sein, wenn die bAV-Administration KI-gesteuert erfolgt und in solchen Fällen also Bot mit Bot kommuniziert (vgl. auch Teil I)? Döll: „Dann ist die Aufdeckung des Betrugsversuchs deutlich einfacher, weil beide Systeme auf geprüften Identitäten, klaren Berechtigungen und nachvollziehbaren Prozessen basieren. Die Möglichkeit, Rollen oder Personen vorzutäuschen, wird erheblich erschwert.“
Grundsatzfrage Sicherheit (V): Die Aufsicht – and careful with that KI, Eugene
Und noch jemand hat beim Thema Kit mitzureden. Denn EbAV operieren nicht im luftleeren Raum, sondern unterliegen Regulierung und Finanzaufsicht. Und diese, namentlich die BaFin, nimmt bekanntlich den gesamten Komplex der IT-Sicherheit immer stärker in den Fokus. Mit DORA haben europäische und nationale Regulierer die Frage der IT-Sicherheit (Safety wie auch Security) auf ein neues Bedeutungsniveau gehoben – angesichts der ständig und immer schneller komplexer werdenden IT-Welt nachvollziehbar.
Just erst Mitte Dezember hat die BaFin explizit mit Blick auf die KI eine unverbindliche „Orientierungshilfe zu IKT-Risiken“ veröffentlicht, die helfen soll, DORA-Anforderungen gerecht zu werden. Im Fokus der Hilfe hier v.a. IKT-Risikomanagement und -Drittparteienrisikomanagement, und das entlang des KI-Lebenszyklus, also von der Datenbeschaffung und Modellentwicklung über den Betrieb bis schließlich zur Stilllegung. Die Sicherheit und Resilienz eines KI-Systems müssen in jeder Phase gewährleistet sein, betont die Anstalt.
Ausblick: Do we want more, more, more?
Die oben dargestellten Beispiele zeigen: Im Pensionswesen gilt das, was man auch von anderen Lebensbereichen kennt: KI wird durchaus eingesetzt, auch systematisch, aber lange noch nicht flächendeckend, sondern eher in Form von Insellösungen.
Dennoch: „In zwei bis drei Jahren wird man hier sicher weiter sein“, schätzt Burg. Gordon Teckentrup gibt dem tiefgreifenden und umfassenden Einsatz von KI in der bAV eher einen Zeitrahmen von fünf Jahren. „Aber“, sagt der Director Corporate Pensions bei Bosch, „KI eignet sich für Massenprozesse, nicht für Vorgänge, die nur selten anfallen.“
Kritische Größe also, wie es sinngemäß auch von Cera in Teil I adressiert wurde. Doch welches sind geeignete Massenprozesse? Teckentrup nennt die Leistungsbewilligung, für welche bspw. die Hapev (s. Teil I) KI bereits umfangreich einsetzt. Der Versorgungsausgleich, den Mercer in Kürze mit Hilfe von KI bearbeiten wird, ist ein weiteres Beispiel. Und auch die umfangreichen Berichte, die aufgrund der fortschreitenden Regulierung durch EbAV zu erstellen sind, bieten sich wie erwähnt für eine KI-Unterstützung an.
Jura blickt voraus: „Wir sehen den Einsatz von KI als langfristiges Projekt. Dieses umfasst u.a. die Entwicklung eines maßgeschneiderten Bestandsverwaltungssystems, die Migration aller Systeme und Anwendungen in die Cloud, die Erfassung und ggf. Anpassung aller Kerngeschäftsprozesse und schließlich die Evaluierung, an welchen Stellen innerhalb der End-to-End Geschäftsprozesse der Einsatz von KI-Tools Mehrwerte in Bezug auf Qualität und Effizienz liefern kann.“
Gleichwohl: Das alles passiert nicht auf der grünen Wiese. Wie eingangs erwähnt, sind die Prozesse in der bAV ja längst weitgehend digitalisiert. Jede KI ist aber nur so gut wie die Daten, die man ihr liefert; KI-Experte Frank Schwarze erläutert: „Ohne saubere, standardisierte Datenstrukturen ist KI in der bAV nicht wertschöpfend. Die Datenqualität und deren Bereitstellung sind das Fundament – hier entscheidet sich, ob KI später echten Mehrwert liefern kann und die Unternehmensstrategie wirksam unterstützt.“
Allerdings sieht er hier eine grundsätzliche Frage: „Die Datenfrage ist kein KI-Problem, sondern sie besteht, seit es IT-Systeme gibt. Ich kenne Unternehmen, die ihre KI-Initiativen aufgeschoben haben, bis sie ihren ‚Datensalat‘ bereinigt haben. Dies wird aber nie vollständig funktionieren und ist meines Erachtens daher der falsche Ansatz.“ Vielmehr gelte es, geeignete und begrenzte Use Cases zu identifizieren und die dafür notwendigen Daten zu ermitteln und zu bereinigen – wobei wiederum die KI helfen kann.
bAV: Einfach ist anders. Und kommt die große Lösung?
Trotz aller Fortschritte und Ambitionen – es bleiben Stolpersteine. Adelhardt fasst diese folgendermaßen zusammen: „Die DAV sieht KI als wichtigen technologischen Fortschritt, der auch in der bAV Chancen eröffnet. Wichtig ist aber, die Erwartungen realistisch zu halten. Die bAV ist besonders komplex: Sie beruht auf einem Nebeneinander von arbeitsrechtlichen, steuerlichen und ggf. aufsichtsrechtlichen Vorschriften, die in individuellen Versorgungsordnungen konkretisiert werden“.
Ergo, so die DAV-Chefin: Die „große Lösung“ einer alles umfassenden bAV-KI werde es auf absehbare Zeit nicht geben. Der Mehrwert liege vielmehr in einzelnen Bausteinen – dort, wo Prozesse vereinfacht, Daten besser strukturiert und Kommunikation effizienter gestaltet werden kann: „Die KI ist damit ein Werkzeug, das Fachleute unterstützt, aber nicht ersetzt.“
Döll bestätigt: „Die bAV ist stark von menschlichem Expertenwissen geprägt. Viele Verantwortliche vertrauen daher immer noch eher auf etablierte Prüf- und Freigabeprozesse als auf Entscheidungen einer KI.“
Aktuar Georg Thurnes, sieht hier am Ende auch wirtschaftliche Hindernisse: „Bei der Geschwindigkeit, mit der sich KI weiterentwickelt – und diese Geschwindigkeit haben wir alle unterschätzt – , wird eine solche umfängliche bAV-KI theoretisch bald möglich sein. Aber wird sie auch wirtschaftlich erstrebenswert sein? Werden Unternehmen und Berater bereit sein, die erforderlichen Investitionen zu tätigen?
Wie viele auf diesem Parkett wissen, ist Thurnes promovierter Wirtschaftsmathematiker. Was wenige wissen: Das Thema seiner Dissertation lautete „Expertensystemgestütze Aktienanalyse“; heute würde man wohl von KI-Robo Adviser sprechen. Die Arbeit datiert vom Juli 1990.
Ein kleiner P●I–Ausblick auf die nahe Zukunft
Wie dem auch sei: In den 70er und 80er Jahren wurde die behutsam einsetzende Digitalisierung beäugt und dabei gemutmaßt, wie dies wohl weitergehen werde. Dann kam in den 90ern das Internet schnell und mit Macht, und erneut tasteten sich die Akteure vor und zeichneten Zukunftsszenarien im Nebel der damaligen Gegenwart, falsche wie richtige.
Zwei bis drei Jahrzehnte später, also heute, sind Digitalisierung und Vernetzung schon längst völlige Selbstverständlichkeiten, die faktisch jeden Lebensbereich erfassen, gar entscheidend dominieren – so auch in der bAV.
Extrapolieren wir die Entwicklung, dann spricht viel dafür, dass dieses Muster sich auch in der dritten Phase des digitalen Zeitalters – dem der Künstlichen Intelligenz – so vollziehen wird. Nur nochmals schneller. Vergessen wir auch nicht die offenkundige Paarungsbereitschaft der noch blutjungen KI mit den zeitnah die Geschlechtsreife erreichenden Quantencomputern. Prognose der Redaktion: Ende dieses Jahres wird man über so manches schmunzeln, was in diesem Beitrag hier stand – und denken: Kinder, wie die Zeit vergeht.
Mehr zu dem zur heutigen Headline anregenden Kulturschaffenden findet sich hier.
