Jahr: 2026

KI-Kompetenz: Regeln wirken, wenn Wissen existiert

Geschrieben am 13. Oktober 2026.

Bereits in einem unserer früheren Beiträge über AI Fatigue wurde herausgearbeitet wie wichtig es ist, mit seinen Mitarbeitern nachhaltige KI-Richtlinien zu teilen. Darin kann festgelegt werden, welche KI-Tools für die tägliche Arbeit genutzt werden können oder welche Daten mit der KI geteilt werden dürfen und welche nicht.
KI-Richtlinien dokumentieren jedoch nicht, welche Antworten der KI richtig und plausibel sind.
Verantwortungsvolle KI-Nutzung beginnt deshalb nicht beim Regelwerk, sondern bei Menschen, die neben fachlicher Expertise die technische Kompetenz besitzen, KI zu verstehen und anzuwenden. (Vgl. Hayes/Downie/Gomstyn/Jonker, 2026)

Was bedeutet KI-Kompetenz?

KI-Kompetenz oder im Englischen bekannt als AI literacy, beschreibt mehr als nur effizientes Prompting. Es umfasst den sicheren, sachkundigen und verantwortungsvollen Einsatz von künstlicher Intelligenz sowie deren Einordnung in Bezug auf Chancen und Grenzen. KI-Kompetenz verbindet somit das Verständnis und die Prüfung mit dem reflektierten Umgang von KI (vgl. Hayes/Downie/Gomstyn/Jonker, 2026):

Verständnis, wofür ein System geeignet ist
Kritisches Prüfen von Ergebnissen (vgl. Human-in-the-Loop)
Beachtung von Datenschutz, Vertraulichkeit und Zugriffserlaubnis

Zwischen KI-Anwendung und KI-Verständnis in der Versicherungswirtschaft

Laut einem EIOPA-Bericht aus 2026 nutzten fast zwei Drittel der Versicherungsunternehmen bereits aktiv künstliche Intelligenz. Gleichzeitig wurde im Rahmen des Berichts benannt, dass neben Datenschutz-, Sicherheitsbedenken und gesetzlichen Regularien auch qualifiziertes Personal eine der größten Herausforderungen bei der Einführung von KI-Systemen darstellt. Die Ergebnisse unterstreichen die Dringlichkeit der Förderung von KI-Kompetenz in Unternehmen aus der Versicherungsbranche. (Vgl. EIOPA, 2026)

Dabei muss man jedoch eindeutig unterscheiden: Mehr Wissen über KI führt nicht automatisch auch zu größerer Offenheit gegenüber KI (Lesen Sie auch unseren Artikel über AI Fatigue!). (Vgl. Longoni/Appel/Tully, 2025)

KI-Kompetenz praxisnah und rollenbezogen stärken

Das übergeordnete Ziel von KI-Kompetenz ist daher nicht, dass jeder Mitarbeiter künstliche Intelligenz mit größter Begeisterung annimmt. Der Fokus sollte demnach darauf liegen, dass Teams in Bezug auf KI Entscheidungen treffen können mit realistischen Erwartungen, einem kritischen Blick auf die Ergebnisse und einem klaren Verständnis ihrer Verantwortung.

KI-Kompetenz ist dabei nicht nur eine Frage einzelner Schulungen, sondern auch Teil von Cultural Change innerhalb eines Unternehmens. Neue KI-Anwendungen verändern Arbeitsabläufe, Verantwortlichkeiten und Formen der Zusammenarbeit. Interne Qualifizierung und ein begleitetes Onboarding sollten daher von Beginn an als fester organisatorischer und finanzieller Aufwandspunkt eingeplant werden. (Vgl. OECD, 2025)

Ein effektiver Ansatz könnte sein, seine Mitarbeiter rollenbezogen und praxisnah zu schulen. Das bedeutet:

Einsatzfälle sichtbar machen: Welche KI-Systeme werden im Unternehmen für die jeweiligen Aufgaben verwendet? Wer behält die Verantwortung?
Grundlagen vermitteln und stärken: Wo liegen Grenzen und Gefahren der KI? Auf Grund welcher Datenbasis entstehen Ergebnisse? Wo können Datenschutzrisiken entstehen?
Hands-on-Training: Eigene Anwendungsfälle testen und daraus für die Praxis lernen.
Austausch ermöglichen und unterstützen: Fragen und Erfahrungen im Team offen besprechen und Kollegen dort unterstützen, wo noch Unsicherheiten bestehen.

Je nach Rolle im Team und der vorhandenen Expertise sollten Beispiele und Entscheidungsregeln besprochen werden. Auch Grenzfälle und Eskalationswege dürfen beleuchtet oder gute und fehlerhafte KI-Ergebnisse als praxisnahe Beispiele verglichen werden. (Vgl. Europäische Kommission, 2026)

Faktencheck

Das KI-Regelwerk gibt Orientierung. Die KI-Kompetenz hilft Mitarbeitern im entscheidenden Moment, richtig zu handeln. Erst wenn Anwender verstehen, welche Möglichkeiten ihnen mit KI zur Verfügung stehen, wo auch Grenzen der KI liegen bzw. wann Human Oversight gefordert wird, wird mit Unterstützung von Cultural Change im Unternehmen aus moderner Technologie ein verlässlicher Bestandteil des Arbeitsalltags mit kompetenten Mitarbeitern.

QUELLEN:

EIOPA (2026). EIPOA-Umfrage zur generativen KI zeigt rasche, aber vorsichtige Akzeptanz bei den europäische Versicherern. https://www.eiopa.europa.eu/eiopa-survey-generative-ai-shows-swift-cautious-adoption-among-europes-insurers-2026-02-02_en?prefLang=de (06.10.2026)

Europäische Kommission (2026). KI-Kompetenz – Fragen & Antworten. https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers (06.10.2026)

Hayes, M./Downie, A./Gomstyn, A./Jonker, A. (2026). KI-Komptenz: Schließen der Qualifikationslücke im Bereich der künstlichen Intelligenz. https://www.ibm.com/de-de/think/insights/ai-literacy (06.10.2026)

Longoni, C./Appel, G./Tully, S. (2025). Why Understanding AI Doesn’t Necessarily Lead People to Embrace It. https://hbr.org/2025/07/why-understanding-ai-doesnt-necessarily-lead-people-to-embrace-it (06.10.2026)

OECD/BCG/INSEAD (2025). The Adoption of Artificial Intelligence in Firms: New Evidence for Policymaking. https://doi.org/10.1787/f9ef33c3-en (12.10.2026)

Schlüssig, aber falsch: KI-Halluzinationen

Geschrieben am 8. Oktober 2026.

Ist die KI allwissend? Zumindest wirkt es oft, als hätte „die KI“ in Sekundenschnelle auf alles eine glaubwürdige und nachvollziehbare Antwort. So hilfreich generative KI auch scheint, so gefährlich kann hier blindes Vertrauen sein.

Was sind KI-Halluzinationen?

Auch wenn die KI-Antwort glaubwürdig klingen mag – künstliche Intelligenz ist nicht fehlerfrei. Wenn KI-generierte Antworten von den vorgegebenen Quellen abweichen und die Maschine Fakten erfindet, spricht man von „KI-Halluzinationen“. Fehlen verlässliche Quellen oder der passende Fachkontext, können sie Wissenslücken mit erfundenen Aussagen füllen, ohne diese Unsicherheit kenntlich zu machen. Die NIST beschreibt KI-Halluzinationen als selbstsicher präsentierte, fehlerhafte oder falsche Inhalte. (Vgl. NIST, 2024) In einigen Branchen können diese falschen Antworten schwerwiegende Konsequenzen mit sich bringen, weshalb in diesen Fällen und Fachgebieten besonders viel Kontext gefragt ist. (Vgl. Koschke, 2026)

Besonders kritisch ist dabei, dass eine KI nicht von sich aus kenntlich machen muss, dass sie keine belastbaren Belege gefunden und stattdessen Annahmen getroffen hat. Statt Unsicherheit transparent zu machen, kann sie eine scheinbar nachvollziehbare Antwort formulieren. Im AI Index 2026 von Stanford lagen die Halluzinationsraten in einem Benchmark über 26 führende Modelle hinweg zwischen 22 und 94 Prozent. In der dokumentierten Auswahl von 30 Modellen bei der Artificial Analysis erreichte das genaueste Modell sogar lediglich 67 Prozent korrekte Antworten. (vgl. Stanford HAI, 2026; Artificial Analysis, Stand: 06.10.2026)

Gerade in komplexen Fachgebieten braucht KI deshalb relevante, nachvollziehbare Quellen und Menschen, die Ergebnisse prüfen und Verantwortung übernehmen.

Warum KI Kontext braucht

Der richtige Kontext kann helfen, Halluzinationen zu verringern. Kontext ist dabei nicht gleich Kontext. KI braucht für jede Aufgabe den inhaltlich passenden, aktuellen und freigegebenen Kontext. Ein vollständiger Zugriff auf alle verfügbaren Daten ist dabei meist nicht zwingend notwendig und kann sogar hinderlich sein. (Vgl. NIST, 2024)

Als klassischen Use Case aus der Versicherungsbranche kann ein Schadenvorgang genannt werden, der von einem KI-Agenten abgewickelt bzw. vorbereitet wird. Die KI darf dabei ausschließlich auf die für die beschriebene Sachbearbeitung freigegebenen und aktuellen Vertrags-, Schadens- und Kommunikationsdaten zugreifen (= Kontext!). Der KI-Agent muss zudem seine Quellen dokumentieren und fehlende oder widersprüchliche Informationen kennzeichnen. Die finale Entscheidung bzw. Freigabe liegt dann jedoch beim verantwortlichen Sachbearbeiter, der als menschlicher Kontrollpunkt zwingend notwendig ist.

Faktencheck

Verlässliche Antworten liefert KI nicht automatisch durch den maximalen Datenzugriff. Um KI-Halluzinationen zu reduzieren, kann (neben dem detaillierten Prompt-Auftrag) ein klar begrenzter und nachvollziehbarer Kontext hilfreich sein. Darüber hinaus sollte besonders bei der Arbeit mit sensiblen Daten oder Branchen, in denen viel Fachwissen gefordert ist, ein menschlicher Kontrollpunkt bzw. Human Oversight gegeben sein.

Quellen

Artificial Analysis (2026). https://artificialanalysis.ai/evaluations/omniscience (06.10.2026)

Koschke, M. (2026). KI Halluzinationen – Was heißt das genau? https://blog.rwth-aachen.de/itc/2026/02/26/ki-halluzinationen-was-heisst-das-genau/ (06.10.2026)

NIST Trustworthy and Responsible AI. NIST AI 600-1 (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (06.10.2026)

Stanfort HAI (2026). Artificial Intelligence Index Report 2026 https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf (08.10.2026)

Human control & KI

Geschrieben am 2. Oktober 2026.

Künstliche Intelligenz ist längst Teil unseres Alltags und unterstützt uns in immer mehr Bereichen. Doch überzeugende Ergebnisse sind nicht automatisch richtige Ergebnisse: Generative KI kann Inhalte erzeugen, die selbstsicher formuliert, aber sachlich falsch oder unvollständig sind. Umso wichtiger ist es, vor ihrem Einsatz festzulegen, welche Aufgaben ein System übernehmen darf, wer die Ergebnisse prüft und wer bei Bedarf eingreifen kann.

Dabei gilt:

KI kann halluzinieren und fehlerhafte Ergebnisse erzeugen.
KI trägt keine Verantwortung für Entscheidungen.
KI benötigt klare Grenzen und eindeutig definierte Zugriffsberechtigungen.
Fehler können automatisiert, vervielfältigt und in Prozesse übernommen werden.

Für die Einbindung menschlicher Kontrolle in KI-gestützte Prozesse gibt es verschiedene Konzepte. Im folgenden Abschnitt werden die Begriffe Human Oversight, Human-in-the-Loop, Human-in-Command und Human-on-the-Loop gegenübergestellt und voneinander abgegrenzt. Wichtig: Diese Leitlinien sind eine Orientierung, keine rechtlich verbindliche Begriffsdefinition.

Human Oversight: Menschen behalten den Handlungsspielraum

Human Oversight ist der übergeordnete Rahmen für den verantwortungsvollen Einsatz von KI. Verantwortliche Personen müssen Ergebnisse im passenden Kontext beurteilen und bei Bedarf korrigieren, steuern oder einen Prozess stoppen können. Wie eng und intensiv diese Kontrolle ausgestaltet sein sollte, hängt vom Risiko, der Autonomie und dem Einsatzkontext des Systems ab. (Vgl. EUR-Lex. 2024)

Der Mensch überwacht das KI-System und seine Auswirkungen. Gemeint ist ein verlässlicher Rahmen aus klaren und transparenten Zuständigkeiten, nachvollziehbaren Informationen und definierten Berechtigungsgruppen. Ergebnisse sollen dabei aktiv hinterfragt, korrigiert oder überarbeitet werden.

Human-in-the-Loop

Ein Verfahren oder ein Prozess, bei dem ein Mensch aktiv am Betrieb, Überwachung oder bei Entscheidungen eines automatisierten Systems beteiligt ist, nennt man „Human-in-the-Loop“ (HITL). Im Kontext von KI wird dabei ein Kontrollpunkt geschaffen, in dem ein Mensch an einem bestimmten Punkt in den KI-Workflow eingreift und einzelne Entscheidungen prüft, bestätigt oder korrigiert, bevor der Prozess fortgesetzt wird. Der Mensch behält nicht nur die Kontrolle und überwacht, er entscheidet aktiv mit. (Vgl. Stryker, 2026)

Beispiel aus der Praxis: Die KI erkennt in einer E-Mail Angaben zur Änderung in den Kundenstamm-Daten und schlägt eine Aktualisierung der Kundendaten vor. Ein Mitarbeiter kontrolliert die Änderungsvorschläge und gibt sie frei, bevor sie tatsächlich im System übernommen werden.

Human-in-Command

Im Vergleich zu Human-in-the-Loop behält der Mensch bei „Human-in-Command“ die übergeordnete Steuerung und Verantwortung über ein KI-System. Der Anwender gibt dabei die Richtung vor, definiert die Regeln und behält dadurch auch hier die Kontrolle. (Vgl. Europäische Kommission, 2024)

Beispiel aus der Praxis: Ein KI-Agent kann eigenständig Schadendaten analysieren, den Prozess zum Schadenmanagement anstoßen und beispielsweise eine E-Mail an den Versicherer vorbereiten. Der Sachbearbeiter muss dabei nicht jede einzelne Aktion freigeben, er entscheidet aber klar, welche Aufgaben die KI übernehmen darf, auf welche Daten sie Zugriff hat, welche Richtlinien und Grenzen gelten oder wann ein Mensch eingreifen muss.

Human-on-the-Loop

Das System kann handeln, während Menschen es überwachen und bei Auffälligkeiten eingreifen. Die EU-Ethikleitlinien nennen „Human-on-the-Loop“ neben Human-in-Command und Human-in-the-Loop, als mögliche Formen menschlicher Aufsicht. (Vgl. Europäische Kommission, 2024)

Beispiel aus der Praxis: Ein KI-gestützter Workflow ordnet eingehende Dokumente automatisch einem Schaden- oder Vertragsvorgang zu und fordert bei fehlenden Standardunterlagen selbstständig eine Ergänzung an. Mitarbeitende geben nicht jede einzelne Zuordnung frei. Sie überwachen jedoch über definierte Kennzahlen, Ausnahmen und Fehlerhinweise, ob der Prozess zuverlässig arbeitet. Bei ungewöhnlichen Daten, wiederkehrenden Fehlzuordnungen oder sensiblen Vertragsänderungen können sie den Workflow anhalten, Regeln anpassen und betroffene Vorgänge in eine manuelle Prüfung überführen.

Gerade im Versicherungsumfeld sollte Human Oversight risikobasiert ausgestaltet sein. Ein KI-gestütztes Dokumentenrouting benötigt nicht dieselbe Kontrolltiefe wie eine Anwendung, die Entscheidungen mit spürbaren Auswirkungen auf Kundinnen und Kunden vorbereitet. Entscheidend sind klar definierte Rollen, Eskalationswege, Eingriffsrechte und ausreichend qualifizierte Mitarbeitende.

EBU empfiehlt: KI niemals blind vertrauen

In einer Studie der Europäischen Rundfunkunion aus dem Jahre 2025 wurden die populärsten KI-Systeme auf Zuverlässigkeit getestet. In der BBC-/EBU-Studie wurden mehr als 3.000 Antworten von KI-Assistenten auf Nachrichtenfragen bewertet. 45 Prozent der Antworten enthielten mindestens ein erhebliches Problem und bei 20 Prozent wurden erhebliche Genauigkeitsprobleme festgestellt. (Vgl. EBU, 2025/Tagesschau, 2025)

Natürlich werden KI-Systeme kontinuierlich leistungsfähiger, schneller und präziser, während sich ihre Fehlerquote zunehmend reduziert. Die Geschwindigkeit dieser Entwicklung ist außergewöhnlich und mit früheren technologischen Fortschritten kaum vergleichbar. Dennoch sollten wir uns nicht vollständig auf die Ergebnisse von KI-Systemen verlassen.

Faktencheck

Umso wichtiger bleibt aktuell eine menschliche Kontrolle bei automatisierten Arbeitsprozessen. Eine aktuelle Vergleichsstudie aus dem Jahr 2026 aus den Proceedings of the National Academy of Sciences kam sogar zu dem Ergebnis, dass in einer konkret gestellten Aufgabe zur Reproduzierbarkeit wissenschaftlicher Forschungsergebnisse , der Mensch ganz ohne KI-Hilfe eine niedrigere Fehlerquote erreicht, als mit KI. (Vgl. Brodeur et.al, 2026) Technisch sind wir bereits dort angekommen, dass die KI 100% unserer Arbeitsprozesse problemlos übernehmen könnte. Die entscheidende Frage lautet deshalb: wo vertrauen wir der KI und wo muss die Entscheidungshoheit weiterhin beim Menschen bleiben?

Quellen

EUR Lex (2025). REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL https://eur-lex.europa.eu/legal-content/EN-DE/TXT/?uri=CELEX:32024R1689&utm_ (02.10.2026)

Stryker, C. (2026). Human in the Loop https://www.ibm.com/think/topics/human-in-the-loop (02.10.2026)

Europäische Kommission (2024): Ethikleitlinien für vertrauenswürdige KI https://digital-strategy.ec.europa.eu/de/library/ethics-guidelines-trustworthy-ai (02.10.2026)

EBU (2025). News Integraty in AI Assistance https://www.ebu.ch/Report/MIS-BBC/NI_AI_2025.pdf (02.10.2026)

Tagesschau (2025). KI erfindet jede dritte Antwort https://www.tagesschau.de/wissen/technologie/kuenstliche-intelligenz-fakten-100.html (02.10.2026)

Brodeur et al. (2026). AI-assisted teams outperform AI-led teams but not human-only teams in assessing research reproducibility in quantitative social science, Proceedings of the National Academy of Sciences, 123(22)

Sicher unterwegs: Nicht der Prompt schützt Systeme, sondern ihre Architektur

Geschrieben am 24. September 2026.

KI sicher in Arbeitsprozesse integrieren

Cybersicherheit beginnt nicht erst mit dem ersten Hackerangriff. Proaktives Handeln im Bereich Sicherheit startet bereits mit Berechtigungssystemen und Zugriffseinschränkungen. Wer darf auf welche Daten zugreifen? Welche Systeme dürfen miteinander kommunizieren? Welche Arbeitsschritte dürfen automatisiert ausgeführt werden? Je mehr Unternehmen ihre Prozesse automatisieren und vernetzen, oder KI einsetzen, desto wichtiger wird ein belastbarer Sicherheitsrahmen. Gerade in der Versicherungsbranche können Ausfälle, manipulierte oder falsche Informationen sowie unberechtigte Zugriffe schwerwiegende und weitreichende Folgen vom Kunden bis zum Versicherer haben.

Ein Prompt ist keine Sicherheitsarchitektur

Dabei ist künstliche Intelligenz nicht per se das Risiko. Ein System, das zu viele Handlungsmöglichkeiten und Rechte erhält, kann ein großes Gefahrenpotenzial enthalten. KI handelt nicht aus eigenem Antrieb, sondern zielorientiert. Sie versucht, einen erteilten Auftrag mit den verfügbaren Mitteln zu erfüllen und kann dabei vorhandene Lücken oder Schwachstellen nutzen, wenn diese sie zur Lösung führen.

In einem kontrollierten Forschungsversuch von Palisade Research wurde daher im Jahr 2025 zum „Specification Gaming“ in einer isolierten Docker-Testumgebung – auch KI-Regulatory-Sandbox (vgl. verifywise.ai, 2026) genannt – KI-Agenten im Rahmen eines Schachspiels Zugriff auf die lokale Spielumgebung gewährt. Man wollte herausfinden, wie KI-Modelle ein System „austricksen“, wenn sie eine schwierige Aufgabe lösen sollen. Als einige KI-Agenten erkannten, dass sie regulär nicht gewinnen konnten, überschrieben sie kurzerhand die Brettstellung oder ersetzten die gegnerische Maschine, um zu siegen. Das offizielle Ziel lautete dabei schlicht, dass sie das Spiel gewinnen sollen. Man erkannte, dass KI-Agenten mit konkretem Ziel und weitreichenden Zugriffsrechten auch unerwartete Wege wählten, um ein Ziel formal zu erfüllen. (Vgl. Palisade Research, 2025)

Vertrauen ist gut, Kontrolle ist besser!

Ein Prompt kann beschreiben, was ein KI-System tun soll. Er setzt jedoch keine Leitplanken für Cybersicherheit oder garantiert eine sichere Systemarchitektur. Entscheidend ist, auf welchen Daten, Werkzeuge und Schnittstellen ein KI-Agent tatsächlich zugreifen kann und darf oder wo er ohne eine menschliche Freigabe nicht weiter agieren kann.

Ein klar definierter Rahmen für den Handlungsraum, in dem sich ein KI-Agent bewegen darf, ist daher die Grundvoraussetzung für sicheres Arbeiten. Stark limitierte und transparente Zugriffsberechtigungen und gezielt begrenzte APIs für Ihr ERP sind der erste Schritt. Kontrollpunkte durch menschliche Freigaben sichern die Arbeit – besonders mit sensiblen Daten – zusätzlich ab. Regelmäßige Software-Updates, gesicherte Backups und kontinuierliches Monitoring können außerdem dazu beitragen, dass man einen sicheren Umgang mit KI fördert. (Vgl. GenAI, 2026)

Faktencheck

Als modernes, wettbewerbsorientiertes Unternehmen sollten Vorkehrungen und Cybersicherheitsmaßnahmen kontinuierlich überwacht und gestärkt werden. Wenn künstliche Intelligenz in einem klar definierten Rahmen arbeiten kann, kann sie auch Prozesse effizienter gestalten, ohne Risiken im Bereich Sicherheit oder Datenverlust zu schüren. Innovation und Sicherheit können miteinander wachsen, wenn man sich der Gefahren bewusst ist und aktiv daran arbeitet, das Risiko so gering wie möglich zu halten.

Quellen

Palisade Research „Demonstrating specification gaming in reasoning models“ (2025): https://palisaderesearch.org/research/specification-gaming

GenAI „LLM06:2025 Excessive Agency“ (21.09.2026): https://genai.owasp.org/llmrisk/llm062025-excessive-agency/

verifywise.ai: „Ki-Regulatory-Sandbox“ (23.09.2026): https://verifywise.ai/de/lexicon/ai-regulatory-sandbox

EU AI Act: Warum brauchen wir Grenzen für KI?

Geschrieben am 15. September 2026.

In den vergangenen Tagen haben führende Köpfe der KI-Branche zu mehr Sicherheit und klareren Regeln aufgerufen. Anthropic-Chef Dario Amodei fordert, den Wettlauf um immer leistungsfähigere KI-Systeme zu verlangsamen und verbindliche Sicherheitsstandards zu schaffen. Unterstützung erhielt er unter anderem von OpenAI-Chef Sam Altman. Die aktuelle Debatte zeigt: Je schneller sich KI entwickelt, desto wichtiger wird die Frage, wie ihr Einsatz verantwortungsvoll gestaltet werden kann.
Europa hat darauf bereits mit einem verbindlichen Rahmen reagiert: dem EU AI Act. Die Verordnung setzt klare Leitplanken, was die Verwendung von KI betrifft. Damit möchte die EU Innovation ermöglichen und zugleich Sicherheit und Transparenz gewährleisten und stärken.

Gerade für die Versicherungswirtschaft ist das relevant. Denn dort kann KI Arbeitsprozesse vereinfachen, Informationen strukturieren und Entscheidungen vorbereiten – oft mit unmittelbaren Auswirkungen auf Kunden. Umso wichtiger ist es, frühzeitig zu klären, wo KI sinnvoll eingesetzt werden kann und wo klare Grenzen erforderlich sind.

Fortschritt braucht einen Rahmen

Auch vor dem Zeitalter von künstlicher Intelligenz ist der Staat eingeschritten, wo Technologie erhebliche Auswirkungen auf Mensch, Wirtschaft und Gesellschaft haben kann. Im Rahmen von Produkt- und Verbraucherschutz, Datenschutz oder Wettbewerbsregeln wurden bereits Grenzen geschaffen, damit ein reibungsloses Entwickeln von Technologie, Gesellschaft und Wirtschaft möglich gemacht werden kann.

Wichtig ist dabei, dass der EU AI Acts nicht pauschal künstliche Intelligenz reguliert, sondern einen besonderen Fokus auf das Risiko bei der Nutzung von KI legt. Für Versicherer, Assekuradeure, Vermittler und Versicherungsmakler ist deshalb vor allem entscheidend, wofür künstliche Intelligenz im Arbeitsalltag eingesetzt wird und welche Auswirkungen dies auf ihre Kunden hat.

Generell unterscheidet der EU AI Act zwischen verbotenen, hochriskanten, transparenzpflichtigen sowie gering oder nicht regulierten KI-Anwendungen. Dies bedeutet im Umkehrschluss, dass nicht jede KI-Anwendung automatisch ein Hochrisiko-System ist.

Verantwortung muss transparent bleiben

Governance und Sicherheit sind dabei die Begriffe, die bei der Nutzung von KI einen erheblichen Unterschied beschreiben. Innerhalb eines Unternehmens muss zwingend geklärt werden, wie Verantwortlichkeiten verteilt sind, welche Daten genutzt werden und dass Human Oversight für Revision und Kontrolle gewährleistet ist.

Auch für uns als Softwarehersteller von der Versicherungsplattform openVIVA beginnt verantwortungsvoller KI-Einsatz nicht erst beim Algorithmus. Es beginnt bereits mit einem klar definierten Einsatzzweck der KI, nachvollziehbaren Daten, transparenten Produktfunktionen sowie eindeutig geregelten Verantwortlichkeiten.

Ein treffendes Beispiel aus dem Arbeitsalltag ist dabei die im EU AI Act beschriebene Transparenzpflicht bei bestimmten KI-Anwendungen. Es muss z. B. für User stets erkennbar sein, wenn sie direkt mit einem KI-System interagieren.

Fakten-Check

Der EU AI Act ist keine Gefahrenzone für Innovation. Er ist der Versuch, Innovation in einen Rahmen zu setzen, in dem Sicherheit, Governance und Transparenz mitwachsen können. Besonders in einer Branche wie der Versicherungswirtschaft, wo Entscheidungen erhebliche Auswirkungen auf Kunden haben können, basiert ein verantwortungsvoller KI-Einsatz auf klaren Prozessen, strukturierten Daten und transparenter Umsetzung.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine Rechtsberatung dar. Die Einordnung konkreter KI-Anwendungen hängt jeweils von ihrem Einsatzzweck, ihrer Ausgestaltung und der Rolle des Unternehmens ab.

Quellen

Tagesschau (2026. KI-Bosse wollen weniger Tempo und mehr Regulierung https://www.tagesschau.de/wirtschaft/technologie/ki-anthropic-106.html (13.09.2026)
Europäische Kommission: KI-Gesetz (2026). https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai (14.09.2026)

Single Source of Truth: Wie Standardsoftware die verlässliche Basis für künstliche Intelligenz bildet

Geschrieben am 10. September 2026.

Arbeiten mit KI – aber auf welcher Datenbasis?

Wie lässt sich KI in bestehende ERP-Systeme einbinden? Welche APIs braucht es und wie bleibt der Zugriff sicher?
Doch bevor man in die technische Umsetzung geht, muss man sich zuvor die Frage stellen, wie verlässlich und aktuell die verwendeten Daten sind.

Daten sind schon heute der Rohstoff der Versicherungswirtschaft. Handlungskompetenz entsteht jedoch erst, wenn sie verstanden, vernetzt und intelligent eingesetzt werden können. Bei vielen Branchenexperten steht deshalb nicht nur künstliche Intelligenz im Mittelpunkt, sondern auch die Datenqualität und die Ausgangslage mit der die KI arbeiten kann. Dafür braucht es klare Strukturen – und einen zuverlässigen Softwarepartner mit Expertise, der die Daten und Prozesse der Versicherungswirtschaft versteht.

KI braucht mehr als nur den Zugriff auf Daten

In der komplexen Versicherungsbranche liegen Daten in Verträgen, in Schadenmeldungen, im Bestand – verteilt in Excel-Tabelle, Maklerverwaltungsprogrammen, E-Mails – die Liste ist lang. KI ist zwar in der Lage, diese Informationen zu finden, durch fehlende Zuordnung, widersprüchlichen Angaben oder veralteten Vertragsständen, kann jedoch die Daten weder verlässlich bewerten noch weiterverarbeiten. Sobald Informationen wie in einer Standardsoftware fachlich zugeordnet und strukturiert, aktuell und transparent in Prozesse eingebettet werden, kann Künstliche Intelligenz einen echten Mehrwert für die tägliche Arbeit schaffen.

Das eigentliche Problem: Fragmentierte Daten statt fehlender KI

Eine große Herausforderung im Arbeitsalltag ist die Tatsache, dass Duplikate, unterschiedliche Vertragsstände oder nicht zugeordnete Dokumente zu einem Datenchaos führen. Ein potentielles Risiko, wenn man KI mit fragmentierten Daten arbeiten lässt. Es ist der Nährboden für fehlerhafte Ergebnisse und doppelten Arbeitsaufwand.

Besonders wichtig ist daher für die KI eine Single Source of Truth. Darunter versteht man nicht zwingend eine einzige Datenbank, sondern eine verbindliche, qualitätsgesicherte, fachlich definierte Datenbasis. Für jeden relevanten Datensatz ist klar definiert, welches System die maßgebliche Quelle ist, wer verantwortlich ist und welcher Dokumentenstand Gültigkeit besitzt.

Um diese verbindliche Datenbasis zu schaffen und zu unterstützen, kann die Arbeit mit einer Enterprise Resource Planning Software, in der Daten gepflegt werden, Zuständigkeiten und Regeln vorherrschen, hilfreich sein. Ein ERP ist aus diesem Grund mehr als nur eine Datenbank! Es gibt der KI die notwendige Orientierung sowie strukturierte Daten:

Informationen zu Kunde, Vertrag oder Schaden werden fachlich miteinander verbunden
Datenstände und historisierte Daten (z.B. bei Verträgen) werden nachvollziehbar und transparent dargestellt
Berechtigungssysteme und Verantwortlichkeiten können abgebildet werden
Geschäftsprozesse werden automatisiert und in hilfreiche Workflows übertragen
Externe Daten und Informationen können kontrolliert über APIs integriert werden

Standardsoftware wird zur Quelle für erfolgversprechenden KI-Einsatz

Ein sauber gepflegtes Bestandsdatenmanagement, historisierte Verträge, kontextbasierte Daten:
Eine integrierte Standardsoftware schafft die Voraussetzung, Daten nicht nur zentral zu verwalten, sondern sie fachlich im Rahmen von persönlicher Betreuung zu verknüpfen, zu historisieren und prozesssicher nutzbar zu machen.

Schaut man in die Praxis, erkennt man schnell, weshalb unstrukturierte Daten ein Risiko darstellen. Ein Schaden lässt sich nicht nur anhand einer Schadennummer bewerten. Viel wichtiger und wertvoller sind dabei Informationen wie Vertragslaufzeit, Deckungsumfang, Selbstbehalt, Schadenhistorie, beteiligte Akteure, etc. Nicht zu vergessen sind neben Datenqualität auch Governance oder Verantwortlichkeiten und Berechtigungsrollen. Ein Kosmos an Faktoren, die im Rahmen eines effizienten Schadenmanagements zu berücksichtigen sind. Dabei ist nicht die Anzahl der eingesetzten KI-Tools erfolgversprechend, sondern die Daten- und Kontextqualität. Mit einer integrierten Standardsoftware hat man die Möglichkeit, eine verlässliche Daten- und Prozessbasis zu schaffen, mit der KI effizient und transparent arbeiten kann.

Faktencheck

KI erreicht ihren Mehrwert nicht dadurch, dass sie auf Unmengen an Daten zugreifen kann, sondern dadurch, dass sie die relevanten Daten im richtigen Kontext versteht und verarbeitet. Sie braucht einen verlässlichen Blick auf die fachliche Realität. Eine Standardsoftware wie openVIVA verbindet Kunden mit Schäden, Verträgen, Kommunikation und Prozessen entlang der gesamten Wertschöpfungskette und schafft so ein transparentes Gesamtbild.

openVIVA wird dadurch zu Ihrem Stabilisator, auf dessen Fundament KI sicher recherchieren und kontrolliert in Arbeitsprozesse integriert werden kann.

Quellen

KI-Erfolg beginnt bei den Daten: Fraunhofer FIT auf der Hannover Messe (31.03.2026): https://www.fit.fraunhofer.de/de/presse/26-03-31_KI-Erfolg-beginnt-bei-den-Daten-Fraunhofer-FIT-auf-der-Hannover-Messe.html?utm

Dossier: Künstliche Intelligenz (30.03.2026): https://www.gdv.de/gdv/themen/digitalisierung/kuenstliche-intelligenz

AI Fatigue – Wie viel KI am Arbeitsplatz ist zu viel?

Geschrieben am 4. September 2026.

KI ist gekommen, um zu bleiben und vor allem: um zu entlasten. Doch was passiert, wenn KI überfordert? Wenn Unsicherheiten bei Mitarbeitern wachsen, von der KI ersetzt zu werden? Künstliche Intelligenz sollte unseren Arbeitsalltag effizienter gestalten, jedoch erleben immer mehr Unternehmen, wie Erwartungen wachsen, ein Tool-Urwald entsteht oder der Kontrollaufwand zunimmt.

KI erhöht zwar Geschwindigkeit und Output, während Aufmerksamkeit, Entscheidungskraft und organisatorische Aufnahmefähigkeit begrenzt bleiben. Es entsteht ein Raum für Überforderung und Ermüdung auf Seiten der Mitarbeiter. Dieses Phänomen nennt sich „AI Fatigue“. Der Begriff beschreibt die mentale und organisatorische Ermüdung durch die wiederholte und allgegenwärtige Konfrontation mit KI in der Arbeitswelt. Selbst anfängliches Interesse kann schnell in endlosen Testschleifen, Prompt-Frustrationen und ergebnisorientierten Halluzinationen enden.

AI Fatigue bezeichnet die mentale, emotionale und organisatorische Ermüdung, die entsteht, wenn Unternehmen und Mitarbeitende durch die zunehmende Zahl an KI-Tools, steigende Erwartungen, fehlende Integration und Struktur oder zusätzlichen Prüfaufwand dauerhaft überlastet werden, ohne einen signifikanten Mehrwert zu erzielen.

Warum KI müde machen kann

AI Fatigue entsteht selten durch einen einzelnen Auslöser. Meist ist es eine Kombination aus mehreren Faktoren:

Zu viele KI-Anwendungs-Tools ohne klaren Zweck
Steigender Anpassungs- und Produktivitätsdruck
Erhöhter Kontrollaufwand
Fehlende Integration in bestehende Prozesse oder Systeme
Unsicherheit bei Themen wie Datenschutz, Verantwortlichkeiten, Rollen oder Verwendungsrahmen

Gerade in der Versicherungsbranche, wo uns tagtäglich große Datenmengen, komplexe Prozesse und viele Schnittstellen erwarten, kann KI Fluch und Segen sein. Integrierte Workflows und intelligente KI-Agenten erleichtern den Arbeitsalltag und schaffen gleichzeitig ein Risiko für Datensicherheit oder lassen mit Insellösungen Datensilos und Medienbrüche entstehen. Das kann schnell zur Unübersichtlichkeit führen und somit Überforderung auslösen.

Weniger Tools, mehr Wirkung

KI soll entlasten und nicht beschäftigen. AI Fatigue ist dabei ein klares Warnsignal für eine fehlende Struktur innerhalb eines Unternehmens. Um diese KI-Komplexität zu ordnen und stabilisieren, hilft es, ein belastbares Fundament für die unternehmensweite KI-Nutzung zu schaffen. Es muss klare Richtlinien für das Einsetzen weniger, aber hilfreicher KI-Tools geben. Berechtigungen müssen klar definiert werden, eine nachvollziehbare Governance und Human in the Loop unterstützen bei einem smarten Arbeitsalltag. Was helfen kann, ist die Integration von KI in bereits bekannte und vertraute Kernsysteme.

Durch den Einsatz einer Standardsoftware als Ausgangsbasis hält man beispielsweise nicht nur die Datensätze getrennt als zuverlässige Rückversicherung, sondern kann flexibel und unabhängig externe KI-Tools nutzen, begrenzen, kontrollieren und bei Bedarf austauschen, ohne Veränderungen innerhalb von Infrastrukturen, Rollenverteilungen und Datenkontrollen vornehmen zu müssen.

Es sollte trotzdem ergänzend immer ein Review- und Kontrollaufwand mit eingerechnet werden. Die Mitarbeiter müssen geschult werden und auf dem Weg der Einführung von KI-Tools mitgenommen werden. Der Erfolg von KI sollte dabei in Bezug auf Qualität, Prozesswirkung oder Effizienzsteigerung gemessen werden und weniger an der Anzahl eingeführter Tools.

Faktencheck

Die Lösung für AI Fatigue darf dennoch nicht weniger Innovation bedeuten, sondern fokussierte, integrierte und verantwortungsvoll gestaltete Innovation. Entscheidend ist, KI nicht als zusätzliche Insellösung, sondern als Bestandteil verlässlicher Strukturen und bestehender Kernsysteme zu verstehen. Klare Zuständigkeiten, transparente und nachvollziehbare Governance sowie Human in the Loop sind dabei wichtige Punkte, die beachtet werden müssen. Dadurch wird KI nicht zum Belastungsfaktor, sondern zu einem hilfreichen Werkzeug, das Mitarbeiter unterstützt, Prozesse automatisiert und einen Mehrwert für den Arbeitsalltag schafft.

Quellen

heise regioconcept: Was ist AI Fatigue? Definition & Maßnahmen (01.02.2024)  https://www.heise-regioconcept.de/online-marketing-glossar/ai-fatigue/
OMR Reviews: AI Fatigue und Burnout-Prävention: Wann wird die KI einem zu viel? (09.03.2026)  https://omr.com/de/reviews/contenthub/ai-fatigue
MoneyToday: AI Fatigue – macht Künstliche Intelligenz Unternehmen müde? (09.03.2026)  https://www.moneytoday.ch/news/ai-fatigue-macht-kuenstliche-intelligenz-unternehmen-muede

Standardsoftware vs. KI

Geschrieben am 27. August 2026.

Brauchen wir im KI-Zeitalter noch Standardsoftware?

KI kann E-Mails eloquenter formulieren oder für Sie komplexe Dokumente in alle gewünschten Sprachen übersetzen. Innerhalb kürzester Zeit und mit wenig Expertenwissen des Prompters kann Ihnen KI individuelle Software-Oberflächen oder Anwendungen bauen. Mit Methoden wie Vibe Coding beschreiben Anwender in natürlicher Sprache, welche Oberfläche, Workflows oder Prozesse entstehen sollen. Die KI übersetzt diese Prompts dann in entsprechende Codes.

Innerhalb kürzester Zeit kann man als Anwender ohne große technische Vorkenntnisse Websites, Apps oder Prototypen erstellen. Gerade diese niedrige Einstiegshürde darf jedoch nicht darüber hinwegtäuschen, dass Vibe Coding auch Hürden mit sich bringt: Sicherheitsrisiken, unsaubere Codes, rechtliche Herausforderungen oder Kontrollverlust können Risiken darstellen.

Damit stellt sich eine zentrale Frage:

Wenn sich jeder Makler, Assekuradeur oder Versicherer seine Software individuell mit KI bauen kann, brauchen wir dann noch Standardsoftware?

Das Fundament für smarte Arbeitsprozesse

Unsere Antwort lautet: Ja! Aber die Rolle der Standardsoftware verändert sich.

Denn KI benötigt mehr als nur den Zugriff auf Daten. Sie braucht eine verlässliche Datenbasis mit fachlichen Zusammenhängen, klar definierten Prozessen und Regeln sowie definierte Verantwortlichkeiten.

Gerade in der Versicherungswirtschaft mit ihren enormen Datenmengen, komplexen Vertragsbeziehungen und regulatorischen Anforderungen ist entscheidend, dass Kunden, Verträge, Risiken, Schäden, Dokumente oder Buchungen eindeutig miteinander verbunden sind. Moderne Standardsoftware schafft dafür den Rahmen:

Verlässliche Datenbasis und Single Source of Truth
Individualität und Unabhängigkeit in der Wahl von externen Schnittstellen
Fachliche und strukturierte Geschäftsprozesse
Berechtigungs- und Rollensysteme
Kontrollierte Schnittstellen
Human Control Points für kritische Entscheidungen
Nachvollziehbarkeit, Transparenz und Governance
Stabile Kernprozesse unabhängig vom eingesetzten KI-Modell

Standardsoftware wird zur Infrastruktur für KI

Je autonomer KI handeln soll, desto wichtiger wird ein sicherer Rahmen, der Datenhoheit, menschliche Kontrollpunkte und jahrzehntelang gewachsenes Branchenwissen miteinander verbindet. 
Für uns stellt sich nicht die Frage „Standardsoftware oder KI“, sondern: Welches System liefert eine belastbare Single Source of Truth – das Sicherheitsnetz – für den Einsatz von KI?

Genau hier liegt die zukünftige Rolle von openVIVA: als stabile Daten-, Prozess- und Integrationsbasis, mit der Kiste, APIs und intelligente Workflows sicher, flexibel und erfolgreich genutzt werden können.

Faktencheck

Neben einer verlässlichen Datenbasis und einer klaren Single Source of Truth sowie eindeutiger Berechtigungs- und Rollensysteme, die kontrollierte Schnittstellen garantieren, bleiben besonders die Human Control Points unabdingbar. Sie stellen sicher, dass Menschen an den richtigen Stellen prüfen, freigeben oder korrigieren.

Gleichzeitig müssen KI-gestützte Prozesse nachvollziehbar und steuerbar bleiben. Unternehmen müssen erkennen können, welche Daten verwendet wurden, welche Aktion ausgelöst wurde und wer letztlich verantwortlich ist. Und weil sich KI-Modelle, Anbieter und Technologien schnell verändern, dürfen die eigentlichen Kernprozesse und Unternehmensdaten nicht von einem einzelnen Modell abhängig sein. Genau darin liegt die zukünftige Stärke moderner Standardsoftware: Sie schafft ein stabiles, kontrolliertes Fundament, auf dem unterschiedliche KI-Systeme sicher und flexibel aufsetzen können.

Genau diese Zukunft gestalten wir bereits heute! Wir verbinden KI, intelligente Workflows und APIs mit moderner Standardsoftware. openVIVA schafft Struktur und begünstigt hohe Datenqualität; die KI macht diese Daten smart nutzbar.

Quellen

AI Riskmanagement Framework | EU AI Act, NIST: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
AVL und Microsoft: Von der KI-Idee zur gesteuerten Softwarelieferung (27. August 2026): https://news.microsoft.com/source/emea/2026/08/avl-und-microsoft-von-der-ki-idee-zur-gesteuerten-softwarelieferung/?lang=at&utm_source=chatgpt.com
So steht es um die KI-Nutzung im Makleralltag (17. August 2026):
https://www.asscompact.de/nachrichten/so-steht-es-um-die-ki-nutzung-im-makleralltag?page=1
So werden Makler vom KI-Anwender zum KI-Unternehmer (12.08.2026): https://www.asscompact.de/nachrichten/so-werden-makler-vom-ki-anwender-zum-ki-unternehmer

Nachfolge gesichert: Lea Böddecker wird Teil der neuen Geschäftsführung bei mb Support GmbH

Geschrieben am 14. Juli 2026.

Seit mehr als 20 Jahren steht mb Support für Stabilität, Verlässlichkeit und Innovation. Um weiterhin eine nachhaltige Zukunft des Unternehmens zu gewährleisten, verstärkt Lea Böddecker seit dem 01. Juli 2026 die mb Support Geschäftsleitung an der Seite des Firmengründers Martin Böddecker.

Lea Böddecker ist bereits seit mehreren Jahren Teil des Unternehmens und war in nahezu jeder Abteilung – vom Service Center über Marketing und Consulting bis zum Support – tätig. Erfahrungen sammelte die zielstrebige und ambitionierte Jungunternehmerin neben einem Masterstudium im Insurance & Risk Management in London auch in großen Maklerhäusern. So kann sie nicht nur ihre praxisnahen Erfahrungen direkt in die Entwicklung von Softwarelösungen einfließen lassen, sondern versteht auch die Bedürfnisse und Perspektive der Kunden. Mit ihrem Einstieg in die Geschäftsführung setzt man konsequent auf Kontinuität, Innovationskraft und die langfristige Ausrichtung des Unternehmens.

„Für mich steht vor allem eines im Mittelpunkt: mb Support weiterzuentwickeln. Wir sind ein großartiges Team mit unglaublich viel Know-how, Erfahrung und Engagement – genau das macht uns aus. Ich möchte meinen Teil dazu beitragen, unsere Stärken weiter auszubauen, neue Ideen voranzubringen und dafür zu sorgen, dass wir auch in Zukunft ein innovativer und verlässlicher Partner für unsere Kunden bleiben.“ – Lea Böddecker, Geschäftsleitung mb Support GmbH

Mit der Erweiterung der Geschäftsleitung werden zugleich die nächsten strukturellen Entwicklungsschritte vorbereitet. Nach mehr als 22 Jahren erfolgreichen Unternehmensaufbaus, gibt es nun eine strategische und organisatorische Neuausrichtung. Interne Prozesse werden stetig optimiert, wodurch die Zukunftsfähigkeit des Unternehmens gesichert werden kann. Im Fokus stehen zudem der weitere Ausbau der internationalen Marktpräsenz, die Entwicklung innovativer Technologien wie z. B. Im Bereich künstliche Intelligenz sowie die konsequente Erweiterung einer offenen Systemstruktur durch den Development Hub für APIs oder zusätzlichen Bereitstellungsoptionen wie SaaS-Modelle (Software as a Service).

Die Berufung Lea Böddeckers in die Geschäftsleitung erfolgt bewusst in dieser Phase der Neuausrichtung. Mit ihrer Kombination aus fundierter akademischer Ausbildung, aktueller Branchenexpertise und praktischer Erfahrung bringt sie neue Perspektiven und Impulse in die Unternehmensentwicklung ein.

#BiPROverbindet – aufregende BiPRO-Tage 2026

Geschrieben am 19. Juni 2026.

20 Jahre BiPRO – was für ein Meilenstein. Auch wir waren in Neuss vor Ort, um mit Kollegen und Experten aus der Branche über reibungslose Prozesse und Normen zu diskutieren.

Die BiPRO Tage 2026 haben uns gezeigt: erfolgreiche Digitalisierung funktioniert nur gemeinsam! Die Versicherungsbranche steht weiterhin vor Herausforderungen in Bezug auf den standardisierten Datenaustausch. Jedoch bewegt man sich gemeinsam Schritt für Schritt in die richtige Richtung.

Besonders deutlich wurde erneut, dass saubere Datenstrukturen, verbindliche Standards und funktionierende Schnittstellen die Grundlage für optimierte Datenqualität bilden. Im Fokus lag auch künstliche Intelligenz, die weiterhin unterstützend, aber noch nicht als tragfähige Basis agiert.

Umso wichtiger war das Motto „BiPRO verbindet“, denn ein offener und produktiver Austausch zwischen Versicherern, Maklern und Dienstleistern kann durch gute Zusammenarbeit eine echte Transformation zur nächsten Digitalisierungsstufe ermöglichen.