Daten & Technologie - mbsupport.de

Sicher unterwegs: Nicht der Prompt schützt Systeme, sondern ihre Architektur

Geschrieben am 24. September 2026.

KI sicher in Arbeitsprozesse integrieren

Cybersicherheit beginnt nicht erst mit dem ersten Hackerangriff. Proaktives Handeln im Bereich Sicherheit startet bereits mit Berechtigungssystemen und Zugriffseinschränkungen. Wer darf auf welche Daten zugreifen? Welche Systeme dürfen miteinander kommunizieren? Welche Arbeitsschritte dürfen automatisiert ausgeführt werden? Je mehr Unternehmen ihre Prozesse automatisieren und vernetzen, oder KI einsetzen, desto wichtiger wird ein belastbarer Sicherheitsrahmen. Gerade in der Versicherungsbranche können Ausfälle, manipulierte oder falsche Informationen sowie unberechtigte Zugriffe schwerwiegende und weitreichende Folgen vom Kunden bis zum Versicherer haben.

Ein Prompt ist keine Sicherheitsarchitektur

Dabei ist künstliche Intelligenz nicht per se das Risiko. Ein System, das zu viele Handlungsmöglichkeiten und Rechte erhält, kann ein großes Gefahrenpotenzial enthalten. KI handelt nicht aus eigenem Antrieb, sondern zielorientiert. Sie versucht, einen erteilten Auftrag mit den verfügbaren Mitteln zu erfüllen und kann dabei vorhandene Lücken oder Schwachstellen nutzen, wenn diese sie zur Lösung führen.

In einem kontrollierten Forschungsversuch von Palisade Research wurde daher im Jahr 2025 zum „Specification Gaming“ in einer isolierten Docker-Testumgebung – auch KI-Regulatory-Sandbox (vgl. verifywise.ai, 2026) genannt – KI-Agenten im Rahmen eines Schachspiels Zugriff auf die lokale Spielumgebung gewährt. Man wollte herausfinden, wie KI-Modelle ein System „austricksen“, wenn sie eine schwierige Aufgabe lösen sollen. Als einige KI-Agenten erkannten, dass sie regulär nicht gewinnen konnten, überschrieben sie kurzerhand die Brettstellung oder ersetzten die gegnerische Maschine, um zu siegen. Das offizielle Ziel lautete dabei schlicht, dass sie das Spiel gewinnen sollen. Man erkannte, dass KI-Agenten mit konkretem Ziel und weitreichenden Zugriffsrechten auch unerwartete Wege wählten, um ein Ziel formal zu erfüllen. (Vgl. Palisade Research, 2025)

Vertrauen ist gut, Kontrolle ist besser!

Ein Prompt kann beschreiben, was ein KI-System tun soll. Er setzt jedoch keine Leitplanken für Cybersicherheit oder garantiert eine sichere Systemarchitektur. Entscheidend ist, auf welchen Daten, Werkzeuge und Schnittstellen ein KI-Agent tatsächlich zugreifen kann und darf oder wo er ohne eine menschliche Freigabe nicht weiter agieren kann.

Ein klar definierter Rahmen für den Handlungsraum, in dem sich ein KI-Agent bewegen darf, ist daher die Grundvoraussetzung für sicheres Arbeiten. Stark limitierte und transparente Zugriffsberechtigungen und gezielt begrenzte APIs für Ihr ERP sind der erste Schritt. Kontrollpunkte durch menschliche Freigaben sichern die Arbeit – besonders mit sensiblen Daten – zusätzlich ab. Regelmäßige Software-Updates, gesicherte Backups und kontinuierliches Monitoring können außerdem dazu beitragen, dass man einen sicheren Umgang mit KI fördert. (Vgl. GenAI, 2026)

Faktencheck

Als modernes, wettbewerbsorientiertes Unternehmen sollten Vorkehrungen und Cybersicherheitsmaßnahmen kontinuierlich überwacht und gestärkt werden. Wenn künstliche Intelligenz in einem klar definierten Rahmen arbeiten kann, kann sie auch Prozesse effizienter gestalten, ohne Risiken im Bereich Sicherheit oder Datenverlust zu schüren. Innovation und Sicherheit können miteinander wachsen, wenn man sich der Gefahren bewusst ist und aktiv daran arbeitet, das Risiko so gering wie möglich zu halten.

Quellen

Palisade Research „Demonstrating specification gaming in reasoning models“ (2025): https://palisaderesearch.org/research/specification-gaming

GenAI „LLM06:2025 Excessive Agency“ (21.09.2026): https://genai.owasp.org/llmrisk/llm062025-excessive-agency/

verifywise.ai: „Ki-Regulatory-Sandbox“ (23.09.2026): https://verifywise.ai/de/lexicon/ai-regulatory-sandbox

Single Source of Truth: Wie Standardsoftware die verlässliche Basis für künstliche Intelligenz bildet

Geschrieben am 10. September 2026.

Arbeiten mit KI – aber auf welcher Datenbasis?

Wie lässt sich KI in bestehende ERP-Systeme einbinden? Welche APIs braucht es und wie bleibt der Zugriff sicher?
Doch bevor man in die technische Umsetzung geht, muss man sich zuvor die Frage stellen, wie verlässlich und aktuell die verwendeten Daten sind.

Daten sind schon heute der Rohstoff der Versicherungswirtschaft. Handlungskompetenz entsteht jedoch erst, wenn sie verstanden, vernetzt und intelligent eingesetzt werden können. Bei vielen Branchenexperten steht deshalb nicht nur künstliche Intelligenz im Mittelpunkt, sondern auch die Datenqualität und die Ausgangslage mit der die KI arbeiten kann. Dafür braucht es klare Strukturen – und einen zuverlässigen Softwarepartner mit Expertise, der die Daten und Prozesse der Versicherungswirtschaft versteht.

KI braucht mehr als nur den Zugriff auf Daten

In der komplexen Versicherungsbranche liegen Daten in Verträgen, in Schadenmeldungen, im Bestand – verteilt in Excel-Tabelle, Maklerverwaltungsprogrammen, E-Mails – die Liste ist lang. KI ist zwar in der Lage, diese Informationen zu finden, durch fehlende Zuordnung, widersprüchlichen Angaben oder veralteten Vertragsständen, kann jedoch die Daten weder verlässlich bewerten noch weiterverarbeiten. Sobald Informationen wie in einer Standardsoftware fachlich zugeordnet und strukturiert, aktuell und transparent in Prozesse eingebettet werden, kann Künstliche Intelligenz einen echten Mehrwert für die tägliche Arbeit schaffen.

Das eigentliche Problem: Fragmentierte Daten statt fehlender KI

Eine große Herausforderung im Arbeitsalltag ist die Tatsache, dass Duplikate, unterschiedliche Vertragsstände oder nicht zugeordnete Dokumente zu einem Datenchaos führen. Ein potentielles Risiko, wenn man KI mit fragmentierten Daten arbeiten lässt. Es ist der Nährboden für fehlerhafte Ergebnisse und doppelten Arbeitsaufwand.

Besonders wichtig ist daher für die KI eine Single Source of Truth. Darunter versteht man nicht zwingend eine einzige Datenbank, sondern eine verbindliche, qualitätsgesicherte, fachlich definierte Datenbasis. Für jeden relevanten Datensatz ist klar definiert, welches System die maßgebliche Quelle ist, wer verantwortlich ist und welcher Dokumentenstand Gültigkeit besitzt.

Um diese verbindliche Datenbasis zu schaffen und zu unterstützen, kann die Arbeit mit einer Enterprise Resource Planning Software, in der Daten gepflegt werden, Zuständigkeiten und Regeln vorherrschen, hilfreich sein. Ein ERP ist aus diesem Grund mehr als nur eine Datenbank! Es gibt der KI die notwendige Orientierung sowie strukturierte Daten:

Informationen zu Kunde, Vertrag oder Schaden werden fachlich miteinander verbunden
Datenstände und historisierte Daten (z.B. bei Verträgen) werden nachvollziehbar und transparent dargestellt
Berechtigungssysteme und Verantwortlichkeiten können abgebildet werden
Geschäftsprozesse werden automatisiert und in hilfreiche Workflows übertragen
Externe Daten und Informationen können kontrolliert über APIs integriert werden

Standardsoftware wird zur Quelle für erfolgversprechenden KI-Einsatz

Ein sauber gepflegtes Bestandsdatenmanagement, historisierte Verträge, kontextbasierte Daten:
Eine integrierte Standardsoftware schafft die Voraussetzung, Daten nicht nur zentral zu verwalten, sondern sie fachlich im Rahmen von persönlicher Betreuung zu verknüpfen, zu historisieren und prozesssicher nutzbar zu machen.

Schaut man in die Praxis, erkennt man schnell, weshalb unstrukturierte Daten ein Risiko darstellen. Ein Schaden lässt sich nicht nur anhand einer Schadennummer bewerten. Viel wichtiger und wertvoller sind dabei Informationen wie Vertragslaufzeit, Deckungsumfang, Selbstbehalt, Schadenhistorie, beteiligte Akteure, etc. Nicht zu vergessen sind neben Datenqualität auch Governance oder Verantwortlichkeiten und Berechtigungsrollen. Ein Kosmos an Faktoren, die im Rahmen eines effizienten Schadenmanagements zu berücksichtigen sind. Dabei ist nicht die Anzahl der eingesetzten KI-Tools erfolgversprechend, sondern die Daten- und Kontextqualität. Mit einer integrierten Standardsoftware hat man die Möglichkeit, eine verlässliche Daten- und Prozessbasis zu schaffen, mit der KI effizient und transparent arbeiten kann.

Faktencheck

KI erreicht ihren Mehrwert nicht dadurch, dass sie auf Unmengen an Daten zugreifen kann, sondern dadurch, dass sie die relevanten Daten im richtigen Kontext versteht und verarbeitet. Sie braucht einen verlässlichen Blick auf die fachliche Realität. Eine Standardsoftware wie openVIVA verbindet Kunden mit Schäden, Verträgen, Kommunikation und Prozessen entlang der gesamten Wertschöpfungskette und schafft so ein transparentes Gesamtbild.

openVIVA wird dadurch zu Ihrem Stabilisator, auf dessen Fundament KI sicher recherchieren und kontrolliert in Arbeitsprozesse integriert werden kann.

Quellen

KI-Erfolg beginnt bei den Daten: Fraunhofer FIT auf der Hannover Messe (31.03.2026): https://www.fit.fraunhofer.de/de/presse/26-03-31_KI-Erfolg-beginnt-bei-den-Daten-Fraunhofer-FIT-auf-der-Hannover-Messe.html?utm

Dossier: Künstliche Intelligenz (30.03.2026): https://www.gdv.de/gdv/themen/digitalisierung/kuenstliche-intelligenz