Blog
AI
8 MIN

Confidential AI: Wie sich sensible Daten mit KI nutzen lassen

Künstliche Intelligenz erreicht immer mehr Geschäftsprozesse. Damit stellt sich zunehmend die Frage, wie sich auch sensible Unternehmensdaten sicher verarbeiten lassen. Confidential AI schließt dabei eine Sicherheitslücke, die in klassischen Architekturen offenbleibt, und erweitert so den Spielraum für den Einsatz von KI.

Künstliche Intelligenz ist in deutschen Unternehmen in der Breite angekommen. Im Mai 2026 nutzten laut ifo Institut 54,5 Prozent KI in ihren Geschäftsprozessen. Weitere 37,6 Prozent planen den Einsatz oder diskutierten darüber. Damit beschäftigt sich inzwischen mehr als neun von zehn Unternehmen konkret mit KI.

‍

Gleichzeitig verlagert sich immer mehr Rechenleistung auf Infrastruktur, die von Dritten betrieben wird. Laut dem Bitkom Cloud-Report 2026 nutzen 86 Prozent der deutschen Unternehmen bereits Cloud-Dienste. 42 Prozent beziehen auch KI-Dienste aus der Cloud. Für 87 Prozent ist dabei der Schutz vor unbefugten Zugriffen durch den Cloud-Anbieter ein „Must-have-Kriterium“.

‍

Für Unternehmen entsteht daraus eine konkrete Sicherheitsfrage: Wie lässt sich KI mit Daten betreiben, die nicht für fremde Blicke bestimmt sind? Das betrifft Kundeninformationen und interne Dokumente ebenso wie geistiges Eigentum oder Forschungsdaten. Hohe Schutzanforderungen bremsen dabei häufig Innovationsvorhaben. In einer Bitkom-Erhebung von März 2026 nannten 77 Prozent der Unternehmen Datenschutz als Digitalisierungshemmnis, Anforderungen an die technische Sicherheit nannten 61 Prozent.

‍

Für KI-Projekte entsteht daraus ein handfestes Problem. Fachbereiche möchten performante Modelle mit den eigenen Datenbeständen verbinden, während Sicherheits- und Compliance-Abteilungen sicherstellen müssen, wer diese Daten sieht, wo sie verarbeitet werden und wie sich Zugriffe nachweisen lassen.

‍

Confidential AI unterstützt Unternehmen dabei, diese Fragen zu beantworten und sensible Daten für KI-Workloads nutzbar zu machen.

‍

‍

Was ist Confidential AI?

‍

Confidential AI überträgt das Prinzip des Confidential Computing auf KI-Workloads. Im Mittelpunkt steht der Schutz sensibler Daten während ihrer aktiven Verarbeitung.

‍

Gerade dieser Verarbeitungsschritt spielt bei KI eine zentrale Rolle. Ein Modell verarbeitet Prompts, Kontextinformationen und Dokumente, um daraus Ergebnisse abzuleiten. RAG-Systeme erzeugen zusätzlich Chunks und Embeddings, speichern Vektoren und stellen für jede Anfrage passenden Kontext zusammen.

‍

Klassische Verschlüsselung für gespeicherte Daten (Data at Rest) oder während der Übertragung (Data in Transit) deckt diese Phasen der Verarbeitung (Data in Use) allerdings nicht ab. Confidential Computing dagegen schützt Daten während der Nutzung innerhalb hardwarebasierter Trusted Execution Environments, kurz TEEs. Eine TEE isoliert den geschützten Workload von der übrigen Infrastruktur. Remote Attestation ergänzt diese Isolation um einen kryptografischen Nachweis über den Zustand der Ausführungsumgebung. Systeme können daran beispielsweise die Freigabe von Schlüsseln oder vertraulichen Daten knüpfen.

‍

Für KI entsteht daraus ein neues Vertrauensmodell. Confidential AI begrenzt durch technische Schranken etwa die privilegierten Zugriffsrechte von Infrastrukturbetreibern und Administratoren. Wie weit die geschützte Umgebung reicht, hängt vom jeweiligen KI-Modell und Use Case ab.

‍

‍

Externe Frontier-Modelle oder vertrauliche Runtime?

‍

Wie eine Confidential-AI-Architektur aussieht, entscheidet sich am konkreten Anwendungsfall. Welche Informationen braucht das Modell für seine Aufgabe? Muss beziehungsweise darf das Modell die sensiblen Informationen im Original sehen?

‍

Bei externen Modellen, wo die eigentliche Inferenz beim Anbieter bleibt, lautet die Antwort häufig: Nein. Eine Möglichkeit ist, sensible Daten vorab innerhalb einer TEE durch konsistente Pseudonyme zu ersetzen. Das externe Modell erhält dann nur die für seine Aufgabe erforderliche abstrahierte Information. Die Modellantwort gelangt anschließend wieder in die geschützte Umgebung. Dort führt die Anwendung die pseudonymisierten Angaben mit den Originalinformationen zusammen und gibt erst anschließend das Ergebnis aus.

‍

Pseudonymisierung hat allerdings Grenzen. Wenn Daten pseudonymisiert werden, bleiben viele sprachliche Beziehungen und Strukturen erhalten, doch nicht jede Analyse verträgt dieselbe Abstraktion. Für bestimmte Anwendungen sind echte Werte oder Identitäten unerlässlich für gute Ergebnisse.

‍

Braucht das Modell diese unveränderten Informationen, bietet sich eine andere Confidential-AI-Architektur an: Modelle können innerhalb einer vertraulichen Ausführungsumgebung laufen und dort die Originaldaten verarbeiten. Voraussetzung ist, dass sich das Modell in einer kontrollierbaren Runtime betreiben lässt. Das trifft typischerweise auf eigene Modelle sowie viele Open-Weight- und Open-Source-Modelle zu. Für kleinere Modelle oder weniger rechenintensive Workloads kann dabei eine CPU-basierte TEE ausreichen. Große Sprachmodelle benötigen dagegen meist GPU-Beschleunigung. In diesem Fall erweitert eine Confidential GPU die geschützte Umgebung auf die eigentliche KI-Berechnung.

‍

Keiner der beiden Ansätze ist dem jeweils anderen grundsätzlich überlegen. Externe Modelle bieten häufig Zugang zu hoher Modellleistung und schneller Innovation. Vertrauliche Modell-Runtimes erlauben dagegen mehr Kontrolle über Daten, Modell und Ausführung innerhalb der eigenen Trust Boundary. Die Modell-Inferenz ist allerdings nur ein Teil des Datenpfads. Bei RAG-Anwendungen entstehen bereits davor mehrere sensible Verarbeitungsschritte.

‍

‍

Wie bleibt internes Wissen auf dem Weg zum Modell geschützt?

‍

Bei RAG-Anwendungen beginnt der Schutz sensibler Daten bereits vor der eigentlichen Modellanfrage. Dokumente werden eingelesen, in Abschnitte zerlegt und in Embeddings überführt. Anschließend speichert das System Vektoren und Metadaten für spätere Abfragen.

‍

Eine Confidential-RAG-Architektur kann diesen Datenpfad beispielsweise wie folgt absichern: Quelldokumente gelangen über einen sicheren Upload in das System und werden verschlüsselt gespeichert. Chunking und Embedding laufen innerhalb von Confidential Execution Environments mit Remote Attestation. Vektoren und Metadaten liegen anschließend in einer verschlüsselten Datenbank inklusive Mandantentrennung sowie separaten Collections und Indizes. Beim Retrieval erhalten nur attestierte RAG-Komponenten mit freigegebener Workload-Identität Zugriff auf die vorgesehenen Datenbestände. Dokumentbezogene Zugriffsregeln und Audit Trails ergänzen diese Kontrollen.

‍

Confidential RAG schützt damit den Weg vom internen Dokument bis zum bereitgestellten Kontext. Wie dieser Kontext anschließend verarbeitet wird, hängt wie erwähnt von der Modellarchitektur ab. Bei externen Modellen kann er vor der Übertragung pseudonymisiert werden. Läuft das Modell selbst vertraulich, bleibt auch die Inferenz innerhalb der geschützten Umgebung.

‍

Bleibt die Frage: Welche Möglichkeiten eröffnen diese technischen Schutzmaßnahmen in der Praxis?

‍

‍

Wie Unternehmen von Confidential AI profitieren

‍

Confidential AI erweitert nicht einfach die Sicherheitsarchitektur bestehender KI-Systeme. Die Technologie verändert auch, welche Daten, Modelle und Betriebsformen für Unternehmen praktisch infrage kommen.

‍

  • Vertrauliche Informationen werden für KI nutzbar: KI-Projekte scheitern heute weniger am Modell als an Schutzanforderungen für sensible Daten. Confidential AI erschließt gerade in regulierten Branchen wie dem Gesundheitswesen, der öffentlichen Verwaltung oder dem Finanzsektor Use Cases, die zuvor am Datenschutz oder internen Sicherheitsvorgaben gescheitert wären.
    ‍
  • Mehr Freiheit bei Modellen und Infrastruktur: Confidential AI erweitert zugleich die Wahlmöglichkeiten bei der technischen Umsetzung. Für manche Aufgaben bietet sich ein leistungsfähiges externes Modell an. Andere Anwendungen verlangen mehr Kontrolle über Modell und Daten und laufen deshalb innerhalb einer vertraulichen Umgebung. Dasselbe gilt für die Infrastruktur: Je nach Anforderungen kommen Deployments in der Private oder Public Cloud, On-Premises oder hybride Modelle infrage. Der stark eingeschränkte Betreiberzugriff ermöglicht es dabei, auch sensible Workloads vermehrt in externe Cloud- und Managed-Infrastrukturen zu verlagern.
    ‍
  • Governance und Compliance: Confidential AI schafft technische Leitplanken für sensible Daten in KI-Workflows. Zugriffskontrollen, Pseudonymisierung und nachvollziehbare Verarbeitung unterstützen dabei Anforderungen aus Datenschutz und AI Governance. Die DSGVO nennt Pseudonymisierung beispielsweise ausdrücklich als Maßnahme für Datenschutz durch Technikgestaltung. Auch der EU AI Act erhöht den Bedarf an kontrollierten und dokumentierbaren KI-Prozessen. Confidential AI allein stellt zwar keine Rechtskonformität sicher, liefert jedoch technische Kontrollen und Nachweise, auf denen Governance- und Compliance-Prozesse aufbauen können.
    ‍
    ‍
  • Konkrete Use Cases: Die Einsatzfelder gehen weit über einzelne KI-Chats hinaus: Customer-Service-Assistenten können reale Fallhistorien verarbeiten, während personenbezogene Daten vor externen Modellaufrufen pseudonymisiert werden. Interne Wissensassistenten erschließen Verträge, Richtlinien oder Fallakten über Confidential RAG. In vertraulichen Modell-Runtimes lassen sich etwa hochsensible Finanz- und Gesundheitsdaten oder proprietärer Quellcode für die Softwareentwicklung verarbeiten. Außerdem können Unternehmen ihren Beschäftigten auch sichere und validierte KI-Zugänge bereitstellen – und damit eine kontrollierte Alternative zu Schatten-KI schaffen.
    ‍

Dabei lohnt ein genauerer Blick auf den sicheren KI-Zugang für Beschäftigte, um exemplarisch aufzuzeigen, wie sich Confidential AI über die technische Architektur hinaus auf organisatorische Prozesse auswirken kann.

‍

‍

Schatten-KI:Sichere Alternativen statt Verbote
‍

KI-Dienste haben niedrige Einstiegshürden (z. B. Internet-Browser) und gelangen dadurch schnell in den Arbeitsalltag. Klare Leitplanken fehlen vielerorts. In einer Erhebung des TÜV-Verbands berichten 54 Prozent der Beschäftigten weder von konkreten KI-Vorgaben noch von einem Verbot. Nur 32 Prozent arbeiten nach festgelegten Regeln.

‍

Das Fehlen jeglicher Vorgaben oder grundsätzliche Verbote sind jedoch problematisch, denn frei verfügbare KI-Dienste bleiben für Mitarbeitende mit wenigen Klicks erreichbar und sind gerade unter Zeitdruck oft das Mittel der Wahl. Die Folge ist Schatten-KI außerhalb kontrollierter Datenflüsse. Die Aufgabe für Unternehmen besteht darin, Mitarbeitern sichere Lösungen zur Verfügung zu stellen, die im Arbeitsalltag die Benutzerfreundlichkeit so wenig wie möglich einschränken.

‍

Confidential AI erlaubt es Unternehmen und deren Mitarbeitenden, verschiedene Arten von Modellen – öffentlich wie privat – zu nutzen, und entschärft so eine wichtige Ursache für Schatten-KI: das Fehlen eines freigegebenen Zugangs zu leistungsfähigen Modellen für sensible Arbeitsprozesse. Unternehmen legen dabei am besten zunächst fest, welche Modelle mit welchen Daten arbeiten dürfen und implementieren die nötigen vertraulichen Schutzmechanismen. Diese greifen anschließend direkt im Datenfluss und laufen für Mitarbeitende praktisch unsichtbar im Hintergrund, während Logging und Audit Trails die Nutzung nachvollziehbar machen.

‍

Zum einen wird Governance damit konkreter: Sie beschreibt nicht allein erlaubte und verbotene Werkzeuge, sondern setzt Regeln technisch durch. Zum anderen schaffen die Schutzmechanismen von Confidential AI die Voraussetzungen, um Mitarbeitenden attraktive und gleichzeitig sichere KI-Workflows zu ermöglichen.
‍

‍

Fazit
‍

Die Nutzung von KI-Modellen wird zunehmend selbstverständlich. Schwieriger bleibt die Frage, welche Daten sich unter Berücksichtigung hoher Schutzanforderungen für KI-Anwendungen erschließen lassen.

‍

Confidential AI verschiebt hier die technischen Grenzen. Die Technologie schützt sensible Informationen während kritischer Verarbeitungsschritte und ersetzt Vertrauen in Infrastruktur- und Modellanbieter durch technische Kontrollen. Je nach Architektur betrifft dieser Schutz die Pseudonymisierung sensibler Daten, eine RAG-Pipeline oder die komplette Modell-Inferenz. Dadurch schafft Confidential AI auch eine bessere Grundlage für Datenschutz- und Compliance-Anforderungen, etwa von DSGVO oder dem EU AI Act. Confidential AI allein gewährleistet aber keine Rechtskonformität mit gesetzlichen Vorgaben.

‍

Wichtig: Confidential AI löst auch nicht sämtliche Sicherheitsfragen rund um künstliche Intelligenz. Angriffe wie Prompt Injection oder manipulierte Eingangsdaten verlangen eigene Schutzmaßnahmen.

‍

‍

Unternehmen in regulierten Branchen müssen sensible Daten nicht mehr grundsätzlich von KI-Projekten ausschließen.

Bring your workload

See the sealed version on your own stack, with the evidence your auditor gets to check.

TALK TO AN EXPERT →
KEEP READING

More from the library

BACK TO RESOURCES →