Der Wunsch nach digitaler Souveränität wird nicht nur von Compliance-Abteilungen vorangetrieben. Immer mehr Unternehmen sehen in der Abhängigkeit von nicht-europäischen Anbietern ein Risiko. So halten es laut dem GenAI Impact Report Germany 2025 inzwischen 71 Prozent der Befragten für wichtig oder sehr wichtig, dass die GenAI-Anwendungen ihres Unternehmens in der EU entwickelt wurden. In Bezug auf den Datenstandort empfinden sogar 85 Prozent ein Rechenzentrum auf europäischem Boden, das vor möglichen Eingriffen ausländischer Regierungen geschützt ist, als entscheidend. Neben Datenschutz und regulatorischen Anforderungen gemäß EU AI Act geht es um die Kontrolle über den Informationsfluss, Modelltransparenz und die langfristige Kostenstruktur. Unternehmen sollten sich mit der Möglichkeit eines Wechsels auseinandersetzen, auch wenn nicht jede KI künftig „Made in Europe“ sein muss. Denn für die meisten Firmen und für viele Anwendungsszenarien ist der Einsatz von Sprachmodellen und entsprechender Services der globalen Player völlig problemlos. Mit Blick auf Prävention lautet die entscheidende Frage aber: Wie gelingt ein Umstieg, wenn dieser notwendig werden sollte?
Aus Sicht von adesso kommt es auf fünf Handlungsfelder an:
- Startpunkt: Bestandsaufnahme mit KI-Landkarte. Bevor ein Wechsel zu einer alternativen GenAI-Lösung überhaupt bewertet werden kann, ist eine vollständige Übersicht notwendig: Welche GenAI-Dienste sind im Einsatz? Welche Schnittstellen nutzen sie? Welche Modelle stecken im Hintergrund? Wie werden die Daten gespeichert? Diese KI-Landkarte schafft Transparenz über vorhandene Integrationen in Systeme, Tools und sonstige Daten-Pipelines. Sie legt auch offen, wo Schatten-IT im Spiel ist. Ratsam ist, dass ein interdisziplinäres Team aus IT, Datenschutz, Fachabteilungen und Compliance gemeinsam eine Klassifizierung nach Kritikalität und strategischer Bedeutung der Daten vornimmt.
- Evaluierung: Sprachmodelle gezielt vergleichen. Nicht jedes Modell ist für jeden Anwendungsfall geeignet. Unternehmen sollten daher vorab definieren, welche Anforderungen jeweils gelten – etwa in Bezug auf Sprache, Genauigkeit, Hosting, Lizenzbedingungen oder regulatorische Konformität. Im Anschluss sollte eine Testumgebung eingerichtet werden. Idealerweise erfolgt der Vergleich unter realitätsnahen Bedingungen: gleiche Prompts, gleicher Kontext und definierte Auswertungskriterien wie Konsistenz der Ergebnisse, Halluzinationsrate oder Antwortzeit. Ergänzt wird die technische Beurteilung durch ein Lizenz-Assessment und die Analyse der Governance. In diesem Schritt sollte eine gezielte Gegenüberstellung von Open-Source-Modellen und proprietären Anbietern durchgeführt werden, da diese Entscheidung Auswirkungen auf die gesamte Lösungsarchitektur hat.
- Migrationsplanung: Roadmap mit Stufenmodell aufsetzen. Ein erfolgreicher Exit aus bestehenden LLM (Large Language Model)-Abhängigkeiten gelingt nicht per „Big Bang“. Bewährt hat sich ein Stufenmodell, das mit unkritischen Use Cases beginnt. Beispielsweise kann der Wechsel bei internen Textaufgaben oder Wissenssystemen starten – etwa durch ein RAG (Retrieval Augmented Generation)-System auf Basis eines souverän betriebenen Modells. Parallel dazu lassen sich bestehende Vektordatenbanken, die Sprachmodellen Zugriff auf relevante Unternehmensdaten geben, abstrahieren, sodass das Backend ausgetauscht werden kann, ohne die Nutzerlogik anzupassen. Wichtig: In jeder Phase sollten Fallback-Optionen eingeplant werden, etwa durch den parallelen Betrieb. Sinnvoll ist zudem ein internes Center of Excellence, in dem das Know-how zentral gebündelt ist und das den Rollout begleitet.
- Infrastruktur: Entscheidung über Betriebsmodell ist zentral. Ob Sprachmodelle performant und sicher laufen, hängt maßgeblich von der Infrastruktur ab. Viele europäische Alternativen setzen auf On-Premises- oder Private-Cloud-Szenarien – was Vorteile in puncto Datenschutz bringt, aber neue Anforderungen an Hardware, Deployment und Monitoring stellt. Unternehmen müssen daher frühzeitig entscheiden, ob sie eigene GPU-Cluster betreiben, europäische IaaS-Anbieter nutzen oder mit spezialisierten Dienstleistern zusammenarbeiten. Dabei ist wichtig: Die Infrastruktur muss nicht nur skalierbar sein, sondern auch kompatibel mit bestehenden Workflows, APIs und Sicherheitsstandards sein. Ansonsten droht jede Exit-Strategie im Pilotstatus zu verharren.
- Akzeptanz und Kompetenz: Der Mensch bleibt zentraler Erfolgsfaktor. Jede technologische Migration braucht die Unterstützung der Organisation. Insbesondere im Bereich GenAI sind die Erwartungen hoch – gleichzeitig ist das Vertrauen fragil. Daher sollten Unternehmen frühzeitig interne Pilotnutzer einbinden, die Modelle auf Relevanz und Verständlichkeit testen. Trainingsformate, Guidelines für Prompting und klare Feedbackkanäle sichern die Akzeptanz und steigern den Reifegrad der Nutzung. Wichtig ist auch, intern klar zu kommunizieren, warum die Migration erfolgt – nämlich nicht aus Selbstzweck, sondern zur Stärkung der Innovationsfähigkeit und digitalen Resilienz.
