Eigenes ChatGPT, Claude und Co – oder doch die US-amerikanische Lösung?
Alphabet Inc. C (Google) über LYNX Broker handeln
Unternehmen können Large Language Models auf fünf grundsätzlich unterschiedliche Arten nutzen: als öffentlich verfügbares Standardmodell, als vertraglich abgesicherte Unternehmenslösung, als Modell mit Zugriff auf internes Wissen, als selbst betriebenes oder angepasstes Modell und schließlich als vollständig selbst entwickeltes Grundmodell. Diese Varianten unterscheiden sich vor allem hinsichtlich Datenschutz, Datensouveränität, Abhängigkeit, Aufwand und wirtschaftlichem Nutzen. Für das Top-Management ist deshalb nicht entscheidend, ob eine Lösung als „eigene KI“ bezeichnet wird, sondern welche Daten das Unternehmen kontrolliert, wer darauf zugreifen kann und ob der erwartete Nutzen den Aufwand und die Risiken rechtfertigt.
Öffentliche Standardmodelle
Die einfachste Variante sind öffentlich zugängliche LLMs wie ChatGPT, Claude, Google Gemini oder das französische Mistral. Sie werden über eine grafische Benutzeroberfläche genutzt und benötigen weder eine eigene Software noch eine API. Mitarbeitende können damit recherchieren, Texte formulieren, Dokumente zusammenfassen oder Ideen entwickeln. Eine API, also eine technische Schnittstelle, wird erst erforderlich, wenn das Modell automatisch in eigene Anwendungen oder Prozesse eingebunden werden soll. Der Vorteil dieser Standardmodelle liegt in ihrer sofortigen Verfügbarkeit, ihrer hohen Leistungsfähigkeit und den geringen Einstiegskosten. Gleichzeitig bieten sie dem Unternehmen nur begrenzte Kontrolle. Besonders bei kostenlosen oder privaten Konten ist häufig nicht ausreichend geregelt, wie lange Eingaben gespeichert werden, ob sie zur Verbesserung des Modells verwendet werden und welche Unterauftragnehmer beteiligt sind. Vertrauliche Unternehmensinformationen, personenbezogene Daten und Geschäftsgeheimnisse sollten daher nicht über unkontrollierte Privatkonten verarbeitet werden.
Vertraglich abgesicherte Unternehmensmodelle
Die zweite Variante sind professionelle Unternehmensangebote wie ChatGPT Enterprise, Microsoft 365 Copilot, Claude Enterprise, Gemini Enterprise, SAP Joule oder Salesforce Agentforce. Auch europäische Anbieter wie Mistral AI und Aleph Alpha bieten Lösungen für Unternehmen und öffentliche Institutionen an. Bei diesen Angeboten werden Datenschutz, Speicherfristen, Trainingsnutzung, Verfügbarkeit und Support vertraglich geregelt. Häufig lassen sich zudem Benutzerrechte zentral verwalten und Aktivitäten protokollieren. Der technische Aufwand bleibt überschaubar, besonders wenn die KI bereits in Microsoft 365, SAP oder Salesforce integriert ist. Dafür entsteht eine stärkere Bindung an den jeweiligen Plattformanbieter. Das Management muss deshalb prüfen, welche Vertragsgesellschaft die Leistung erbringt, wo die Daten verarbeitet werden, welche Unterauftragnehmer eingesetzt werden und ob sich Daten und Anwendungen später zu einem anderen Anbieter übertragen lassen. Bei amerikanischen Anbietern muss zusätzlich berücksichtigt werden, dass der CLOUD Act unter bestimmten rechtlichen Voraussetzungen die Herausgabe von Daten verlangen kann, die sich in der Verfügungsgewalt eines US-Anbieters befinden. Ein europäischer Serverstandort beseitigt dieses Risiko nicht automatisch. Das bedeutet aber auch nicht, dass US-Behörden beliebig auf Unternehmensdaten zugreifen können; die rechtliche Abhängigkeit gehört jedoch in die Risikobewertung.
LLMs mit Zugriff auf Unternehmenswissen
Die dritte Variante verbindet ein bestehendes LLM mit internen Dokumenten und Datenbanken. Das dafür häufig eingesetzte Verfahren heißt Retrieval-Augmented Generation, kurz RAG. RAG ist keine eigene Art von LLM und auch kein Training. Es ist eine vorgeschaltete Suche: Bevor das Modell antwortet, sucht das System in freigegebenen Unternehmensunterlagen nach passenden Informationen und stellt sie dem LLM für die konkrete Antwort zur Verfügung. Fragt ein Mitarbeiter beispielsweise nach der gültigen Reisekostenregelung, findet das System zunächst die entsprechende Passage in der aktuellen Richtlinie. Erst danach formuliert das LLM daraus eine verständliche Antwort. Wird die Richtlinie geändert, muss nur das Dokument aktualisiert werden; ein neues Modelltraining ist nicht nötig.
Der Vorteil liegt darin, dass aktuelles Unternehmenswissen genutzt werden kann, ohne es dauerhaft in ein Modell einzubauen. Außerdem können Quellen angezeigt und unterschiedliche LLMs mit derselben Wissensbasis verbunden werden. RAG garantiert jedoch keine richtigen Antworten. Findet die Suche das falsche Dokument oder interpretiert das Modell eine Passage falsch, bleibt auch die Antwort falsch. Ebenso wichtig sind die Zugriffsrechte: Ein Vertriebsmitarbeiter darf nicht auf vertrauliche Vorstandsunterlagen zugreifen, nur weil diese im gleichen Dokumentensystem gespeichert sind. Datenschutz und Datensouveränität hängen außerdem davon ab, welches LLM die gefundenen Textstellen verarbeitet. Werden sie an eine externe API übertragen, verlassen möglicherweise auch sensible Dokumentenausschnitte die eigene Infrastruktur. RAG ist daher vor allem ein Daten-, Such- und Berechtigungsprojekt. Für viele Unternehmen ist es dennoch die sinnvollste Möglichkeit, vorhandenes Wissen schnell nutzbar zu machen.
Selbst betriebene Open-Weight-Modelle
Die vierte Variante besteht darin, ein verfügbares Modell selbst zu betreiben. Beispiele sind Llama von Meta, Modelle von Mistral oder Qwen von Alibaba sowie europäische Modelle wie Teuken-7B oder Modelle aus dem OpenEuroLLM-Umfeld. Häufig werden diese Modelle als Open Source bezeichnet. Präziser ist teilweise der Begriff Open Weight: Die trainierten Modellparameter stehen zur Verfügung, aber nicht zwangsläufig die vollständigen Trainingsdaten, der gesamte Quellcode oder uneingeschränkte Nutzungsrechte. Vor dem Einsatz muss deshalb die jeweilige Lizenz geprüft werden.
Der Eigenbetrieb bietet eine höhere Kontrolle über Daten, Speicherfristen und Modellversionen. Ein Unternehmen kann das Modell in einer privaten Cloud oder auf eigenen Servern betreiben, sodass vertrauliche Eingaben die kontrollierte Umgebung nicht verlassen. Dafür steigt der technische und organisatorische Aufwand deutlich. Das Unternehmen benötigt leistungsfähige Rechner, IT-Sicherheit sowie Fachkräfte für Betrieb, Überwachung und Aktualisierung. Es übernimmt außerdem selbst die Verantwortung für Verfügbarkeit und Ergebnisqualität. Wirtschaftlich sinnvoll ist diese Variante vor allem bei großen Nutzungsmengen, besonders sensiblen Daten oder hohen Anforderungen an Unabhängigkeit. Bei geringem Nutzungsvolumen ist ein externer Dienst meist günstiger.
Angepasste und spezialisierte Modelle
Die fünfte Variante ist die Anpassung eines vorhandenen Modells durch Fine-Tuning. Dabei wird das LLM mit ausgewählten Beispielen auf eine bestimmte Aufgabe, Fachsprache oder Ausgabeform spezialisiert. Ein Maschinenbauer könnte ihm beispielsweise viele korrekt bearbeitete Fehlerberichte zeigen, damit neue Berichte künftig nach einem einheitlichen Schema eingeordnet werden. Fine-Tuning eignet sich besonders für wiederkehrende Fachaufgaben, feste Antwortformate und unternehmenseigene Terminologie. Für Informationen, die sich häufig ändern, ist es dagegen ungeeignet. Aktuelle Preise, Richtlinien oder Kundeninformationen sollten weiterhin aus einer Datenbank oder über RAG abgerufen werden.
Der Aufwand liegt weniger in der reinen Rechenleistung als in der Qualität der Trainingsdaten. Das Modell übernimmt nicht nur gute Beispiele, sondern auch Fehler, Vorurteile und widersprüchliche Regeln. Deshalb werden neben KI-Spezialisten vor allem erfahrene Fachkräfte benötigt, die geeignete Trainingsfälle auswählen und die Ergebnisse systematisch testen. Für eng begrenzte Aufgaben kann auch ein kleines Spezialmodell sinnvoll sein. Ein solches Modell kann etwa Rechnungen klassifizieren oder Vertragsklauseln erkennen. Es ist günstiger und leichter kontrollierbar als ein großes allgemeines LLM, kann aber nur einen begrenzten Aufgabenbereich abdecken.
Vollständig selbst entwickelte Grundmodelle
Die aufwendigste Variante ist das Training eines eigenen Foundation Models. Damit ist ein breit einsetzbares Grundmodell gemeint, das vollständig mit eigenen oder lizenzierten Daten trainiert und später für verschiedene Aufgaben angepasst wird. Dafür benötigt ein Unternehmen sehr große Datenbestände, leistungsfähige Rechenzentren und spezialisierte Teams für Datenaufbereitung, Modellarchitektur, Training, Sicherheit und Qualitätskontrolle. Die Investitionen reichen von mehreren Millionen Euro für kleinere spezialisierte Modelle bis zu mehreren hundert Millionen Euro für international wettbewerbsfähige Grundmodelle. Hinzu kommt das Risiko, dass die technologische Entwicklung schneller voranschreitet als das eigene Projekt. Für die meisten Industrie-, Handels- und Dienstleistungsunternehmen ist diese Variante daher nicht wirtschaftlich. Sie ist vor allem für Technologieanbieter, Forschungsverbünde oder Unternehmen sinnvoll, bei denen das Modell selbst zum Produkt oder zu einer strategischen Infrastruktur werden soll.
Europäische Modelle und digitale Souveränität
Kommen wir noch mal zurück auf die bereits angesprochen, europäische Anbieter wie Mistral AI und Aleph Alpha sowie Projekte wie Teuken-7B und OpenEuroLLM. Diese sind nicht automatisch sicherer als Modelle von OpenAI, Anthropic, Google, Meta oder Alibaba, oder gar leistungsfähiger. Ihr strategischer Vorteil liegt vielmehr in europäischer Rechtsbindung, Mehrsprachigkeit, lokaler Bereitstellung und geringerer geopolitischer Abhängigkeit. Auch bei einem europäischen Anbieter muss geprüft werden, welche Cloud-Infrastruktur genutzt wird, wo die Daten tatsächlich verarbeitet werden und welche internationalen Unterauftragnehmer beteiligt sind. Der Sitz des Unternehmens allein garantiert noch keine Datensouveränität.
Worauf das Top-Management achten sollte
Die Auswahl eines LLM ist keine reine IT-Entscheidung. Sie betrifft Wettbewerbsfähigkeit, Datenschutz, Geschäftsgeheimnisse, Kosten und Haftung. Das Management sollte deshalb für jeden Anwendungsfall klären, welchen konkreten Nutzen die Lösung schafft, welche Daten verarbeitet werden, wer darauf zugreifen darf, wo die Verarbeitung stattfindet und wie Ergebnisse kontrolliert werden. Ebenso wichtig ist die Frage, wie einfach das Modell oder der Anbieter später gewechselt werden kann.
Je stärker ein LLM Personalentscheidungen, Vertragsabschlüsse, Zahlungen oder Sicherheitsfragen beeinflusst, desto höher sind die Anforderungen an Tests, Dokumentation und menschliche Freigaben. Ein System, das einen Textentwurf erstellt, benötigt weniger Kontrolle als ein KI-Agent, der eigenständig Bestellungen auslöst. KI-Agenten und Plattformen wie n8n oder OpenClaw sind dabei keine weitere Art von LLM. Sie verbinden ein LLM mit Anwendungen und erlauben ihm, Arbeitsschritte auszuführen. Dadurch steigen sowohl die Chancen als auch die Risiken.
Für die meisten Unternehmen ist eine Kombination sinnvoll: Externe Unternehmensmodelle übernehmen allgemeine Aufgaben, RAG stellt internes Wissen bereit, selbst betriebene oder europäische Modelle schützen besonders sensible Daten und Fine-Tuning verbessert ausgewählte Fachaufgaben. Ein vollständig eigenes Foundation Model bleibt die Ausnahme.
Und schlussendlich: Digitale Souveränität bedeutet nicht, alles selbst zu entwickeln. Sie bedeutet vielmehr, Daten, Zugriffsrechte, Abhängigkeiten und Wechselmöglichkeiten so weit zu kontrollieren, dass das Unternehmen auch bei technischen, wirtschaftlichen oder geopolitischen Veränderungen handlungsfähig bleibt.
Marcus Disselkamp ist unser Gastautor zu dem Themenkomplex der Wettbewerbsfähigkeit in Zeiten der Digitalen Transformation. Als Co-Autor des Buches „KI und wir“ erreichte er seit Mitte 2025 in nur 9 Monaten über 600.000 Leser und in seinem Business Podcasts „KurzNachgedacht“ denkt er über moderne Unternehmensführung in Zeiten der digitalen Transformation und der Künstlichen Intelligenz. Mehr über ihn und sein Business Coaching finden Sie unter www.disselkamp.com.
Alle Blogbeiträge von Marcus Disselkamp zum Themenkomplex der Wettbewerbsfähigkeit in Zeiten der Digitalen Transformation finden Sie auf seiner Blog-Seite auf 4investors: hier klicken!
Disclaimer: Der Text ist eine Kolumne von Marcus Disselkamp. Der Inhalt der Kolumne wird von 4investors nicht verantwortet und muss daher nicht zwingend mit der Meinung der 4investors-Redaktion übereinstimmen. Jegliche Haftung und Ansprüche werden daher von 4investors ausdrücklich ausgeschlossen!
Anzeige
