Nachdem wir Sie hoffentlich mit einigen Beispielen inspiriert haben, möchten wir nun die wichtigsten Herausforderungen beleuchten, die bei der Einführung KI-gestützter Tools auf Unternehmensebene auftreten können.
Modelle mit den richtigen Daten trainieren
Chatbasierte LLMs wie ChatGPT, Gemini (ehemals Bard) und andere liefern beeindruckend präzise Antworten. Naheliegend ist daher die Annahme, dass ein internes Tool in einem Unternehmen dieselbe Qualität bieten könnte. Doch ein Modell ist immer nur so gut wie die Daten, mit denen es trainiert wird.
In der Praxis mussten wir uns mit Fragen wie diesen auseinandersetzen:
-
Wie lassen sich Unternehmensdaten sicher crawlen und dem Modell zugänglich machen?
-
Können wir darauf vertrauen, dass Inhalte in verschiedenen Sprachen korrekt interpretiert und übersetzt werden?
-
Wie geht das Modell mit unterschiedlichen Währungen oder Zahlenformaten um?
-
Mit welchen Plattformen und Protokollen (CRM, ERP, E-Mail etc.) soll die Lösung verbunden werden?
Ein leistungsstarkes Modell ist kein Ersatz für gut organisierte, strukturierte Daten. Deshalb setzen wir klar auf kundenspezifische Implementierungen anstelle von Standardlösungen. Denn es braucht intensive Abstimmungen – vom Projektteam bis zum Vorstand –, um eine Lösung zu schaffen, die genau die Flexibilität und Anpassung ermöglicht, die Unternehmen benötigen.
Privatsphäre schützen
Natürlich wäre es ideal, wenn ein LLM alle internen Daten durchsuchen könnte. Doch sensible Informationen wie Gehaltsdaten oder personenbezogene Daten machen klare Schutzmassnahmen erforderlich.
Daraus ergeben sich wichtige Fragen:
-
Soll das Tool Zugriff auf vertrauliche Informationen erhalten?
-
Wie stellen wir sicher, dass sensible Daten nicht versehentlich weitergegeben werden?
-
Müssen alle Nutzeranfragen protokolliert werden, oder sollen sie verschlüsselt und anonym bleiben?
In unserer Entwicklung haben wir uns bewusst für ein Gleichgewicht entschieden: Fortschritt ermöglichen, ohne die Datensicherheit zu gefährden. Wir haben ein Mass an Überwachung eingeführt, das Vertrauen schafft, ohne die Akzeptanz zu hemmen. In anderen Projekten kann eine detaillierte Protokollierung sinnvoll sein, um Interaktionen auszuwerten und das Modell gezielt zu verbessern.
Kreativität und Autonomie bewahren
Wir alle kennen die Geschichten von Autofahrer:innen, die sich blind auf ihr Navi verlassen und im Feld landen. Genauso wenig darf man sich unkritisch auf KI-Ergebnisse stützen. Unternehmenslösungen benötigen daher stets eine integrierte Verifikationsmethode.
Auch Kreativität darf nicht ersetzt werden. Generative KI eignet sich hervorragend, um Ideen zu ergänzen, Inspiration zu liefern oder Illustrationen zu erstellen. Doch führende Unternehmen nutzen diese Ergebnisse nur als Ausgangspunkt. Am Ende gilt: LLMs prognostizieren das „wahrscheinlichste nächste Wort“ – sie sind Werkzeuge des Durchschnitts. Ohne menschliche Kreativität und kritische Bewertung bleibt das Ergebnis unvollständig.
Verstärkung bestehender Vorurteile
Ein weiteres Risiko ist die Reproduktion von Bias. KI spiegelt die Voreingenommenheiten wider, die in den Trainingsdaten enthalten sind. Dokumentationen wie Coded Bias (Netflix) oder The A.I. Dilemma (Center for Humane Technology, 2023) haben diese Problematik eindrücklich aufgezeigt und zur Debatte über Regulierung, u. a. in den USA, beigetragen.
Die Lehre daraus: Statt zu hoffen, dass Vorurteile vollständig eliminiert werden, ist es unsere Aufgabe, Ergebnisse kritisch zu prüfen und mit menschlichem Urteilsvermögen zu bewerten.
Missverständnisse über generative KI
LLMs müssen keine Blackboxen sein
Auch wenn der exakte Entstehungsprozess einer Antwort nicht transparent ist, bedeutet das nicht, dass LLMs keine Quellen benennen können. Wie in unserem Beispiel des Nachhaltigkeitsberichts gezeigt, lassen sich Antworten nachvollziehbar mit Quellenangaben versehen. Bei kundenspezifisch entwickelten Lösungen bleiben Algorithmen und Trainingsdaten zudem im Besitz des Unternehmens.
GenKI-Tools sind eine Investition – kein Plug & Play
Generative KI ist keine Technologie, die einfach per App-Download oder SaaS-Abonnement umfassend implementiert werden kann. Sie erfordert Investitionen – in Know-how, in Datenqualität und in die richtige Strategie.
Grossunternehmen verfügen häufig bereits über wertvolles technisches Fachwissen, z. B. im Datenbankaufbau oder im Training von Modellen. Statt zusätzliche Entwickler:innen einzustellen, kann es sinnvoller sein, vorhandene Kompetenzen zu nutzen und gezielt durch spezialisierte Profile wie Data Scientists zu ergänzen. Eine durchdachte Ressourcenstrategie wirkt sich direkt auf die Effizienz und die Kosten der Implementierung aus.
Erfahren Sie mehr
Bei NTT DATA Business Solutions sind wir überzeugt: Generative KI ist eine revolutionäre Technologie, aber nur dann, wenn sie verantwortungsvoll eingesetzt wird. Wir sehen unsere Aufgabe darin, Potenziale für Unternehmen nutzbar zu machen, ohne Risiken aus dem Blick zu verlieren.
Unsere Dienstleistungen rund um Innovation und Technologie
