Was wir mit generativer KI alles umsetzen

Wir wissen, dass Tools wie ChatGPT Konzepte zusammenfassen, Folgefragen beantworten und sogar Codes schreiben können, aber in der Geschäftswelt benötigen wir viel mehr Flexibilität. Vor allem auf Unternehmensebene brauchen wir Modelle, die aus unseren internen Daten lernen und Antworten nur für Mitarbeiter liefern können. Wie können wir also diese Technologie implementieren und die kreativsten und produktivsten Verwendungsmöglichkeiten dafür finden, ohne ein unüberschaubares Risiko einzugehen?

In diesem Blogbeitrag zeigen wir anhand konkreter Beispiele, wie wir generative KI einsetzen, um unser eigenes Unternehmen, NTT DATA Business Solutions, effizienter zu machen und neue Produkte zu entwickeln. Wir werden auch einige der grössten Missverständnisse über generative KI aufklären. Dazu gehören Fragen, die wir von unseren eigenen Kunden erhalten haben, aber auch Herausforderungen, die nicht so leicht vorhersehbar sind.

Unser Verständnis von generativer KI und die Tools, die wir damit schaffen, entwickeln sich ständig weiter. Hier sind nur drei unserer aktuellen Projekte, die generative KI und grosse Sprachmodelle mit mehreren Modellen (LLMs) nutzen.

Einen besseren Nachhaltigkeitsbericht erstellen

Mit der neuen CSRD (Corporate Sustainability Reporting Directive), die derzeit in der EU eingeführt wird, sind wir und viele andere Unternehmen nun verpflichtet, unsere Nachhaltigkeit zu verfolgen und darüber zu berichten. Ziel ist es, die ESG-Berichterstattung zu vereinfachen und zu standardisieren, doch die CSRD ist nach wie vor komplex. Sie umfasst mehr als 80 KPIs, die eine Mischung aus quantitativen und qualitativen Antworten erfordern. Das heisst, wir müssen nicht nur Daten wie Energieverbrauch und CO2-Emissionen verfolgen, sondern auch die Schritte zusammenfassen, die wir zur Senkung unseres Energieverbrauchs unternommen haben, und unsere Initiativen zur Verwirklichung der Geschlechtergleichstellung in unserer Belegschaft erläutern.

Als Anbieter von Datenlösungen sind natürlich fast alle unsere Geschäftsinformationen in der Cloud gespeichert, aber die Suche nach den richtigen Daten und die Erstellung des Berichts können dennoch sehr zeitaufwändig sein. Unsere Herausforderung besteht also darin, diesen Prozess so effizient wie möglich zu gestalten. Schliesslich wollen wir so wenig Zeit wie möglich für die Verwaltung aufwenden, sondern mehr für die Verbesserung unserer Nachhaltigkeit.

Mit der zunehmenden Flexibilität unserer Arbeitsregelungen ist auch das Onboarding komplexer geworden. Um einen Onboarding-Buddy nicht zu sehr unter Druck zu setzen oder unsere neuen Mitarbeiter:innen nicht mit riesigen Dokumenten zu belasten, die sie lesen müssen, hat unser Schwesterunternehmen einen digitalen Kopiloten, GoodGPT, entwickelt, der ihre Fragen beantwortet. Im Gegensatz zu herkömmlichen Chatbots, die lediglich nach Schlüsselwörtern suchen und vorgefertigte Antworten anbieten, versteht GoodGPT natürliche Sprache und antwortet auf Folgefragen.

Dieses Tool dient nicht nur der Beantwortung einfacher Fragen zu Urlaubsregelungen und Spesenabrechnungen, sondern ist auch eine Ressource für langjährige Mitarbeiter:innen. Die SAP-Software, die wir für unsere Kund:innen implementieren, wird sehr häufig aktualisiert, was es für unsere Mitarbeiter:innen zu einer Herausforderung macht, die Zeit zwischen Schulung und Implementierung einzuteilen. Mit GoodGPT können sie eine Chat-Schnittstelle nutzen, um sofort eine Antwort zu finden, ohne sich durch lange Dokumente und Lernvideos wühlen zu müssen. Das ist nicht nur eine kleine Annehmlichkeit, sondern wir haben von Unternehmen gehört, die mit einer hohen Fluktuation ihrer teuersten Mitarbeiter:innen zu kämpfen haben, weil sie sich mit Schulungsunterlagen herumschlagen müssen, die Tausende von Seiten umfassen.

Erleichterung für unsere Entwickler:innen

Viele Kund:innen bitten uns um ein Upgrade ihres ERP-Systems auf das cloudbasierte SAP S/4HANA. Da wir eine massgeschneiderte Plattform in eine andere umwandeln, müssen unzählige Codezeilen überprüft und/oder neu geschrieben werden, nicht nur, weil die Software komplex ist, sondern auch, weil SAP S/4HANA sich grundlegend unterscheidet.

Softwaremigrationen dieser Grössenordnung erfordern oft Hunderte von Stunden an Engineering- und Entwicklungszeit. Die Arbeit ist zudem hochspezialisiert, da SAP in ABAP geschrieben ist, einer Sprache, die nicht annähernd so verbreitet ist wie JAVA oder Python.

Dank der generativen KI sind diese Aufgaben, die früher grösstenteils manuell durchgeführt wurden, heute weitgehend automatisiert. Da wir bereits Tausende von SAP-Transformationen durchgeführt haben, verfügen wir über eine riesige Bibliothek mit alten und neuen Code-Basen, die unser LLM analysieren kann. Durch den Vergleich des vorherigen und des nachfolgenden Codes in jeder Transformation kann unser Tool Muster finden und lernen, welcher Code zu implementieren ist. Jetzt können unsere Ingenieure grosse Codeabschnitte hochladen und einen Grossteil des Rewritings für sich erledigen lassen, so dass nur noch die Aufgabe der Codevalidierung und der anspruchsvolleren Problemlösung übrig bleibt.

Nachdem wir Sie nun hoffentlich mit einigen Beispielen inspiriert haben, lassen Sie uns einige der Herausforderungen bei der Implementierung von KI-gesteuerten Tools auf Unternehmensebene untersuchen.

Modelle mit den richtigen Daten trainieren

Da chatbasierte LLMs wie ChatGPT, Gemini (ehemals Bard) und alle anderen erstaunlich genaue Antworten liefern, liegt der Gedanke nahe, dass der interne Einsatz eines ähnlichen Tools die gleiche Qualität liefern kann. Aber natürlich kann ein Modell nur so genau sein wie die Daten, aus denen es lernt.

Darüber hinaus mussten wir uns mit Fragen wie den folgenden beschäftigen:

• Wie können wir Daten crawlen und sicherstellen, dass sie für das Modell verfügbar werden?
• Können wir darauf vertrauen, dass es Dokumente in anderen Sprachen interpretiert und genau übersetzt?
• Wie wird es Daten in verschiedenen Währungen und Zahlenformaten interpretieren?
• Mit welchen Software-Plattformen und Protokollen verbinden wir es? (CRM, ERP, E-Mail…)

Ein gut definiertes Modell ist zwar leistungsstark, aber leider kein Ersatz für gut organisierte, strukturierte Daten. Aus diesem Grund sind wir der Meinung, dass es besser ist, eine kundenspezifische Implementierung anstelle einer Standardlösung zu wählen. Es müssen viele Gespräche geführt werden, von kleinen Projektteams bis hin zum Vorstand, und ein Standard-SaaS-Produkt bietet möglicherweise nicht die Anpassungsmöglichkeiten, die Ihr Unternehmen benötigt.

Privatsphäre schützen

Natürlich würden wir LLMs gerne erlauben, alle unsere internen Daten zu durchsuchen, aber es gab Einschränkungen zu beachten.

• Erlauben wir dem Programm, Gehaltsinformationen und andere sensible Daten abzurufen? Wie können wir verhindern, dass diese Informationen weitergegeben werden, wenn ein Nutzer eine entsprechende Frage stellt?
• Sollten wir jede Anfrage unserer Nutzer protokollieren, oder sollten die Anfragen verschlüsselt und vertraulich sein?

In unserem Entwicklungsprozess wurde schnell klar, dass wir ein Gleichgewicht zwischen dem Wunsch nach Fortschritt und der Notwendigkeit des Schutzes sensibler Informationen finden mussten. Wir entschieden uns auch für einen Kompromiss bei der Überwachung durch die Mitarbeiter, um die Nutzer zu ermutigen, dem Tool zu vertrauen und es so oft wie möglich zu nutzen. Bei einer anderen Implementierung könnte die Protokollierung jeder Abfrage wertvoller sein, da wir so die Interaktionen überprüfen und den Algorithmus verbessern könnten.

Kreativität und Autonomie bewahren

Wir alle kennen die Geschichten von Autofahrern, die sich zu sehr auf ihr Navigationssystem verlassen haben und schliesslich in ein Feld gefahren sind. Auf Google und Apple Maps kann man sich nicht blind verlassen, und auf die Ergebnisse unserer generativen KI-Systeme auch nicht. Tools auf Unternehmensebene können nicht ohne eine Methode zur Überprüfung ihrer Ergebnisse funktionieren, aber diese muss sorgfältig konzipiert sein.

Ebenso wenig sollte ein Werkzeug die Kreativität ersetzen. Generative KI kann unsere bestehenden Ideen verbessern, indem sie zum Beispiel Bilder generiert, um einen Blogbeitrag zu illustrieren. Oder sie kann eine Liste von Ideen zur Inspiration liefern, aber Unternehmen, die führend sind, werden diesen Output lediglich als Ausgangspunkt nutzen. Denken Sie daran, dass ein genKI-Tool, wenn es einen Satz schreibt, lediglich das nächste wahrscheinlichste Wort vorhersagt. Diese Tools sind Ingenieure des Durchschnitts. Wenn wir nicht alle unsere Farben mischen wollen, bis die Palette braun wird, ist unser menschlicher Beitrag unerlässlich.

Verstärkung bestehender Vorurteile

Über die Gefahr, dass KI historische Vorurteile verstärkt, ist schon viel gesagt worden. Einige gute Ausgangspunkte sind der Netflix-Dokumentarfilm Coded Bias sowie The A.I. Dilemma, eine Präsentation des Center for Humane Technology aus dem Jahr 2023, die die Regierung Biden dazu veranlasste, eine KI-Durchführungsverordnung zu erlassen und Möglichkeiten der Regulierung zu prüfen. Zusammenfassend lässt sich sagen, dass es wichtig ist zu verstehen, dass KI-gesteuerte Systeme die Voreingenommenheit der Daten widerspiegeln, auf denen sie trainiert wurden. Anstatt alle Hoffnungen darauf zu setzen, dies aus unseren Systemen herauszuarbeiten, ist es unsere Aufgabe, die Ergebnisse mit einem kritischen menschlichen Auge zu betrachten.

Missverständnisse über generative KI

Auf praktischer Ebene ist generative KI leider keine Technologie, die einfach durch das Herunterladen einer App oder das Abonnieren eines SAAS-Tools implementiert werden kann (zumindest auf Unternehmensebene), aber es gibt Elemente, die einfacher sind, als Sie vielleicht erwarten.

LLMs müssen keine Blackboxen sein

Auch wenn der genaue Prozess, der zur Generierung einer Antwort verwendet wird, nicht bestimmt werden kann, bedeutet das nicht, dass LLMs nicht in der Lage sind, Quellen zu liefern. Wie wir in unserem Beispiel für den Nachhaltigkeitsbericht beschrieben haben, ist die Angabe der Informationsquelle durchaus möglich. Wenn eine Lösung kundenspezifisch entwickelt wird, sind die Algorithmen und Trainingsdaten bekannt und gehören dem Unternehmen.

GenKI-Tools sind eine erhebliche Investition

Grossunternehmen verfügen in der Regel über viel qualifiziertes technisches Personal. Wir sind der Meinung, dass es am besten ist, die vorhandenen Humanressourcen so weit wie möglich zu nutzen. So kann es sein, dass Ihr Unternehmen bereits über hohe Kompetenz beim Aufbau von Datenbanken oder bei der Ausbildung eines LLM verfügt. Ebenso ist es nicht immer sinnvoll, eine technische Person intern einzustellen. Anstatt einen Python-Entwickler einzustellen, wäre es für Ihr Unternehmen vielleicht besser, eine SAAS zu abonnieren, die auf Python läuft. Die Einsparungen könnten in einen Data Scientist investiert werden, der Daten so umstrukturieren kann, dass LLMs sie vollständig verstehen können. Diese strategischen Entscheidungen können sich erheblich auf die Kosten auswirken.

Erfahren Sie mehr

Bei NTT DATA Business Solutions sind wir gespannt darauf, was sich mit generativer KI alles realisieren lässt. Wir nehmen unsere Rolle als verantwortungsvoller Entwickler einer wahrhaft revolutionären Technologie sehr ernst. Wenn Sie mehr über generative KI für Unternehmen erfahren möchten, lesen Sie unsere Blogbeiträge oder kontaktieren Sie ein Mitglied unseres Teams.