Generative KI: Abwägung von Bedrohungen und Potenzialen in einer sich wandelnden Welt

Generative KI ist ein Teilbereich der künstlichen Intelligenz, der mithilfe von Algorithmen und Modellen sehr realistische, menschenähnliche Inhalte wie Text, Bilder oder Audio erzeugen kann. Die Modelle lernen aus umfangreichen Datensätzen, um Muster und Beziehungen schnell zu verstehen und originelle Ergebnisse zu erzeugen.

Die Wurzeln der generativen KI liegen in der Forschung zum maschinellen Lernen und zu neuronalen Netzen aus den 1980er Jahren. Damals waren den generativen Modellen jedoch aufgrund mangelnder Rechenleistung und Datenressourcen Grenzen gesetzt. Dank der inzwischen grösseren Verfügbarkeit digitaler Daten und der Fortschritte im Bereich des Deep Learning mit Modellen wie Variational Autoencodern (VAEs) und Generative Adversarial Networks (GANs) kann die generative KI grosse Mengen unstrukturierter Daten verarbeiten und hat sich zu ungeahnter Raffinesse entwickelt.

Generative KI erzeugt heute aufschlussreiche, kreative und relevante Inhalte, die von menschlicher Arbeit kaum noch zu unterscheiden sind. Sie wird in verschiedenen Geschäfts- und Technologieanwendungen für die Erstellung von Inhalten, Chatbots, Produktdesign, Datenerweiterung und vieles mehr eingesetzt.

Doch die Revolution hat gerade erst begonnen.

Während das Wachstums- und Innovationspotenzial enorm ist, bestehen auch Risiken und ethische Implikationen.

Generative KI produziert Inhalte, bei denen die Grenze zwischen real und künstlich verschwimmt, wodurch die Frage nach der ethischen Verantwortung der Ersteller und Nutzer aufgeworfen wird. Ein wachsendes Geflecht ethischer Erwägungen entsteht, wenn die Technologie allgegenwärtig wird und die Menschen sich immer mehr auf KI-generierte Inhalte verlassen.

Der Umgang mit diesen Fragen erfordert ein gründliches Verständnis der der generativen KI zugrunde liegenden Prinzipien und Prozesse, denn hier werden die ethischen Erwägungen in die Rahmenwerke integriert.

Ohne ein tiefes Verständnis und eine sorgfältige Regulierung der KI sind wir Risiken ausgesetzt, wie z. B. Genauigkeit und Fehlinformationen, Voreingenommenheit, Risiken für das geistige Eigentum und Halluzinationen. Darüber hinaus ist eine solide ethische Grundlage für generative KI unerlässlich, um gesellschaftliches Vertrauen zu schaffen und künftige Fortschritte zu fördern.

Gehen wir näher auf einige dieser Risiken ein:

• Genauigkeitsrisiken

Laut einem aktuellen McKinsey-Bericht ist eines der grössten Risiken für Unternehmen, die generative KI einsetzen, mangelnde Genauigkeit (56 %).

Dies kann von der Übermittlung falscher Informationen an einen Kunden bis hin zu falschen Daten in Compliance-Dokumenten reichen, was weitaus kostspieligere und rechtliche Konsequenzen haben kann.

Generative KI-Modelle wie ChatGPT werden auf Datensätzen mit Hunderten von Milliarden von Parametern trainiert. Die Antworten auf Fragen und Aufforderungen können jedoch Ungenauigkeiten enthalten, wenn z. B. die verwendeten Eingaben veraltet, unvollständig oder ungenau sind.

Viele generative KI-Modelle, insbesondere solche für grosse Sprachen, hängen von älteren Eingaben ab und arbeiten ab einem bestimmten «Wissensstichtag» – dem Datum, an dem das KI-Modell zuletzt aktualisiert wurde. Alle Informationen, die nach diesem Datum verfügbar sind, würden nicht in den Ergebnissen erscheinen. Daher ist die Transparenz des Stichtags und die Sensibilisierung der Nutzer von entscheidender Bedeutung, um derartige Risiken zu minimieren.

Informationsungenauigkeiten können auch durch die Beschränkungen der Trainingsdaten entstehen. Generative KI arbeitet nur innerhalb der Grenzen der ihr zur Verfügung stehenden Daten. Es kann schwierig sein, ein umfassendes kontextuelles Bewusstsein zu schaffen, wenn die benötigten Informationen ausserhalb der Trainingsdaten liegen. Dies kann zu Antworten führen, denen es an Nuancen und kontextuellem Verständnis fehlt.

• Risiken der Voreingenommenheit

In den Algorithmen und Datensätzen generativer KI-Modelle können gesellschaftliche Vorurteile eingebettet sein, die zu einer voreingenommenen Inhaltserstellung oder Entscheidungsfindung führen und Vorurteile und diskriminierende Narrative gegenüber bestimmten Gruppen aufrechterhalten.

Der Umgang mit Voreingenommenheit ist eine grosse Herausforderung, da generative KI immer mehr Verbreitung findet. Zu den Minderungsstrategien gehören eine vielfältigere Datenauswahl und menschliche Wachsamkeit mit kontinuierlicher Überwachung der Ergebnisse.

• Risiken im Bereich des geistigen Eigentums

Die Verletzung von Urheberrechten steht im McKinsey-Risikobericht mit 46 % ebenfalls hoch im Kurs. Es gibt mehrere öffentlichkeitswirksame Fälle, in denen KI-Tools urheberrechtlich geschütztes Material ohne die Zustimmung des Urhebers integriert haben. Kürzlich verklagte die New York Times OpenAI und Mircosoft wegen Urheberrechtsverletzungen im Zusammenhang mit Millionen von Zeitungsartikeln, die zum Training von Chatbots verwendet wurden.

Aufgrund ihres komplexen Charakters stellt generative KI die traditionellen Normen und Vorschriften zum Schutz des geistigen Eigentums vor zahlreiche Herausforderungen. Die Gerichte erwägen nun, die bestehenden Gesetze auf generative KI-Inhalte anzuwenden.

Abgesehen von Urheberrechtsverletzungen stellen sich Fragen der Lizenzierung, der Nutzungsrechte, des Plagiats und des Eigentums an KI-generierten Werken.

• Halluzinationen

KI-Modelle verwenden Hunderte von Milliarden von Datensätzen zum Training und lernen, Vorhersagen zu treffen, indem sie Muster finden. Nehmen wir jedoch an, wir füttern sie mit falschen oder unvollständigen Annahmen. In diesem Fall kann das Modell falsche Muster lernen und eklatant falsche Informationen als Fakten präsentieren, was als Halluzinationen bezeichnet wird. Den Modellen fehlt das logische Denken oder die Fähigkeit, die von ihnen gelieferten widersprüchlichen Daten zu berücksichtigen.

Halluzinationen können Menschen in die Irre führen, Voreingenommenheit und Fehlinformationen verbreiten und in einem geschäftlichen Umfeld den Ruf schädigen und das Vertrauen untergraben.

• Ethische Risiken

Das Auftauchen von generativen Modellen wie ChatGPT und DALL-E von OpenAI hat die Debatte über die ethischen Aspekte der KI in den Vordergrund gerückt.

Zu diesen Überlegungen gehören Transparenz und Verantwortlichkeit – KI-Systeme arbeiten oft in einer «Black Box», in der die Nutzer nicht sehen können, wie Deep-Learning-Systeme zu ihren Entscheidungen kommen. Dies kann sich beispielsweise im Gesundheitswesen auswirken, wo es von entscheidender Bedeutung ist zu verstehen, wie Entscheidungen getroffen werden. Ebenso ist es notwendig, die Verantwortlichkeit zu klären und Korrekturmassnahmen zu ergreifen, wenn etwas schief läuft.

Es bestehen Risiken in Bezug auf den Datenschutz und die Datensicherheit. Da generative KI grosse Mengen personenbezogener und sensibler Daten verarbeitet, können Unternehmen, die dem keine Priorität einräumen, gegen gesetzliche Vorschriften wie die europäische Datenschutz-Grundverordnung verstossen und mit ernsthaften Konsequenzen rechnen. Um dies zu vermeiden, müssen sie robuste Sicherheitsvorkehrungen wie Datenverschlüsselung und Zugangskontrollen implementieren und regelmässige Sicherheitsüberprüfungen durchführen.

Auch die Nachhaltigkeit ist Teil der ethischen Diskussion – die Ausbildung grosser Sprachmodelle (LLM) verbraucht enorme Mengen an Wasser und Strom und hat einen grossen ökologischen Fuaaabdruck. Bevor ein solches System eingeführt wird, müssen die Unternehmen die Umweltauswirkungen ihres Handelns abwägen.

Die wirtschaftlichen und betrieblichen Auswirkungen

Wir haben gesehen, dass generative KI ein enormes Potenzial zur Steigerung von Produktivität und Effizienz in allen Sektoren bietet. Welche wirtschaftlichen Auswirkungen hat dies?

In einem Bericht aus dem Jahr 2023 schätzt McKinsey, dass sich der wirtschaftliche Gesamtnutzen der generativen KI auf 6,1 bis 7,9 Billionen Dollar jährlich belaufen könnte. 75 % des Wertes werden aus den Bereichen Kundenservice, Marketing und Vertrieb, Softwaretechnik sowie Forschung und Entwicklung stammen.

Ein erheblicher Nutzen ergibt sich aus der Produktivitätssteigerung, insbesondere bei internen Prozessen, wo generative KI die Fähigkeiten der Arbeitnehmer durch die Automatisierung einiger ihrer Tätigkeiten erweitern könnte. Dies kann die Art der Arbeit verändern und sich auf die Gesellschaft auswirken, wenn Wissensarbeiter sich anderen Aufgaben zuwenden und sich auf neue Rollen einstellen.

Auch wenn es verlockend ist, inmitten des Hypes und der Aufregung generative KI vollständig in Ihrem Unternehmen zu implementieren, sollten Sie zunächst einige Faktoren berücksichtigen.

Vergewissern Sie sich, dass der Nutzen der Implementierung des Systems die Kosten rechtfertigt. Das Training eines grossen generativen KI-Modells ist teuer. Es kann auch zusätzliche Infrastruktur und Wartung erfordern, was die Kosten weiter in die Höhe treibt. Darüber hinaus können sich diese Aktivitäten negativ auf die Nachhaltigkeitsziele Ihres Unternehmens auswirken.

Daher ist es wichtig, im Vorfeld eine Kosten-Nutzen-Analyse durchzuführen. Sie könnten zum Beispiel feststellen, dass ein kleineres LLM Ihren Bedarf zu einem Bruchteil der Kosten und mit geringeren Umweltauswirkungen decken kann.

Jedes Unternehmen hat andere Bedürfnisse und Ziele. Es ist ratsam, generative KI als ein strategisches Werkzeug in Ihrem Werkzeugkasten zu sehen und die beste Lösung für Ihre Unternehmensziele zu finden.

Wir haben oben einige der Risiken der generativen KI erörtert. Während sich die generative KI weiterentwickelt und sich durchsetzt, müssen wir die Risiken kontinuierlich bewerten und sorgfältig steuern.

Hier sind einige strategische Schritte, die Sie unternehmen können:

• Verwendung von Daten von Erstanbietern und verantwortungsvolle Beschaffung von Daten Dritter

Beim Training generativer KI-Modelle ist die Verwendung von Daten aus erster Hand, die direkt und freiwillig vom Kunden erhoben wurden, sicherer und vorzuziehen. So wird sichergestellt, dass die Daten genau, original und nachvollziehbar sind. Wenn Sie aggregierte Daten von Drittanbietern verwenden, die von Werbetreibenden oder Anbietern stammen, stellen Sie sicher, dass diese Anbieter die Datenschutzstandards einhalten, und überprüfen Sie ihre Praktiken, bevor Sie mit ihnen zusammenarbeiten.

• Schulen Sie Ihre Mitarbeiter in der angemessenen Nutzung von Daten und generativen Modellen

Diejenigen, die an vorderster Front mit generativer KI arbeiten, sollten in den ethischen Best Practices für KI geschult werden, um die Ergebnisse angemessen auf Verzerrungen oder Ungenauigkeiten zu prüfen. Dies wird auch dazu beitragen, eine wertvolle sicherheitsbewusste Kultur innerhalb des Unternehmens zu kultivieren.

• Investieren Sie in Cybersicherheits-Tools, die KI-Sicherheitsrisiken abdecken

Unternehmen müssen KI in ihre IT-Strategie für den Sicherheitsbetrieb (SecOps) einbeziehen. Dazu gehört der Einsatz von spezialisierten Cybersecurity-Tools, die alle Sicherheitsrisiken in der gesamten KI-Pipeline abdecken, von der Datenerfassung und dem Modelltraining bis hin zu den Endbenutzeranwendungen. Aufgrund der breiten Anwendung von KI in der Infrastruktur von Unternehmen ist eine Lösung, die einen End-to-End-Schutz gegen generative KI-Bedrohungen bietet, von entscheidender Bedeutung.

• Aufbau eines Teams von KI-Qualitätssicherungsanalysten

Neben der Schaffung einer KI-Sicherheitskultur in Ihrem Unternehmen ist es ratsam, ein Team von KI-Qualitätssicherungsanalysten zu beschäftigen, um sicherzustellen, dass die Modelle wie erwartet funktionieren und den KI-Compliance-Richtlinien entsprechen. Es kann auch KI-Audits durchführen, Sicherheitsstandards aufrechterhalten, Cybersicherheits-Tools überwachen und unternehmensinterne Schulungen durchführen.

• Recherchieren Sie generative KI-Modelle, bevor Sie sie einsetzen

Bevor Sie ein KI-Modell implementieren, sollten Sie Ihre Hausaufgaben machen. Achten Sie zum Beispiel darauf, ob die Anwendungen des Modells zu den vordefinierten Zielen Ihres Unternehmens passen. Welchen Ruf hat das Modell in diesem Bereich? Hat es sich in Ihrer Branche bewährt? Bewerten Sie den Technologie-Stack – verstehen Sie die zugrunde liegenden Algorithmen und Frameworks, um festzustellen, ob sie mit der Infrastruktur Ihres Unternehmens kompatibel sind, und überprüfen Sie, ob das Modell in Ihrem Bereich geschult ist.

Skalierbarkeit, einfache Integration und Benutzerfreundlichkeit sind ebenfalls zu berücksichtigende Faktoren.

Fazit

Generative KI durchdringt heute jeden Aspekt der Gesellschaft und wirkt sich fast unmerklich auf unser privates und berufliches Leben aus. Diese bahnbrechende Technologie hat ein unglaubliches Transformationspotenzial für unsere Welt, und wir haben bisher nur einen Bruchteil ihrer Möglichkeiten genutzt. Die Chancen für Fortschritt und Innovation in allen Branchen sind enorm, ebenso wie die potenziellen Risiken und Bedrohungen.

Es ist eine heikle Gratwanderung, Innovation und Fortschritt anzustreben und gleichzeitig ethische Praktiken, menschliche Originalität und Unabhängigkeit zu wahren. Um die Leistung der generativen KI verantwortungsvoll zu nutzen, müssen wir die der Technologie zugrunde liegenden Prinzipien verstehen, ihre Daten schützen, über solide regulatorische Richtlinien verfügen und sicherstellen, dass ein Mensch in der Kontrollschleife sitzt. Letztlich ist die Technologie dazu da, uns bei der Lösung von Problemen zu helfen und uns weiterzuentwickeln, also lassen Sie uns mit unseren Sicherheitsvorkehrungen voranschreiten.