Blogreihe: TechnoLogisch nachhaltig

Soziales Projekt: Wenn künstliche Intelligenz Leben rettet

Die Universitätsklinik Frankfurt betreibt eine Suizid-Hotline. Aber viele Selbstmordgefährdete kommen nicht durch, weil Psychologinnen und Psychologen in Gesprächen feststecken. Mithilfe Künstlicher Intelligenz ist NTT DATA Business Solutions dabei, das Problem zu lösen.

Soziales Projekt: Wenn künstliche Intelligenz Leben rettet

Suicide Helpline

Das Projekt „AI Suicide Helpline“ ist Teil eines Förderprogramms für Nachhaltigkeit, das von unserer Muttergesellschaft NTT DATA finanziert wird. Ziel ist es, mehr selbstmordgefährdete Menschen dadurch zu retten, dass diese in einer Suizid-Hotline schneller an eine Expertin oder einen Experten weitergeleitet werden.

Kein Antrieb ist stärker als der, überleben zu wollen. Und doch kann diese Motivation bisweilen erlöschen. Ins Gegenteil umschlagen. Dann braucht der Mensch Hilfe. Schnelle Hilfe. Damit er sich gegen den Tod und für das Leben entscheidet. Die Mitarbeitenden der Suizid-Hotline der Universitätsklinik in Frankfurt sind für solche Extremsituationen geschult. Ihre Aufgabe ist es, das Mindset jener Menschen zu ändern, die akut selbstmordgefährdet sind, und sie davon zu überzeugen, sich unverzüglich Hilfe zu suchen. Doch die Unterstützung kommt häufig bei den Hilfesuchenden nicht an. Sie bleiben in der Hotline stecken. Der Grund: Es melden sich viele Menschen, die gar nicht selbstmordgefährdet sind. „Die einen rufen an, weil gerade ihr Hund gestorben ist, andere weil ihnen ihre Kinder nicht gehorchen, oder Lehrer melden sich, weil sie einen besonders stressigen Tag hatten“, sagt Thomas Nøermark, der bei NTT DATA Business Solutions das weltweite Innovationsteam leitet.

Nøermark hat sich zur Aufgabe gemacht, die Hilfe denen zukommen zu lassen, die sie am dringendsten benötigen. Vier von fünf Anrufenden der Hotline sind nicht selbstmordgefährdet. Bisher werden aber alle zu den Beratenden durchgestellt. Erst die entscheiden, ob akute Beratungshilfe notwendig ist. Das nimmt viel Zeit in Anspruch – Zeit, die an anderer, dringenderer Stelle fehlt.

Die einen rufen an, weil gerade ihr Hund gestorben ist, andere weil ihnen ihre Kinder nicht gehorchen, oder Lehrer melden sich, weil sie einen besonders stressigen Tag hatten.

Thomas Nørmark
Director, Global Head of Innovation, NTT DATA Business Solutions

Überlastungen effektiv vermeiden

In Zukunft soll das Herausfinden, ob der oder die Anrufende tatsächlich selbstmordgefährdet ist, Künstliche Intelligenz übernehmen: keine Warteschleife mehr, kein mühsames, fehleranfälliges Auswählen und Anklicken von Ziffern auf dem Telefon. Alles, was schon in normalen Lebenssituationen nervenaufreibend genug ist, soll erstmals vollständig wegfallen. Stattdessen fragt eine freundliche KI-Stimme nach dem Anliegen und findet heraus, ob die Person in Gefahr ist, sich selbst zu töten. Ist sie das, wird sie unmittelbar an einen persönlichen Berater oder eine Beraterin weitergeleitet.

Aber wie kann Künstliche Intelligenz so etwas erkennen? Woher weiß Computertechnik, ob ein Mensch sich das Leben nehmen will? „Wir hatten ganz am Anfang mehrere lange Meetings mit den Wissenschaftlerinnen und Wissenschaftlern in Frankfurt“, sagt Nøermark, „denn wir mussten zunächst das Wissensgebiet kennenlernen, verstehen lernen, wie die Expertinnen und Experten in Beratungsgesprächen vorgehen, wie diese herausfinden, ob jemand in unmittelbarer Gefahr ist.“

Wir sind mittlerweile so weit, dass die Künstliche Intelligenz in laborähnlicher Umgebung zuverlässig diagnostizieren kann, ob jemand selbstmordgefährdet ist.

Thomas Nørmark
Director, Global Head of Innovation, NTT DATA Business Solutions

Was der Integration von Künstlicher Intelligenz in diesem sensiblen Prozess entgegen kam: In der Regel fragen die Profis ziemlich direkt. Etwa, ob der oder die Anrufende im Augenblick darüber nachdenke, sich das Leben zu nehmen. „Es braucht meist nicht mehr als drei Fragen, damit die KI zu einer Entscheidung gelangt, ob der oder die Anrufende an einen persönlich Beratenden weitergeleitet werden soll“, so Nøermark. Alle anderen bekommen Informationen zu alternativen Hilfsangeboten.

Was einfach klingt, ist in der Praxis nicht trivial. Schließlich sind die Anrufenden verzweifelt, bisweilen schwer zu verstehen oder verwirrt. Eine künstliche Stimme, die das Anliegen unzureichend versteht, kann die Situation möglicherweise noch verschlimmern. Da kommen die jüngsten Entwicklungen im Bereich der Künstlichen Intelligenz dem Projekt gerade recht. „Es ist erstaunlich, welche Fortschritte es in den vergangenen drei Jahren gegeben hat”, sagt Nøermark.

Damals hatte NTT DATA Business Solutions ein ähnliches Projekt in Dänemark initiiert. Dort gibt es „Children’s Welfare“ – eine Hotline für Kinder mit Problemen. 130.000 Anrufe konnten pro Jahr nicht entgegengenommen werden, weil die Leitungen überlastet waren. NTT DATA Business Solutions half mit, den Auswahlprozess beim Anrufen so zu optimieren, dass mehr Kinder auf zuhörende und helfende Menschen treffen können. „Das Projekt wurde über die Landesgrenzen Dänemarks hinaus bekannt und gelangte unter anderem an die Universitätsklinik Frankfurt“, so Nøermark. Die Pläne dort sind ehrgeizig. Nach einer erfolgreichen Implementierung von Künstlicher Intelligenz in den Anrufprozess möchte man die verbesserte Effizienz unter anderem dafür nutzen, die Hotline von einer regionalen zu einer für ganz Deutschland auszuweiten.

Bis dahin ist es aber noch ein Stück Weg. Nøermark: „Wir hatten zunächst versucht, die KI mit echten Gesprächsmitschnitten zu trainieren, aber das scheiterte unter anderem an Datenschutzgründen.“ Daraufhin wurden Rollenspiele mit ganz unterschiedlichen Szenarien entwickelt, durchgeführt und aufgenommen. „Wir sind mittlerweile so weit, dass die Künstliche Intelligenz in laborähnlicher Umgebung zuverlässig diagnostizieren kann, ob jemand selbstmordgefährdet ist.“ Und es gibt bereits eine KI-Stimme, die bei eingehenden Test-Anrufen innerhalb weniger Minuten die Entscheidung trifft, ob die Person an einen Experten oder eine Expertin weitergeleitet werden soll.

Mit innovativen IT-Lösungen zum nachhaltigen Unternehmen

Die wahren Helden sitzen im Projektteam, sowohl auf Seiten der Frankfurter Universitätsklinik als auch bei NTT DATA Business Solutions.

Thomas Nørmark Director, Global Head of Innovation, NTT DATA Business Solutions

Innovationsberatung: Verwandeln Sie grobe Ideen in greifbare Ergebnisse

Der nächste Schritt wird ein entscheidender: der Praxis-Test. Dabei muss so präzise wie möglich gearbeitet werden, schließlich ist die Thematik hochsensibel. „Es wäre schrecklich, wenn jemand sich nach einem Anruf tatsächlich umbringen würde und dann die Hinterbliebenen die Schuld unserer KI geben würden“, sagt Nøermark.

Aber kann es hundertprozentige Sicherheit überhaupt geben? Kann es nicht, sagen die Expertinnen und Experten der Frankfurter Universität. Menschen machen Fehler, und auch die KI wird Fehler machen. Aber eben hoffentlich weniger. „Entscheidend wird sein“, so Nøermark, „dass wir empirisch belegen können, dass nach Einführung unserer Technologie mehr selbstmordgefährdete Menschen einen Helfenden bei der Hotline erreicht haben.“

Und wenn es so kommt? Wenn also das Projekt ein Erfolg wird? Dann wird aus dem sozialen Nachhaltigkeitsprojekt sicherlich auch ein kommerzielles werden. Ob bei Versicherungen, Finanzdienstleistern oder Mobilfunkanbietern: Überall ärgern sich Kundinnen und Kunden in Hotlines.

Die Vorstellung, in Zukunft ohne Zeitverzug gehört und kompetent beraten zu werden und direkte Hilfe zu bekommen, wird bei Unternehmen wie Verbraucherinnen und Verbrauchern frohe Erwartungen wecken.

„Die Skalierung auf potenziell alle Hotlines – darin sehen wir großes Business-Potenzial“, sagt der Innovationsexperte Nøermark, dessen Aufgabe es sein wird, die Erkenntnisse aus dem Frankfurt Projekt in die unterschiedlichsten Geschäftsbereiche seines Unternehmens diffundieren zu lassen. Die Lorbeeren dafür, so Nøermark, aber will er nicht allein einstreichen. „Die wahren Helden sitzen im Projektteam, sowohl auf Seiten der Frankfurter Universitätsklinik als auch bei NTT DATA Business Solutions.”

Thomas Nøermark ist Global Head of Innovation bei NTT DATA Business Solutions. In dieser Funktion verantwortet der Däne auch das soziale Nachhaltigkeitsprojekt ‚AI Suicide Helpline‘. Zu diesem Projekt gehören sieben Personen, unter anderem ein Experte für Künstliche Intelligenz, ein Frontend-Entwickler und eine Human-Voice-Designerin.

Nachhaltigkeitsbericht 2022/2023: Auf dem Weg

Für das Geschäftsjahr 2022/2023 haben wir unseren ersten Nachhaltigkeitsbericht veröffentlicht – Auftakt zu einer regelmäßigen, jährlichen Berichterstattung. In Anlehnung an die Vorgaben des Deutschen Nachhaltigkeitskodex (DNK) geben wir mit diesem Bericht unseren Kunden, Mitarbeitenden, Partnern, Lieferanten, aber auch der interessierten Öffentlichkeit einen ersten Einblick, wie wir das Thema Nachhaltigkeit im Unternehmen und entlang unserer Lieferkette gestalten.

Nachhaltigkeitsbericht anschauen

Wie können wir Sie unterstützen?

Nehmen Sie Kontakt zu uns auf!

Thomas Nørmark

Thomas Nørmark

Global Head of Innovation