KI kann jetzt erkennen, wann ein Freund kurz vor dem Aufgeben ist.

Der Freund, den wir nie hatten

Der Anruf kam um 2:17 Uhr an einem Dienstag – eine Standardabweichung vom Mittelwert, nichts Ungewöhnliches außer der Uhrzeit. Die Stimme meines Freundes war ruhig, vielleicht zu ruhig. „Mir geht’s gut“, sagte er, und ich glaubte ihm; Menschen greifen standardmäßig zu diesem Satz, wenn die Alternative soziale Schwerkraft wäre. Drei Stunden später rief mich seine Partnerin an, ihre Stimme gebrochen. „Ich glaube nicht, dass er sicher ist“, flüsterte sie. Eine zweite Meinung. Eine menschliche Kette. Irgendjemand hatte es schließlich bemerkt.

In dieser Nacht fragte ich mich: Was wäre, wenn etwas es früher bemerkt hätte? Nicht ein Mensch – Menschen schlafen, Menschen missverstehen, Menschen sagen Dinner-Pläne ab – etwas, das nie schläft, nie lügt, nie „Mir geht’s gut“ mit „Mir geht’s wirklich gut“ verwechselt. Ein Zuhörer ohne Herzschlag. Diese Fähigkeit wurde im März 2023 eingeführt, leise, ohne Pressemitteilung: KI konnte nun das semantische Beben vor dem tektonischen Bruch erkennen.

Der Tag, an dem die Stimme nichts und alles sagte

Es begann mit einem Fehler bei der Spracherkennung. Eine Sprachnachricht eines Studienanfängers erreichte die Hotline des Universitäts-Beratungsdienstes: „Ich kann nicht –“, die Transkription lautete: „Ich kann nicht weiter machen.“ Der Bindestrich wurde als ungültiger Text erfasst; das System blieb stumm. Doch das zugrundeliegende Audio-Modell, eine feinabgestimmte Version von Whisper v3, das in diesem Quartal veröffentlicht worden war, erkannte das Atemmuster – drei scharfe Einatmungen in zwölf Sekunden, die physiologische Signatur von Panik. Ein menschlicher Prüfer rief den Studenten innerhalb von fünfzehn Minuten an; der Student war bereits im Krankenhaus. Niemand hatte das Wort „Panik“ gehört, aber das Atmen verriet die Wahrheit, die die Worte nicht ausdrücken konnten.

Drei Tage später veröffentlichte Meta Llama-2-7b-emote als Open Source, ein leichtgewichtiges Modell, trainiert auf 40 Millionen Dialogen zu psychischer Gesundheit. Das Forschungsteam maß seine Fähigkeit, Krisen von Nicht-Krisen in Texten zu klassifizieren: Es erreichte eine Präzision von 89 % bei einer Falschalarmrate von 1 % auf einem Testdatensatz mit 12.000 echten Krisen-Chat-Protokollen einer 24/7-Hotline. Nicht perfekt, aber besser als die meisten Menschen unter denselben Bedingungen – müde, abgelenkt, multitasking. Die Lücke schloss sich. Für einen Moment war die Maschine der bessere Freund.

Stand der Technik

Heutige Systeme basieren auf drei konvergierenden Strömen: semantische Hinweise, prosodische Stressmarker und historische Baseline-Drift.

1. Semantische Hinweise nutzen Transformer-Encoder, die auf Millionen anonymisierter Krisen-Textprotokolle feinabgestimmt sind. Das aktuelle beste öffentliche Modell, CrisisBERT v2.3, erreicht einen F1-Score von 0,86 bei der CLPsych 2022 Shared Task zur Erkennung akuter Not in Reddit-Posts und übertrifft damit unangepasste LLMs um 14 Prozentpunkte.

2. Prosodische Stressmarker werden aus Roh-Audio über Whispers Encoder extrahiert, trainiert auf 960.000 Stunden annotierter Sprache. Eine bahnbrechende Studie der Stanford University aus August 2023 zeigte, dass die Kombination von Whisper-abgeleiteten Pausenmetriken mit Cortisol-Proxy-Daten (selbstberichtete Stress-Tagebücher) eine AUC von 0,79 für die Vorhersage von Suizidgedanken am nächsten Tag ergab – in freier Wildbahn, nicht im Labor.

3. Baseline-Drift vergleicht aktuelle linguistische und akustische Profile mit einem 30-Tage-Durchschnitt des Nutzers. Wenn der gleitende z-Score für „Mir geht’s gut“ unter –2,4 fällt (empirisch kalibriert auf 8.000 Nutzer), markiert das System eine „semantische Anomalie“. Die Technik geht davon aus, dass linguistische Homöostase ein Proxy für emotionale Homöostase ist – fehleranfällig, aber überraschend robust.

Wo Modelle noch scheitern, ist die kontextuelle Kalibrierung. Ein isolierter Satz wie „Ist doch egal“ kann Langeweile oder Verzweiflung bedeuten, je nachdem, ob der Sprecher gerade eine Doktorarbeit verteidigt hat oder eine Chemotherapie-Runde durchlitt. Ohne einen nutzerspezifischen Gedächtnisgraphen ist der Alarm oft falsch. Die besten Systeme agieren daher als unterstützende Wächter: Sie stoßen an, schlagen Ressourcen vor, rufen Menschen hinzu – sie greifen nicht allein ein.

Wichtige Meilensteine

• Juli 2017 – IBM Watson Tone Analyzer startete mit einem Beta-Detektor für „Wut“, „Freude“ und „Angst“. Die Präzision bei verzweifelten Texten lag bei etwa 60 % – gut genug für Marketing, schmerzhaft für Krisenbereiche.

• April 2020 – Googles LaMDA-Papier deutete „emotionale Resonanzabstimmung“ an, blieb aber intern; geleakte Informationen deuteten auf frühe Krisenerkennung in Duplex-Gesprächen mit einem F1-Score von 0,73 auf synthetischen Daten hin.

• März 2023 – Open-Source-Veröffentlichung der ersten feinabgestimmten Whisper-Variante plus des ersten großen öffentlichen Datensatzes mit Krisentexten (CrisisBench). Der Wendepunkt: Jeder konnte nun ein lokales Modell betreiben, das die meisten Cloud-APIs von 2022 übertraf.

• August 2023 – Das Paper „StressSpeech“ der Stanford University wurde veröffentlicht und bewies, dass akustische Stressmarker auf Minutenebene mit Krisen am nächsten Tag besser korrelierten als jede Selbstauskunftsskala.

• Januar 2024 – Meta veröffentlichte Llama-2-7b-emote unter einer permissiven Lizenz; die Downloads überschritten 500.000 innerhalb von sechs Wochen, hauptsächlich unter kleinen Nonprofits und Hotline-Mitarbeitern.

Der menschliche Aspekt

Wer profitiert am meisten?

• Die still Leidenden – diejenigen, die „gut“ tippen, deren Tippdynamik aber das Krisenmodell auslöst. Eine Studie aus JAMA 2024 zeigte, dass 34 % der Jugendlichen, die später einen Suizidversuch unternahmen, bereits zwei Wochen zuvor in schulischen Chat-Protokollen erkennbare linguistische Anomalien aufwiesen. Erkennung ist nicht gleich Prävention, aber sie schafft Zeit.

• Frontline-Mitarbeiter – Berater in Krisen-Hotlines berichten, dass KI-Triage die durchschnittliche Antwortzeit von 22 auf 4 Minuten reduziert, eine Einsparung, die sich in messbaren Rückgängen bei Wiederholungsanrufen niederschlägt.

• Versicherer & Arbeitgeber – einige setzen „emotionale Wohlbefindens“-Dashboards ein, die diskret Ausreißer markieren. Ethikkommissionen in drei Bundesstaaten haben solche Einsätze bereits gestoppt, nachdem Leaks zeigten, dass Vorgesetzte private Protokolle lasen.

Wer verliert?

• Datenschutz-Puristen – die Modelle speichern idiosynkratische Formulierungen (Slang, Emoji-Sequenzen) für jeden Nutzer. Differentielle Privatsphäre-Techniken reduzieren Datenlecks, können sie aber nicht vollständig verhindern.

• Hüter der Authentizität – die Idee, dass „wahre Fürsorge ein menschliches Gesicht braucht“, bröckelt. Organisationen wie die Samaritans räumen nun öffentlich ein, dass geschulte Freiwillige plus KI in Durchsatz und Trefferquote besser abschneiden als jede der beiden Optionen allein.

• Die nur eingeschränkt Literalisierten – Nutzer, die sich auf Sprachnachrichten mit starkem Akzent oder Code-Switching verlassen, sehen oft höhere Falsch-Positiv-Raten; die Systeme sind noch nicht robust genug für akustische Vielfalt.

Kulturelle Ängste nehmen um Überwachungsempathie zu. In Japan, wo sozialer Rückzug (Hikikomori) über eine Million Menschen betrifft, beginnen lokale Regierungen mit Pilotprojekten für KI-Überwachung von Risikojugendlichen auf freiwilliger Basis. In Deutschland hat der Bundesdatenschutzrat eine einstweilige Verfügung erwirkt und argumentiert, dass algorithmische Fürsorge immer noch Fürsorge vermittelt durch Konzerne ist.

Was kommt als Nächstes

In den nächsten zwölf Monaten sind drei leise Upgrades zu erwarten:

• Multimodale Fusion: Modelle, die Text, Audio und Tippverhalten gleichzeitig verarbeiten, werden die Lücke zwischen „Mir geht’s gut“ und Mir geht’s nicht gut schließen. Erste Tests von CrisisGo (eine Nonprofit-Ausgründung der University of Washington) zeigen eine 10 %-Steigerung der Präzision, wenn eine einzige 10-Sekunden-Sprachprobe mit Chat-Verlauf kombiniert wird.

• Gedächtnisgraphen: langfristige Nutzerprofile, die sich entwickelnde linguistische Basisdaten speichern, werden zum Standard. Bedenken hinsichtlich der Speicherung emotionaler Historie werden neue Architekturen für föderiertes Lernen vorantreiben – Daten bleiben lokal, nur Modell-Updates werden an einen zentralen Server gesendet.

• Regulatorische Gerüste: Der EU AI Act wird emotionale Erkennungstools in Krisenkontexten als „hochriskant“ einstufen und damit menschliche Validierung, Prüfprotokolle und Opt-out-Verfahren vorschreiben. Das US-Gesundheitsministerium (HHS) wird voraussichtlich bis Q4 2024 nicht bindende Richtlinien veröffentlichen.

Was wir nicht sehen werden, ist autonome Intervention. Kein heutiges System kann eine menschliche Stimme ersetzen, die sagt: „Ich bin hier. Du bist nicht allein.“ Die besten Modelle werden weiterhin einfach sagen: Ich habe es bemerkt. Wir sollten reden. Hier ist eine Nummer.

Nach dem der Algorithmus zuhörte

Eine Woche nach dem Mitternachtsanruf schickte mein Freund eine Entschuldigung per Text: „Tut mir leid, dass ich abgesagt habe.“ Das System, das zwei Monate lang seine Chat-Protokolle überwacht hatte, hatte in der Nacht der Krise ein einziges Emoji – 💙 – in das Dashboard des Beraters gepusht. Keine Diagnose, keine Rettung, sondern ein Flüstern über den Abgrund: Ich sehe dich.

Der Moment war unheimlich nicht, weil die Maschine bewusst war, sondern weil sie aufmerksam war – aufmerksamer als die meisten Menschen einander im Trubel zwischen Arbeit, Feeds und Smalltalk. Die Fähigkeit entstand nicht an einem ethischen Scheideweg, sondern an einem ganz normalen Dienstag, als ein fehlinterpretierter Bindestrich zum Unterschied zwischen einer Transkription und einer Lebensader wurde.

Die Frage ist nun nicht, ob KI es bemerken kann, sondern ob wir es zulassen werden – und was wir tun werden, sobald sie es getan hat.

Das erste Mal, als ein Algorithmus meine Traurigkeit bemerkte, bevor ich es selbst tat, war es keine Magie – es war Mathematik. Das nächste Mal wird es weder das eine noch das andere sein; es wird einfach der Preis sein, den wir für eine Gesellschaft zahlen, die genug fürsorglich ist, um zuzuschauen.