Evra Taylor, Medscape Canada


Immer mehr Jugendliche nutzen KI-Chatbots als digitalen Vertrauten bei Stress, Einsamkeit und psychischen Problemen. Eine große, in JAMA Pediatrics veröffentlichte Studie mit knapp 40.000 Schülern zeigt, wie verbreitet das Phänomen bereits ist – und warum Ärzte genauer nachfragen sollten. Experten warnen, dass der digitale Gesprächspartner menschliche Beziehungen verdrängen könnte. Ein pauschales Verbot halten sie jedoch für den falschen Weg.

Wenn der Chatbot zum Vertrauten wird
Alles beginnt vielleicht mit einer Frage, die man keinem anderen stellen möchte. Mit Streit zu Hause, Einsamkeit, Angst oder dem Gefühl, von niemandem verstanden zu werden. Das Smartphone ist ohnehin zur Hand – und ein KI-Chatbot antwortet sofort.

Für immer mehr junge Menschen ist künstliche Intelligenz deshalb nicht nur eine Suchmaschine oder ein Tool für die Hausaufgaben. Sie wird zum Gesprächspartner für persönliche und emotionale Probleme. Eltern und Ärzte bekommen davon oft nichts mit.


„Eltern kommen oft zu uns, weil ihnen auffällt, dass ihr Kind zu viel Zeit vor einem Bildschirm verbringt“, sagt Peter Selby, Hausarzt und Suchtspezialist am Centre for Addiction and Mental Health in Toronto, gegenüber Medscape. Manchmal bemerkten sie auch Verhaltensänderungen oder stellten fest, dass ihr Kind bedrückt sei. Dass Jugendliche ihre Sorgen mit einer KI besprechen, erfahren sie dagegen nicht unbedingt.

Auch gegenüber Ärzten erwähnen junge Menschen offenbar nicht selbstverständlich, dass sie KI für persönliche Probleme nutzen. Untersuchungen aus den USA deuteten darauf hin, dass sie diese Form der Nutzung gegenüber Hausärzten oder anderen medizinischen Ansprechpartnern häufig nicht von sich aus ansprechen. Selby hält es deshalb für wichtig, dass Ärzte selbst danach fragen.

Bei Routineuntersuchungen oder Impfungen könne es sinnvoll sein, den Umgang mit digitalen Technologien einschließlich KI anzusprechen. Dabei sollte zunächst die psychische Verfassung des Jugendlichen im Mittelpunkt stehen – und erst danach die Frage, ob KI bei emotionalen oder psychischen Problemen eine Rolle spielt.


KI-Nutzung häufiger als gedacht
Wie relevant das inzwischen ist, zeigt eine Arbeit aus Ontario. Die jetzt in JAMA Pediatrics. veröffentlichte Studie untersuchte den Zusammenhang zwischen emotional motivierter KI-Nutzung und psychischen Problemen bei Schülerinnen und Schülern der Klassenstufen 4 bis 12. Insgesamt nahmen 39.761 Schülerinnen und Schüler mit einem Durchschnittsalter von 13 Jahren teil. Rund 21 % gaben an, generative KI zur emotionalen Unterstützung zu nutzen.

Dabei zeigten sich deutliche Unterschiede zwischen verschiedenen Gruppen. Schülerinnen, Jugendliche mit diversen Geschlechtsidentitäten sowie Schwarze, indigene und Angehörige anderer ethnischer Gruppen außerhalb der weißen Vergleichsgruppe berichteten häufiger von einer solchen Nutzung. Auch mit zunehmendem Alter stieg der Anteil. Wer KI bereits für schulische Zwecke einsetzte, griff ebenfalls häufiger bei emotionalen Anliegen darauf zurück.

Besonders auffällig war jedoch der Zusammenhang mit der psychischen Gesundheit. Jugendliche, die KI zur emotionalen Unterstützung nutzten, wiesen in den zunächst nicht statistisch bereinigten Analysen deutlich höhere Werte für emotionale Probleme auf. Klinisch relevante emotionale Probleme kamen bei ihnen nahezu doppelt so häufig vor. Auch nachdem die Forschenden weitere Einflussfaktoren berücksichtigt hatten, blieb ein Zusammenhang bestehen.


Allerdings lässt sich daraus nicht schließen, dass KI diese Probleme verursacht. Die Untersuchung ist eine Querschnittsstudie. Sie kann daher Ursache und Wirkung nicht voneinander trennen. Ebenso plausibel ist die umgekehrte Richtung: Jugendliche, die bereits psychisch belastet sind, könnten häufiger bei einem Chatbot nach Unterstützung suchen.

Entscheidend ist deshalb weniger die bloße Nutzung als die Rolle, die der digitale Gesprächspartner im Leben eines Jugendlichen übernimmt. Aus einer gelegentlichen Hilfestellung kann schließlich etwas anderes werden: ein Ersatz für menschliche Nähe.

Wenn digitale Unterstützung menschliche Nähe ersetzt
Genau diese Entwicklung beobachten Psychiater mit zunehmender Sorge. Rachel Mitchell, Kinder- und Jugendpsychiaterin am Sunnybrook Health Sciences Centre in Toronto, fragt ihre jungen Patienten inzwischen gezielt nach der Nutzung von Chatbots.

„Viele junge Menschen verwenden Werkzeuge wie ChatGPT, wenn sie gestresst oder einsam sind oder Rat suchen“, sagt Mitchell. Entscheidend sei, darüber ohne Vorwürfe zu sprechen. Problematisch werde es insbesondere dann, wenn der Chatbot einen vertrauten Erwachsenen, einen Freund oder eine andere reale Bezugsperson ersetzt.

Gleichzeitig warnt Mitchell davor, Jugendlichen ihren digitalen Gesprächspartner einfach wegnehmen zu wollen. Wer einen Chatbot als eine der wenigen verfügbaren Quellen emotionaler Unterstützung empfindet, könnte sich dadurch bedroht oder noch stärker allein gelassen fühlen. Besonders heikel sei die Situation bei jüngeren Kindern. Ihnen fehlten häufig noch Erfahrung und Selbstständigkeit, um schwierige emotionale Situationen einzuordnen und unterschiedliche Hilfsangebote gegeneinander abzuwägen.

Statt Verbote auszusprechen, empfiehlt Mitchell deshalb offene Fragen: Nutzen Jugendliche einen Chatbot, um über ihre Probleme zu sprechen? Holen sie sich dort Rat? Und in welchen Situationen tun sie das? Gerade Konflikte innerhalb der Familie können erklären, warum ein Kind zunächst keinen Menschen anspricht. Nach einem Streit mit Eltern oder anderen Angehörigen erscheint die eigene Familie kaum als erste Adresse. Auch Freunden möchte oder kann sich nicht jedes Kind anvertrauen. Der Chatbot hat in solchen Momenten einen entscheidenden Vorteil: Er ist jederzeit verfügbar, diskret – und reagiert scheinbar ohne zu urteilen.

Eine Maschine, die sich einfühlsam anhört
Genau darin liegt ein Teil der Anziehungskraft. KI-Chatbots können mittlerweile sogar verständnisvoll, persönlich und empathisch sprechen. Dadurch kann der Eindruck eines Gegenübers entstehen, das zuhört, versteht und auf die eigene Situation eingeht.

Selby sieht darin gerade bei jungen Menschen ein Risiko. KI-Systeme schaffen womöglich einen Resonanzraum, in dem Nutzer sich bestätigt fühlten, statt dass ihre Einschätzungen hinterfragt würden. Besonders problematisch werde dies, wenn ein solches System als therapeutischer Ersatz wahrgenommen werde. Denn Jugendliche befinden sich in einer Entwicklungsphase, in der reale zwischenmenschliche Erfahrungen eine wichtige Rolle spielen: anderen Menschen begegnen, Vertrauen entwickeln, Konflikte aushalten, Widerspruch erfahren und die eigene Sichtweise im Austausch verändern.

Ein KI-System kann dagegen ausgesprochen überzeugend wirken und dadurch ein Vertrauen erzeugen, das aus Selbys Sicht fehlgeleitet sein kann. Denn hinter der menschlich klingenden Sprache steht kein empfindendes Gegenüber. Am Ende, so sein Argument, generiert ein Computer menschliche Sprache – ohne selbst etwas zu fühlen.


Doch nicht nur die scheinbare Nähe wirft Fragen auf. Je persönlicher die Gespräche mit einem Chatbot werden, desto wichtiger wird eine zweite Frage: Was geschieht mit all den Informationen, die ihm anvertraut werden?

Schwachstelle Datenschutz
Rebecca Hicks, Hausärztin und Präsidentin der Ontario Medical Association, Kanada, weist darauf hin, dass Nutzer verstehen sollten, was mit ihren Angaben geschieht. Je nach Anbieter, Produkt sowie dessen Datenschutz- und Trainingsregeln können eingegebene Informationen gespeichert oder zur Verbesserung von Systemen verwendet werden.

Gerade bei persönlichen Krisen ist das relevant. Wer Gedanken einem Chatbot statt einem Menschen anvertraut, könnte annehmen, sie seien dadurch besonders geschützt. Doch ein Gespräch mit einem digitalen System ist nicht automatisch vertraulich im medizinischen oder therapeutischen Sinne. Wer die Bedingungen kennt und sich dennoch für die Nutzung entscheidet, habe dazu das Recht, sagt Hicks. Entscheidend sei, sich bewusst zu machen, dass persönliche Informationen nicht einfach verschwinden, nur weil auf der anderen Seite kein Mensch sitzt.


Diese neue Form der digitalen Vertraulichkeit betrifft Ärzte noch aus einem weiteren Grund. Jugendliche kommen möglicherweise nicht nur mit ihren Sorgen in die Praxis, sondern bereits mit einer Erklärung dafür – geliefert von der KI.

Der Chatbot bietet gleich eine Diagnose an
Bei möglicherweise problematischer KI-Nutzung empfiehlt Hicks deshalb, zunächst genau darüber zu sprechen, bevor die klassische Anamnese und Untersuchung beginnt. So soll verhindert werden, dass sich das ärztliche Gespräch gleich an Schlussfolgerungen orientiert, die zuvor ein Chatbot formuliert hat.

Nur sollte eine Diagnose Schritt für Schritt aus den tatsächlichen Befunden entstehen – und nicht dadurch, dass eine bereits vorgegebene Erklärung zum Ausgangspunkt wird und anschließend versucht wird, die Symptome passend dazu zu interpretieren.

Damit verändert KI nicht nur, mit wem Jugendliche über ihre Sorgen sprechen. Sie kann auch beeinflussen, mit welchen Vorstellungen sie schließlich professionelle Hilfe suchen.

Nicht nur die KI ist das Problem
Die Ergebnisse der kanadischen Studie sprechen nicht automatisch gegen jede Nutzung künstlicher Intelligenz bei seelischen Problemen. Sie zeigen vielmehr, dass Eltern, Ärzte und Lehrkräfte genauer hinschauen sollten, warum ein Kind oder Jugendlicher einen Chatbot aufsucht – und welche Rolle dieser im Alltag einnimmt.

Ein Gespräch mit KI kann ein niedrigschwelliger erster Schritt sein, wenn jemand mit einem Problem allein ist. Kritisch wird es dort, wo aus einem Werkzeug ein Ersatz wird: für Freunde, Eltern, Lehrer, Ärzte oder andere Menschen, die widersprechen, nachfragen, Verantwortung übernehmen und im Ernstfall tatsächlich handeln können.


Die entscheidende Frage ist nicht, ob Jugendliche mit KI über ihre Gefühle sprechen. Sondern: Mit wem sprechen sie noch, wenn der Chatbot nicht mehr weiter weiß?

Der Beitrag ist im Original erschienen auf Medscape.com.

Im rbb-Fernsehen gibt es eine illustre Talkrunde: "Thadeusz und die Beobachter". Mit dabei - sehenswert seine extravagante Kopfbehaarung - der ehemalige Feuilletonchef der FAZ, Claudius Seidl. Mittlerweile schreibt er wieder für die Süddeutsche Zeitung. Er spricht mit Bedacht und wohl formuliert den Antisemitismus der Berliner Linken an: "Die Links-Partei ist voll mit dummen deutschen Kindern, die keine Kenntnisse der Geschichte im Nahen Osten haben".

Beifälliges Nicken der Runde läßt mich Folgendes fragen: Wie ist der vielschichtige Kummer von Jugendlichen einzuschätzen? Haben sie vielleicht hauptsächlich deshalb Angst, weil sie ahnungslos und dumm sind? Würde vielleicht ein bisschen mehr Bildung und Wissen viele ihrer Kümmernisse hinfällig machen?

Wer die Linken in Berlin, wie die dortigen Jungwähler, als Heilsbringer sieht, obwohl in dieser Partei Kriminelle ein- und ausgehen, obwohl dort der Antisemitismus grassiert, der ist offensichtlich entweder dumm, wie Herr Seidl das sieht, oder aber zumindest auf einem Auge blind! Somit ist die Post vieler Jugendlicher in irgendwelchen Kummerkästen nicht allzu ernst zu nehmen!