Hamburg, 15. September 2026 – Immer mehr Kinder und Jugendliche vertrauen sich bei Ängsten, depressiven Verstimmungen oder Suizidgedanken nicht Eltern, Lehrkräften oder Fachärzt:innen an, sondern wenden sich an KI-Chatbots wie ChatGPT. Doch was auf den ersten Blick wie ein maximal niedrigschwelliges, jederzeit verfügbares Gesprächsangebot wirkt, birgt erhebliche Risiken – und ersetzt keine kinder- und jugendpsychiatrische Versorgung.
Ein wachsendes Phänomen ohne Aufsicht
Chatbots sind rund um die Uhr erreichbar, urteilen scheinbar nicht und verlangen keine Überwindung, im Gegensatz zum Gang in eine Beratungsstelle, Praxis oder Klinik. Genau diese Eigenschaften machen sie für belastete Jugendliche attraktiv – und genau diese Eigenschaften bergen substanzielle Gefahren, wenn ernsthafte psychische Krisen dahinterstehen.
„Ein Chatbot kann eine schwere psychische Krankheit oder eine akute Suizidalität nicht zuverlässig erkennen und trägt keine Verantwortung für das, was er sagt. Genau das kann in einem kritischen Moment gefährlich werden“, so Prof. Dr. Eva Möhler, Direktorin der Klinik für Kinder- und Jugendpsychiatrie, Psychosomatik und Psychotherapie des Universitätsklinikums des Saarlands und Kuratoriumsmitglied der Stiftung „Achtung!Kinderseele“.
Die zentralen Risiken:
* Fehleinschätzung von Suizidalität und akuten Krisen: Chatbots sind nicht darauf ausgelegt, Warnsignale zuverlässig zu erkennen oder im Notfall angemessen zu reagieren.
* Schmeichelei: die Tendenz, (auch hochproblematische) Nutzeraussagen eher zu bestätigen als kritisch zu hinterfragen stellt trotz Nachbesserungen einzelner KI-Anbieter noch immer ein gefährliches Risiko dar.
* Verstärkung von Vermeidungsverhalten: Wer sich ausschließlich einem Chatbot anvertraut, meidet möglicherweise den Schritt in eine reale Beratung oder therapeutische Betreuung – und verzögert damit notwendige Behandlung.
* Scheinbare Empathie ohne fachliche Tiefe: Sprachmodelle können unterstützend klingen, ohne diagnostisch fundiert einordnen zu können, was hinter den Symptomen steht.
* Fehlende Anbindung an das Versorgungssystem: Anders als Fachpersonen können Chatbots Jugendliche nicht in ein vernetztes Hilfesystem aus Klinik, ambulanter Therapie und Jugendhilfe einbinden.
* Fehlende Vertraulichkeit und Datenschutz: Sensible Gesundheitsdaten Minderjähriger werden bei kommerziellen KI-Anbietern verarbeitet, oft ohne Transparenz darüber, was mit den Informationen geschieht.
Forderungen der Stiftung „Achtung!Kinderseele“:
Die Stiftung, die sich im Rahmen diverser Programme für Prävention, Früherkennung und Entstigmatisierung seelischer Krankheiten von Kindern und Jugendlichen einsetzt, fordert daher:
* Klare Leitplanken für KI-Anwendungen im Gesundheitskontext, die sich an Minderjährige richten oder von ihnen genutzt werden.
* Verpflichtende Verweise auf professionelle Hilfsangebote (z. B. Beratungsstellen, Telefonseelsorge, Kinder- und Jugendpsychiatrie) bei erkennbaren Krisenanzeichen im Chatverlauf.
* Aufklärung von Lehrpersonal, Eltern und Jugendlichen über Chancen und Grenzen von KI-Chatbots im Umgang mit psychischer Belastung.
* Finanzierung von Forschung zur tatsächlichen Nutzung und Wirkung solcher Anwendungen bei Kindern und Jugendlichen, um die Regulierung auf eine belastbare Datenbasis zu stellen.
* Breite Bekanntmachung niedrigschwelliger, aber fachlich fundierter Beratungs- und Hilfs-Angebote wie 116 111 – die Nummer gegen Kummer für Kinder und Jugendliche, krisenchat.de oder www.u25-deutschland.de, damit Jugendliche gar nicht erst auf unbeaufsichtigte KI-Lösungen als einzige verfügbare Anlaufstelle angewiesen sind.
Expertin Prof. Möhler: „Wir wollen digitale Angebote keinesfalls pauschal verteufeln. Es kann für Kinder und Jugendliche durchaus entlastend sein, ihre Sorgen mit einer KI zu teilen – und häufig gibt die KI sogar hilfreiche Tipps. Gleichzeitig sind klare Leitplanken und Grenzen aber absolut notwendig, um die seelische Gesundheit von Kindern und Jugendlichen gezielt zu unterstützen.“