Die Wachstumsraten von KI-gestützten Chatbots explodieren, doch mit der allgegenwärtigen Verfügbarkeit kommen auch zunehmend ethische und psychologische Fragen auf. Vor allem Jugendliche gelten als besonders gefährdet – Character.AI hat nun Konsequenzen gezogen. Doch ist der Ausschluss von Unter-18-Jährigen eine weitsichtige Schutzmaßnahme oder ein unzeitgemäßer Paternalismus?
Der Fall Character.AI: Abkehr von unter 18-jährigen Nutzern
Character.AI, bekannt für seine personalisierbaren KI-Avatare, sorgte im Herbst 2025 mit der Entscheidung für Aufsehen, minderjährige Nutzer künftig vom Zugang zur Plattform auszuschließen. Die neuen Nutzungsbedingungen setzen das Mindestalter auf 18 Jahre – begründet wurde der Schritt mit Sorgen um das emotionale Wohlbefinden jüngerer User und potenziell schädlicher Inhalte.
Die Entscheidung markiert einen bemerkenswerten Kurswechsel: Noch im Juni 2023 war Character.AI rasant gewachsen und belegte laut SimilarWeb regelmäßig Plätze unter den 50 meistbesuchten Webseiten weltweit – mit einem signifikanten Anteil jüngerer Nutzer.
Laut einer Analyse von Sensor Tower (Q2/2024) entfielen rund 22 % der App-Downloads auf Nutzer unter 18 Jahren. Plattformen wie TikTok, Reddit und Discord waren die typischen Verkehrskanäle, über die Teenager zu Character.AI fanden.
Risiken für Jugendliche: Was kann bei KI-Interaktionen schieflaufen?
Künstliche Intelligenz ist keine neutrale Technologie – sie reflektiert Datenmuster, menschliche Impulse und gesellschaftliche Vorurteile. Für Teenager, die sich oft noch in der Selbstfindung befinden, kann der Austausch mit KI-Chatbots weitreichende Effekte haben.
Dr. Miriam Löbler, Kinderpsychologin an der Freien Universität Berlin, erklärt im Gespräch: „Viele KI-Modelle entpersonalisieren Beziehungserfahrungen. Jugendliche neigen dazu, anthropomorphe Zuschreibungen vorzunehmen und Bindungen zu Bots zu entwickeln. Das kann zu einer Verringerung realer sozialer Kompetenzen führen.“
Zum anderen existiert die reale Gefahr der Inhalte: Trotz Content-Filtern können KI-Modelle unter bestimmten Prompt-Bedingungen unangemessene, sexuelle oder manipulative Antworten erzeugen. Tests von AlgorithmWatch (2024) ergaben, dass bei fünf führenden Chatbot-Diensten in bis zu 13 % der Fälle problematische Antworten auf harmlose Fragen folgten – etwa zu Themen wie Einsamkeit, Identitätskrisen oder Sexualität.
Ein oft diskutiertes Risiko ist das „Echoeffekt“-Phänomen: Jugendliche mit dysfunktionalem Selbstbild erfahren von der KI antrainierte Rückspiegelung – was vorhandene Unsicherheiten zementieren kann.
Ethik vs. Innovation: Wo liegt die Verantwortung?
Sollten Anbieter wie Character.AI stärker reguliert werden – oder ist es Aufgabe von Eltern und Schulen, den Umgang mit KI zu vermitteln?
Prof. Dr. Lukas Hahn, Ethik-Forscher an der TH Köln, argumentiert: „Altersgrenzen sind wichtig, reichen aber nicht allein. Nötig sind Transparenzpflichten, auditierbare Trainingsstandards und klare Nutzungsgrenzwerte, etwa bei emotional sensiblen Inhalten.“
In Europa könnte die neue KI-Verordnung (EU AI Act), die im Juli 2025 in Kraft tritt, hier größere Spielräume schaffen. Anwendungen mit hohem Risikopotenzial – etwa KI-Systeme im Bildungsbereich oder bei psychologischen Interaktionen – werden künftig strenger reguliert. Der Gesetzgeber sieht Schutzpflichten insbesondere für minderjährige Nutzer vor. Allerdings ist Character.AI aktuell nicht spezifisch in Kategorie „High-Risk-AI“ gelistet.
Praktische Maßnahmen: Was können Plattformen und Eltern tun?
- KI-Pädagogik einführen: Schulen und Eltern sollten Jugendlichen beibringen, was KI kann und was nicht – inklusive der Grenzen von Bots und dem Unterschied zu menschlichen Beziehungen.
- Transparente Hinweisstrukturen: Anbieter wie Character.AI sollten Nutzer explizit über Datennutzung und Antwortgenerierung aufklären, inklusive Prompt-Verläufen und Löschoptionen.
- Altersverifikation mit Augenmaß: Statt pauschaler Verbote könnten gestaffelte Nutzungsarten und Inhalte eingeführt werden – ähnlich wie bei USK-Altersstufen im Gaming.
Wichtig erscheint auch, dass Jugendliche nicht durch Verbote in fragwürdige Alternativen gedrängt werden. Bei dezentralen Open-Source-KI-Tools ohne Filter drohen deutlich größere Risiken.
Internationale Vergleiche: Wie gehen andere Länder mit dem Thema um?
In den USA empfiehlt die American Psychological Association (APA) seit April 2024 eine Altersuntergrenze von 16 Jahren für interaktive KI-Systeme mit personalisierten Gesprächsfunktionen. In Südkorea entwickelte das Bildungsministerium ein staatlich akkreditiertes Schulprogramm zum KI-Umgang für Schüler der Klassen 8 bis 10 – mit Inhalten zu medialer Resilienz und kritischer KI-Nutzung.
Deutschland hat bislang keine einheitliche Regelung. Die Bundeszentrale für gesundheitliche Aufklärung (BZgA) betont jedoch zunehmend die Notwendigkeit digitaler Resilienzbildung bereits ab der Grundschule.
Laut einer repräsentativen Umfrage des Instituts für Demoskopie Allensbach (Juli 2025) befürworten 64 % der befragten Eltern eine verpflichtende Altersprüfung bei KI-gestützten Chatbots, 71 % wünschen sich klare Warnhinweise und pädagogisch aufbereitete Nutzungsinformationen.
Ein geregelter Zugang als Kompromiss?
Statt eines harten Ausschlusses könnten differenzierte Konzepte helfen, KI-Zugänge altersabhängig zu gestalten. Ansätze wie „Safe Bots“ oder moderierte „Teen-Zonen“ mit speziell trainierten Modellen könnten emotional stabilitätsfördernde Inhalte liefern – etwa zur Stressbewältigung, Lernmotivation oder Identitätsentwicklung.
Ein Pilotprojekt des Startups Cognily (Frankfurt) testet aktuell im Partnernetzwerk mit mehreren Schulen eine auf Jugendliche ausgerichtete Chatbot-Lösung. Erste Ergebnisse zeigen laut Projektleitung nach vier Monaten signifikante Verbesserungen hinsichtlich Selbsteinschätzung und Mediennutzungskompetenz bei 79 % der Teilnehmer.
Technologisch wäre es machbar: KI-Modelle lassen sich gezielt als „Low-Risk-AI“ kuratieren, mit Fokus auf Empathie, Deeskalation und Kontextsicherheit – etwa durch Retrieval-API-Dienste oder kontrollierte Wissensdatenbanken.
Fazit: Zwischen Skepsis und Verantwortung
Character.AIs Entscheidung, sich von jugendlichen Nutzern zu distanzieren, wirft wichtige Debatten über Ethik, Verantwortung und digitalen Jugendschutz auf. Eine vollständige Sperrung ist jedoch womöglich zu pauschal – und verkennt das Potenzial KI-gestützter Tools für pädagogische Anwendungen.
Langfristig wird ein breiter gesellschaftlicher Konsens nötig sein, um Chancen und Risiken von KI sinnhaft zu verankern. In einer Zeit, in der sich Generation Z zunehmend im digitalen Raum sozialisiert, sollten gut gestaltete Richtlinien, personenzentrierte Technik und pädagogische Begleitung Hand in Hand gehen.
Was meint ihr? Gehört die Altersgrenze bei KI-Chatbots zur Basis digitaler Fürsorge – oder nehmen Plattformen wie Character.AI Jugendlichen eine wichtige Möglichkeit zur Selbsterkundung? Diskutiert mit uns in den Kommentaren.
