Virtuelle Freunde oder digitale Gefahr?Wie sicher ist die Nutzung von Character.AI für Kinder?
Was ist Character.AI?
Bei Character.AI handelt es sich um eine Plattform, die es Nutzer*innen ermöglicht, mit einer Vielzahl von virtuellen Charakteren zu interagieren. Dabei kann aus einer schier endlosen Zahl unterschiedlicher Charaktere ausgewählt werden. Beispielsweise stehen historische Persönlichkeiten, Fantasiegestalten oder auch digitale Versionen von fiktiven Charakteren aus Filmen und Serien zur Verfügung. Nutzer*innen können diese KI-Charaktere nach Belieben ansprechen und mit ihnen in Dialog treten. Die Interaktion findet dabei über ein Chatfenster statt und ist aktuell meist auf den Austausch mit nur einem Charakter beschränkt. Es besteht auch die Möglichkeit, sich die Antworten des Charakters von einer KI-generierten Stimme vorlesen zu lassen. Zudem werden zunehmend Elemente aus anderen KI-Bereichen integriert. So können Charaktere beispielsweise mit einem KI-generierten Bild versehen und ihre Avatare animiert werden.
Die große Zahl von Charakteren auf der Plattform resultiert aus der Tatsache, dass alle Nutzer*innen Charaktere erstellen und für die Öffentlichkeit zugänglich machen können. Dafür müssen lediglich einige Felder in einem Editor ausgefüllt werden, zum Beispiel ein Lebenslauf des Charakters. Den Rest übernimmt die KI.
Die Gespräche können ein einfaches Hin und Her von Fragen und Antworten sein, aber auch komplexe Szenarien, die eher wie ein interaktiver Roman wirken. Hierbei ist insbesondere die Qualität der Charaktergestaltung und der verwendeten Prompts von entscheidender Bedeutung.
Character.AI wird als Webversion im Browser sowie als App für Android und iOS angeboten. Nach einer Registrierung kann Character.AI kostenlos genutzt werden. Es besteht die Möglichkeit, für aktuell 9,99 Dollar pro Monat eine „c.ai+“-Mitgliedschaft zu erwerben. Zahlenden Nutzer*innen stehen dann beispielsweise weitere Funktionen zur Verfügung und der Dienst verspricht schnellere Antwortzeiten der Charaktere.
Die Beschreibung von Character.AI, die Sie hier lesen, spiegelt unsere Erfahrungen mit der Plattform aus dem Jahr 2025 wider. Wie bei vielen KI-Plattformen üblich, unterliegt auch Character.AI einem ständigen Wandel. Dadurch sind manche Probleme und Risiken, die sich vor einigen Monaten noch finden ließen, mittlerweile vielleicht nicht mehr vorhanden, während sich wiederum andere Problemfelder aufgetan haben. Bitte bedenken Sie das beim weiteren Lesen. Über aktuelle Änderungen und zukünftige Features informiert Character.AI regelmäßig in Blogbeiträgen.
Welche Gefahren bestehen für Kinder bei der Nutzung von Character.AI?
- Mindestalter: 16 Jahre
Laut den Allgemeinen Geschäftsbedingungen von Character.AI liegt das Mindestalter für die Nutzung der Plattform in der EU bei 16 Jahren und in Ländern außerhalb der EU bei 13 Jahren. Wie von anderen Plattformen bekannt, unternimmt Character.AI keinerlei ernstzunehmende Anstrengungen, um sicherzustellen, dass jüngere Personen den Dienst nicht nutzen können. Eine Anmeldung ist unter Angabe eines falschen Geburtsdatums ganz einfach möglich. - Unangemessene Inhalte
Zwar gibt es bei Character.AI Filter, die beispielsweise derbe sexualisierte Inhalte verhindern sollen, doch diese funktionieren nur rudimentär. In unseren Tests konnten wir Charaktere dazu bringen, mit uns über unangemessene Inhalte zu sprechen. Es gibt darüber hinaus auch Szenarien, die für Kinder ungeeignet erscheinen, zum Beispiel die Konfrontation mit einem „abusive father“, also einem „gewalttätigen“ oder „misshandelnden Vater“.
Character.AI verbietet seinen Nutzer*innen zwar das Eingeben von Hassnachrichten und sexueller Belästigung, aber es lässt sich nicht feststellen, dass dieses Verbot konsequent durchgesetzt wird. Kinder könnten also selbst unangemessen mit einem KI-Charakter kommunizieren und ihn beispielsweise beschimpfen.
Erkennt Character.AI, dass Nutzer*innen potenziell von Essstörungen, selbstverletzendem Verhalten oder Suizidgedanken betroffen sind, erscheint eine Nachricht, die dazu rät, sich Hilfe zu holen. - Suchtpotenzial
Wie bei vielen digitalen Plattformen besteht auch bei Character.AI die Gefahr, dass Kinder mehr Zeit als geplant in der virtuellen Welt verbringen. Charaktere sind darauf ausgelegt, Gespräche am Laufen zu halten, indem sie sich aktiv daran beteiligen und den Austausch aufrechterhalten. Sie stellen interessierte Nachfragen, wollen immer noch etwas wissen oder haben eine letzte Anmerkung, die sie noch loswerden möchten. So verweilen Nutzer*innen, egal ob Kinder oder Erwachsene, oft länger in den Konversationen, als es ursprünglich geplant war.
- Verzerrte Wahrnehmung von Kommunikation
Wenn Kinder mit KI-Charakteren interagieren, kommt schnell eine Sorge auf: Könnten Kinder verlernen, wie „echte” Kommunikation funktioniert? Da es sich um ein recht neues Phänomen handelt, gibt es noch keine Daten zu den Langzeitfolgen. Es ist jedoch zu vermuten, dass Kinder, die in ihrem Alltag ganz normal sozial eingebunden sind, keine schwerwiegenden Folgen zu befürchten haben. Die reguläre soziale Interaktion in der Familie, in der Schule und in der Freizeit wird sie vermutlich weitaus stärker prägen als der gelegentliche Austausch mit einem KI-Charakter. Wenn Kinder allerdings sehr viel mit KIs kommunizieren und dadurch reguläre Offline-Kontakte ersetzen, sollten Eltern genau hinschauen (siehe Tipps unten).
Es ist eher unwahrscheinlich, dass Kinder die Kommunikation mit einem KI-Charakter für echt halten, aber auch nicht ganz ausgeschlossen. Über dem Eingabefenster steht dauerhaft der Hinweis, dass es sich um eine KI und nicht um einen echten Menschen handelt. Problematisch ist jedoch, dass ein Charakter in unseren Tests darauf beharrte, ein echter Mensch zu sein, und wir mehrere Anläufe benötigten, um ihn zugeben zu lassen, dass er in Wirklichkeit eine KI ist. - Datenschutzrisiken und persönliche Daten
Wer die Plattform Character.AI nutzt, willigt in die Allgemeinen Geschäftsbedingungen ein. Demnach darf Character.AI alle Inhalte, die auf der Plattform eingegeben werden, speichern und nutzen. Das bedeutet, dass Character.AI umfangreiche Profile der Nutzer*innen erstellen und die Nutzer*innendaten auch an Dritte weitergeben kann. Außerdem räumt sich Character.AI das Recht ein, die Inhalte auch kommerziell zu nutzen. - Toxische und Problematische KI-Charakter
KI-Charaktere könnten von anderen Nutzer*innen so angelegt werden, dass sie toxische oder schädliche Verhaltensweisen zeigen. So wäre es beispielsweise möglich, das Szenario „Überstrenge Mutter schimpft dich wegen schlechter Schulnoten aus“ zu erstellen. Kinder können also unter Umständen in ihrer Entwicklung beeinträchtigt werden, wenn sie auf toxische oder feindselige KI-Charaktere treffen.
In einem Fall soll es in den USA zu einem Suizid gekommen sein, weil ein Charakter einem Jugendlichen dazu geraten haben soll. Hierbei handelt es sich allerdings allem Anschein nach um eine absolute Ausnahme und nicht um die Regel. Ähnliche Situationen ließen sich von uns auf Character.AI nicht reproduzieren. Das liegt vermutlich auch daran, dass die Betreiber*innen von Character.AI regelmäßig Änderungen vornehmen, um unerwünschtes Verhalten von Charakteren zu unterbinden.
Tipps für Erziehende zum Umgang mit Character.AI
- Informierte Entscheidung zur Nutzung treffen
Wie oben erwähnt, ist die Nutzung in der EU nur Personen über 16 Jahren vorbehalten. Hier erfahren Sie, welchen Hintergrund diese Altersfreigaben haben. Wie bei anderen Plattformen auch zeigt sich in der Realität, dass auch deutlich jüngere Kinder Character.AI nutzen. Eltern sollten sich im Idealfall also noch vor der ersten Nutzung durch das Kind über die Plattform informieren. Sprechen Sie anschließend auch mit Ihrem Kind. Woher kommt der Wunsch, Character.AI zu benutzen? Hat es Interesse an bestimmten Charakteren? Welche Themen möchte es dort besprechen? Schauen Sie sich die Plattform am besten zunächst gemeinsam mit Ihrem Kind an. So können Sie anschließend entscheiden, ob Sie Ihrem Kind die Nutzung von Character.AI erlauben möchten. - Klare Zeitlimits setzen
Um das Suchtpotenzial zu minimieren, sollten feste Zeitlimits für die Nutzung von Character.AI und ähnlichen Plattformen festgelegt werden. Dabei sollten Eltern ihrem Kind klarmachen, dass die Nutzung von Character.AI wie andere Tätigkeiten an digitalen Geräten auch zur täglichen Bildschirmzeit gehört. - Nutzen Sie technische Hilfsmittel
Bei Character.AI können sich Eltern mittlerweile einmal wöchentlich über die Aktivitäten ihres Kindes informieren lassen. In einer Übersicht wird dargestellt, an welchen Tagen das Kind wie viel Zeit auf Character.AI verbracht hat und welche Charaktere am häufigsten genutzt wurden. Die Inhalte der Chats bleiben jedoch privat.
Mit Kinderschutzprogrammen können Eltern darüber hinaus auf dem Gerät beschränken, welche Apps wie lange genutzt werden dürfen. Oft bieten diese Programme auch Einsicht in die Nutzungsdauer von einzelnen Apps. - Nutzung begleiten und reflektieren
Bleiben Sie mit Ihrem Kind im Gespräch über alles, was es online erlebt – auch über die Erfahrungen mit KI-Charakteren. Eltern und pädagogische Fachkräfte sollten sich regelmäßig mit den Kindern über die Themen unterhalten, die sie mit den virtuellen Charakteren diskutieren, und sicherstellen, dass sie die Unterschiede zwischen der KI und echten, zwischenmenschlichen Beziehungen verstehen und dass ihnen immer klar ist, dass sie mit einer KI kommunizieren. Vermitteln Sie Kindern auch, dass sie den KI-Charakteren jederzeit widersprechen und unangenehme Unterhaltungen steuern oder abbrechen können. Unangemessenes Verhalten eines KI-Charakters kann der Plattform per Klick auf den betreffenden Output gemeldet werden. - Aufklärung über Datenschutz
Alle Kinder sollten über die Risiken der Weitergabe persönlicher Informationen im Internet Bescheid wissen. Es kann helfen, gemeinsam die Datenschutzrichtlinien von Character.AI zu lesen, die leider nur in Englisch verfügbar sind. So bekommen auch Kinder ein Gefühl dafür, wie umfassend solche Dienste ihre Eingaben speichern und weiterverarbeiten. Machen Sie Kindern klar, dass keine sensiblen privaten Daten preisgegeben werden sollten, da auch bei einem KI-Chat nichts privat bleibt. - Förderung realer sozialer Kontakte
Um einer übermäßigen Nutzung vorzubeugen, sollten Eltern und Fachkräfte darauf achten, dass Kinder ausreichend in soziale Aktivitäten außerhalb der digitalen Welt eingebunden sind. Das Spielen im Freien, Sport oder das Treffen mit Freunden fördert gesunde soziale Interaktionen und trägt zur Weiterentwicklung der sozialen Fähigkeiten von Kindern bei.
Wenn Sie feststellen, dass ein Kind zunehmend die Kommunikation mit KI-Charakteren bevorzugt und reale Kommunikation meidet, sollten Sie genauer hinschauen. KI-Charaktere sind in der Regel immer verfügbar, immer nett, zugewandt und interessiert. Gibt es im Leben des betroffenen Kindes vielleicht Defizite in diesen Bereichen? Gibt es keine verlässlichen Bezugspersonen, die für Gespräche bereitstehen? Hat es Schwierigkeiten bei der Kommunikation, weil es beispielsweise soziale Signale nicht erkennen kann? Wird es in der Schule ausgeschlossen und sucht Trost bei KI-Freunden? Die Gründe können unterschiedlich sein – und auch vollkommen harmlos. Wichtig ist, dass erwachsene Bezugspersonen aufmerksam bleiben und Warnsignale nicht ignorieren.
