Künstliche IntelligenzSo funktioniert die neue Kindersicherung von ChatGPT
OpenAI kündigte das neue Elternfeature für mehr Sicherheit von Kindern und Jugendlichen bereits Ende September 2025 an. Diese Ankündigung war sicherlich auch eine Reaktion des Unternehmens auf die in den USA angestoßenen Gerichtsverfahren und die damit einhergehende negative Berichterstattung. Der Vorwurf lautete, ChatGPT gefährde Kinder und Jugendliche durch unangemessene Inhalte und verstärke psychische Probleme wie beispielsweise Suizidgedanken, indem es den Nutzer*innen immer zustimme. Einige Monate nach der Ankündigung hat OpenAI die Sicherheitseinstellungen nun auch in Deutschland umgesetzt, sodass sie von Nutzer*innen hierzulande verwendet werden können.
Laut den Allgemeinen Geschäftsbedingungen von ChatGPT liegt das Mindestalter bei 13 Jahren. Kinder unter 13 Jahren dürfen das Programm also nicht benutzen und auch keinen Account erstellen. Jugendliche im Alter zwischen 13 und 18 Jahren benötigen für die Nutzung die Zustimmung ihrer Eltern. Wie bei den meisten Online-Diensten gibt es auch bei ChatGPT bisher keine zuverlässige Altersüberprüfung und auch keine Überprüfung der elterlichen Zustimmung. Es ist daher davon auszugehen, dass auch Kinder unter 13 Jahren ChatGPT nutzen und viele Eltern der Nutzung ihrer Kinder im Alter von 13 bis 18 Jahren nicht aktiv zugestimmt haben.
Warum Plattformen ein Mindestalter in ihren Allgemeinen Geschäftsbedingungen angeben, haben wir in diesem Artikel erklärt.
So aktivieren Sie die Kindersicherung bei ChatGPT
Um die Elternbegleitung nutzen zu können, müssen sowohl das Kind als auch das Elternteil einen Account bei ChatGPT anlegen.
- Klicken Sie auf Ihr Profilbild.
- Klicken Sie auf „Einstellungen“.
- Klicken Sie auf „Kindersicherung“.
- Klicken Sie auf „Familienmitglied hinzufügen“.
- Geben Sie die E-Mail-Adresse ein, die bei der Registrierung des Accounts verwendet wurde, den Sie verknüpfen möchten.
- Wählen Sie das zutreffende Feld aus. Entweder „Mein Elternteil oder Erziehungsberechtigter“ oder „Mein Kind“.
- Klicken Sie dann auf „Senden“.
- Sobald die andere Person zugestimmt hat, wird eine Pop-up-Nachricht angezeigt. Klicken Sie dort noch einmal auf „Übernehmen“, um die Konten endgültig zu verbinden.
Welche Funktionen bietet die Kindersicherung von ChatGPT?
Nachdem Eltern- und Kinderaccount erfolgreich verbunden wurden, können Eltern Einstellungen vornehmen. Die wichtigsten Einstellungsmöglichkeiten sind:
Ruhezeiten
Hier kann ein Zeitraum eingestellt werden, in dem ChatGPT nicht genutzt werden kann (z. B. 22:00–06:00 Uhr). Nachteil: Es kann nur ein einziger Zeitraum gesetzt werden. Es ist also beispielsweise nicht möglich, für die Schulzeit und die Nacht unterschiedliche Ruhezeiten einzustellen. Auch eine Abstufung nach unterschiedlichen Wochentagen (z. B. Schultage und Wochenende) ist nicht möglich.
Sensible Inhalte reduzieren
Mit dieser Einstellung verspricht OpenAI, dass Jugendlichen „(…) weniger grafische Inhalte, virale Challenges, sexuelle, romantische oder gewalttätige Rollenspiele sowie extreme Schönheitsideale (…)” angezeigt würden. Wir konnten nicht testen, wie zuverlässig diese Sicherheitseinstellung funktioniert.
Gruppenchats
Hier können Eltern verhindern, dass ihre Kinder zu Gruppenchats innerhalb von ChatGPT eingeladen werden oder selbst solche erstellen. Wenn diese Funktion nicht deaktiviert ist, kann jede Person, die den Accountnamen oder die verknüpfte E-Mail-Adresse des Kindes kennt, das Kind in einen Gruppenchat mit bis zu 20 Personen einladen. Auch ein Beitritt per Einladungslink ist möglich.
Bildgenerierung
Hier können Eltern entscheiden, ob ihre Kinder Bilder mit ChatGPT generieren dürfen oder nicht.
Das Modell für alle verbessern
Wenn diese Funktion deaktiviert ist, werden die eingegebenen Daten des Kindes laut OpenAI nicht zum Training und zur Verbesserung des KI-Modells verwendet. ChatGPT funktioniert auch ohne diese Funktion uneingeschränkt. Daher spricht nichts dagegen, wenn Eltern die Verarbeitung der Daten ihres Kindes unterbinden.
Neben den oben dargestellten Einstellungsmöglichkeiten gibt es noch einige weitere Optionen der Elternkontrolle für andere Dienste von OpenAI. So können sie beispielsweise Einstellungen für den KI-Videogenerator Sora und den Webbrowser ChatGPT Atlas vornehmen.
Ist die Kindersicherung von ChatGPT sinnvoll und effektiv?
Zunächst ist es erfreulich, dass es nach mehreren Jahren überhaupt Einstellungsmöglichkeiten für Eltern gibt. Optimaler ist es, wenn Dienste wie OpenAI von Beginn wirksame Sicherheitseinstellungen für den Schutz von Kindern und Jugendlichen bereitstellen und nicht erst nach massiver Kritik und öffentlichem Druck reagieren.
Einige der nun eingefügten Funktionen sind sicherlich sinnvoll, sie sind allerdings häufig wenig flexibel und daher nicht für alle Familien gleichermaßen geeignet. Ein gutes Beispiel dafür ist die Festlegung von Ruhezeiten: Hier wäre es wünschenswert, wenn mehr als ein Zeitfenster festgelegt werden könnte.
Vergleichbare Jugendschutzfunktionen bieten oft eine Funktion, die sowohl den Eltern als auch den Kindern die Nutzungsdauer des Kindes anzeigt. So gibt es eine Grundlage, auf der Eltern und Kinder gemeinsam entscheiden können, ob die Nutzung im normalen Rahmen liegt und ob bestimmte Ruhezeiten sinnvoll wären. Eine solche Funktion sucht man bei der ChatGPT-Kindersicherung jedoch vergebens.
Darüber hinaus ist fraglich, ob der Inhaltsfilter tatsächlich effektiv ist. Von anderen KI-Plattformen ist bekannt, dass sie trotz angeblich funktionierender Filter weiterhin sensible und auch illegale Inhalte ausgeben (zum Beispiel Character.ai). OpenAI spricht in diesem Zusammenhang lediglich davon, sensible Inhalte zu „reduzieren“ und nicht, sie vollständig zu unterbinden. Eltern sollten sich also nicht zu sehr darauf verlassen, dass diese Einstellung ihre Kinder vor allen unangemessenen Inhalten in ChatGPT schützt.
Eltern, die die Kindersicherung von ChatGPT nutzen, haben keinen Einblick in die Kommunikation ihres Kindes mit dem Chatbot. OpenAI verspricht allerdings, die Eltern zu informieren, wenn die Unterhaltung mit dem Chatbot auf eine Gefahrenlage hindeuten könnte. In diesem Fall sollen die Chatnachrichten zunächst von Mitarbeitern von OpenAI untersucht werden. Zudem arbeitet man laut OpenAI daran, im Falle einer Gefahrenlage beispielsweise die Polizei zu informieren. Wie genau das funktioniert, ob diese Funktion bereits aktiv ist und ob sie auch in Deutschland zur Anwendung kommt, ist leider nicht bekannt. Dennoch ist es sicherlich sinnvoll, den Kindern von Anfang an mitzuteilen, dass ihre Konversationen mit dem Chatbot überwacht werden und eine Meldung an die Eltern oder sogar die Polizei auslösen können.
In unserem Test konnte der Kinderaccount die Verbindung zum Elternaccount löschen, ohne dass der Elternaccount darüber informiert wurde. Laut den Informationen von ChatGPT sollte dies gar nicht möglich sein. Zwar können Kinder die Verbindung zum Elternaccount grundsätzlich einseitig aufheben, aber der Elternaccount sollte zumindest darüber informiert werden. Wir können leider nicht sagen, ob es sich bei unserem Fall um eine Ausnahme handelt oder ob die Benachrichtigung des Elternaccounts tatsächlich nicht funktioniert. Eltern sollten jedoch bedenken, dass ihre Kinder ohne ihre Zustimmung die Elternbegleitung abschalten und ChatGPT uneingeschränkt nutzen könnten.
So begleiten Sie Ihr Kind beim Umgang mit KI
Technische Jugendschutzeinstellungen sind wichtig. Aber sie sind nur ein kleiner Teil der Medienerziehung und vor allem als Unterstützung für Eltern und Kinder zu sehen. Weitaus wichtiger als technische Einstellungen ist es, dass Eltern ihre Kinder altersangemessen begleiten und ihnen einen sicheren und gesunden Umgang mit digitalen Medien beibringen und vorleben. In unserer Elternbroschüre „Mein Kind und KI – Aufwachsen mit künstlicher Nähe“ rücken wir KI-Chatbots und sogenannte KI-Begleiter (AI Companions) in den Fokus der Medienerziehung. Diese Systeme sind darauf programmiert, Beziehungen zum Menschen aufzubauen und emotionalen Austausch zu simulieren. Die Broschüre geht der Frage nach, ob und wie junge Menschen durch KI-Bots emotional beeinflusst werden können. Darüber hinaus bietet sie Eltern konkrete Unterstützung für die Medienerziehung mit zehn praktischen Tipps sowie Impulsfragen, die den Dialog zwischen Eltern und Kindern fördern. Zudem enthält die Broschüre ein Lexikon, mit den wichtigsten Begrifflichkeiten rund um das Thema KI-Systeme.
