OpenAI gibt an, dass ChatGPT for Teens KI für junge Benutzer sicherer machen wird. Der Start erfolgt inmitten von Klagen darüber, ob ChatGPT für Kinder sicher ist. Kindersicherheitsexperten betonen jedoch, dass das Unternehmen erst noch beweisen muss, dass seine Schutzmaßnahmen tatsächlich funktionieren. Hier erfährst du, was du wissen solltest.
ChatGPT for Teens wurde im August 2026 eingeführt und ist ein altersbeschränktes Angebot, das automatisch zum Standard wird, wenn ein Benutzer als unter 18 identifiziert wird. Sobald es aktiviert ist, wendet es strengere Inhaltsregeln an und benachrichtigt in einigen Fällen Eltern mit einem verknüpften Konto.
Kindersicherheitsexperten sind jedoch skeptisch. Robbie Torney von Common Sense Media erklärte gegenüber Engadget(neues Fenster), dass OpenAI zwar wichtige Sicherheitsversprechen abgibt, aber Beweise dafür liefern muss, dass sie tatsächlich funktionieren.
Josh Golin von Fairplay sagte, dass die Schutzmaßnahmen auf dem Papier vielversprechend aussehen mögen, es ihnen jedoch an Verantwortlichkeit fehle und die Gefahr bestehe, dass es sich eher um eine PR-Reaktion als um ein sorgfältig getestetes Sicherheitssystem handle. Beide stellten genau das System infrage, das das Alter schätzt, während Golin auch davor warnte, dass die bestehenden Beschränkungen von ChatGPT für Suizid, Gewalt und Drogenkonsum im Laufe der Zeit versagt haben oder aufgeweicht wurden.
So funktioniert ChatGPT for Teens
ChatGPT schätzt anhand einer Kombination aus Konto- und Verhaltenssignalen, ob ein Konto wahrscheinlich jemandem unter 18 Jahren gehört, darunter:
- Das vom Benutzer angegebene Alter
- Wie lange das Konto bereits existiert
- Die allgemein besprochenen Themen
- Typische Aktivitätszeiten
- Wie sich die Nutzung des Kontos im Laufe der Zeit entwickelt
Wenn das Modell prognostiziert, dass das Konto einer minderjährigen Person gehören könnte, schaltet ChatGPT dieses Konto automatisch auf die Version ChatGPT for Teens um, für die strengere Schutzmaßnahmen gelten – einschließlich Einschränkungen für romantische Sprache, emotionale Abhängigkeit, Inhalte zu Selbstverletzung und Unterhaltungen über Essstörungen.
Bei Teenagern, deren Konten mit denen eines Elternteils verknüpft sind, kann OpenAI außerdem eine Benachrichtigung senden, wenn eine Unterhaltung auf ein Risiko von Selbstverletzung hindeutet. Das Unternehmen erklärte gegenüber Engadget, dass jede markierte Unterhaltung von einem festangestellten OpenAI-Mitarbeiter überprüft werde, bevor eine Warnmeldung gesendet wird, mit dem Ziel, die Eltern innerhalb einer Stunde nach der Eingabeaufforderung zu benachrichtigen. Das ist ein außerordentlich ehrgeiziges Versprechen, von dem Kindersicherheitsexperten bezweifeln, dass OpenAI es im großen Maßstab einhalten kann.
Erwachsene, die fälschlicherweise in der Teenager-Version eingestuft wurden, können ihr Alter über Persona verifizieren, einen Altersverifizierungsdienst eines Drittanbieters. Je nach Land kann Persona ein Live-Selfie, einen amtlichen Ausweis oder beides anfordern.
Altersverifizierung kommt für KI
Strengere Sicherheitsvorkehrungen können eine gute Sache sein, vorausgesetzt, sie funktionieren. Doch die Entscheidung, wer sie erhält, geht auf Kosten der Privatsphäre. Das ist KI-Überwachung: ChatGPT stuft Personen ein, indem analysiert wird, worüber sie sprechen, wann sie den Dienst nutzen und wie sie ihn im Laufe der Zeit verwenden.
Erwachsene, die fälschlicherweise als Minderjährige eingestuft werden, müssen ihr Alter möglicherweise über Persona verifizieren. OpenAI gibt an, das Selfie oder den Ausweis selbst nicht zu erhalten und dass Persona das hochgeladene Material innerhalb von sieben Tagen löscht. Dennoch kann die Wiederherstellung des vollen Zugriffs erfordern, dass Benutzer sensible Identitätsdaten an einen Verifizierungsdienst eines Drittanbieters übergeben.
Dieser Kompromiss bei der Privatsphäre ist noch schwerer zu rechtfertigen, wenn die zugrundeliegenden Schutzmaßnahmen unbewiesen bleiben. Wie Kindersicherheitsexperten gewarnt haben, hat OpenAI noch nicht gezeigt, dass sein System zur Altersschätzung, die Schutzmaßnahmen für Inhalte oder die Elternbenachrichtigungen im großen Maßstab zuverlässig funktionieren. Zudem haben Jugendliche auf anderen Plattformen wie Discord kreative Wege gefunden, Altersprüfungen zu umgehen, und sie können dies auch bei ChatGPT tun.
ChatGPT for Teens birgt außerdem die Gefahr, Altersschätzung und Altersverifizierung als Voraussetzung für den Zugriff auf große Sprachmodelle (LLMs) zu normalisieren, bei denen Benutzer jeden Alters aufgefordert werden könnten, mehr Informationen über ihre Identität und ihr Verhalten preiszugeben. Dadurch könnten LLMs neben Social-Media-Plattformen und Websites für Erwachsene zu einer weiteren Kategorie von Online-Diensten werden, die die Verbreitung von Gesetzen zur Altersverifizierung vorantreiben. Mit der Weiterentwicklung der KI-Regulierung wie dem EU AI Act dürfte die Altersverifizierung wahrscheinlich auch für Chatbots zur Standardanforderung werden.
Ein sichererer KI-Assistent, der deine Privatsphäre schützt
Lumo ist ein anderer, privater KI-Assistent. Er schätzt dein Alter nicht anhand deiner Nutzung, protokolliert deine Unterhaltungen nicht und trainiert nicht anhand deiner Daten. Wir scannen oder teilen deine Chats niemals mit Dritten – eine Richtlinie, die auf denselben Prinzipien der Zero-Access-Verschlüsselung beruht, die auch alle anderen Proton-Produkte schützen.
Jeder ab 13 Jahren kann ihn nutzen – bei Minderjährigen ist die Zustimmung der Eltern erforderlich –, und es läuft kein Profiling-Mechanismus im Hintergrund. Wenn du nach einer auf Privatsphäre ausgerichteten ChatGPT-Alternative suchst, bist du hier genau richtig.
Wenn du genauer erfahren möchtest, wie KI-Tools deine Daten erfassen und verwenden, schlüsselt unser KI-Leitfaden die Überwachungs-, Sicherheits- und Datenschutzpraktiken auf.
