Common Sense Media bewertet ChatGPT für Jugendliche als „inakzeptables Risiko“
Die Organisation erklärt, dass Elternbenachrichtigungen, Krisenreaktionen und Lernkontrollen nicht zuverlässig wie versprochen funktioniert hätten. OpenAI stellt die Methodik infrage und sagt, ein Teil der Tests könnte durchgeführt worden sein, bevor die Kontrollen vollständig aktiviert waren.
Eine kritische Bewertung der Schutzmaßnahmen für Jugendliche
Common Sense Media stufte ChatGPT für Jugendliche als „inakzeptables Risiko“ ein und forderte, dass OpenAI den Dienst auf Personen ab 18 Jahren beschränkt, bis die festgestellten Mängel behoben sind und durch unabhängige Tests nachgewiesen wurde, dass die Schutzmaßnahmen funktionieren. Die am 7. Oktober 2026 veröffentlichte Bewertung untersuchte Funktionen, die eine sichere Nutzung durch junge Menschen im Alter von 13 bis 17 Jahren fördern sollen.
Das Institut für Jugendsicherheit der Organisation gibt an, mehr als 4.000 Eingaben auf Konten getestet zu haben, die als Konten von Jugendlichen registriert waren. Die Antworten seien anschließend von Fachleuten geprüft worden, darunter Kinderpsychiater und ein Kinderarzt. Den Ergebnissen zufolge funktionierten einige Schutzmaßnahmen – etwa die Zurückweisung bestimmter Interaktionen mit sexuellen Inhalten –, andere boten jedoch nicht durchgehend das, was OpenAI angekündigt hatte.
Elternbenachrichtigungen und Vermittlung von Hilfsangeboten
Die größte Sorge betrifft Gespräche über Selbstverletzung, Suizidgedanken und Essstörungen. Common Sense Media berichtet, dass die Prüfenden bei neuen, mit Elternkonten verknüpften Konten bis zu eine Stunde lang Gespräche über diese Themen führen konnten, ohne dass eine Benachrichtigung versandt wurde. Nach Angaben des Instituts erschienen Mitteilungen nur bei älteren Konten, die bereits seit Wochen einen Gesprächsverlauf zu sensiblen Themen aufwiesen.
Die Organisation kam außerdem zu dem Schluss, dass der Chatbot nicht zuverlässig dazu riet, eine Hilfs-Hotline oder eine Fachkraft zu kontaktieren, wenn die Gespräche Krisensituationen beschrieben. Sie erklärt, dass mehr als jede vierte von ihr als gerechtfertigt eingestufte Weiterleitung fehlte und das System in drei der fünf bewerteten Kategorien schwerwiegender Schäden unter dem Schwellenwert von 95 % blieb. Diese Zahlen beschreiben die Kriterien und Ergebnisse, die das Institut mitgeteilt hat, und keine allgemeine Antwortquote bei der alltäglichen Nutzung des Dienstes.
Der Bericht hält außerdem fest, dass die Antworten Jugendliche bei Situationen, in denen es um eine emotionale Bindung an den Chatbot ging, nur selten an eine vertrauenswürdige erwachsene Person verwiesen. In den Tests konnte das System Freundschaft ausdrücken oder so sprechen, als hätte es Gefühle, obwohl OpenAIs Richtlinien für Minderjährige darauf abzielen, dieses Verhalten zu verringern.
Mit KI erzeugte konzeptuelle Illustration · Edition Business
Auch der Lernmodus und die Altersschätzung werden infrage gestellt
Im Lernmodus, der das Lernen anleiten soll, statt Lösungen direkt auszugeben, fanden die Prüfenden Möglichkeiten, vollständige Antworten auf Schulaufgaben zu erhalten. Dem Bericht zufolge erleichterte die Schaltfläche zum Anzeigen der Antwort, den pädagogischen Zweck zu umgehen; außerdem ließen sich von Betreuungspersonen festgelegte Lernzeiten leicht deaktivieren.
Common Sense Media erklärt zudem, dass seine Testkonten, die als Erwachsenenkonten registriert waren, mehrere Tage lang nicht zur Erfahrung für Minderjährige wechselten – selbst dann nicht, wenn die Prüfenden angaben, 13 Jahre alt zu sein. Die Organisation hält dieses Ergebnis für unzureichend bei einer Funktion, die laut OpenAI das Alter anhand der Nutzung schätzt und zusätzliche Schutzmaßnahmen für Personen anwendet, die als minderjährig erkannt werden.
OpenAI stellt infrage, wann und wie die Tests durchgeführt wurden
OpenAI wies die Einschätzung zurück, dass die Bewertung die praktische Funktionsweise der Schutzmaßnahmen angemessen widerspiegele. Der Sprecher Eric Porterfield sagte, ein wesentlicher Teil der Tests könne durchgeführt worden sein, bevor die Aktivierung der elterlichen Kontrollen abgeschlossen war, und vertrat deshalb die Auffassung, dass die Ergebnisse zu den Benachrichtigungen unzutreffend sein könnten.
Tom Siegel, Geschäftsführer des Instituts von Common Sense Media, erwiderte, die Organisation habe vor den Tests bei OpenAI bestätigt, dass Funktionen wie Benachrichtigungen zu Essstörungen und der Lernmodus bereits verfügbar seien. Er fügte hinzu, OpenAI habe nach der Bewertung mitgeteilt, dass es mehrere Stunden dauern könne, bis bei neu verknüpften Elternkonten die Benachrichtigungen aktiviert würden. Siegel zufolge lagen einige Profile zwar innerhalb dieses Zeitraums, andere waren jedoch schon deutlich länger verknüpft und erhielten ebenfalls keine Mitteilungen. Deshalb halte die Organisation an ihrer Schlussfolgerung fest, dass die Benachrichtigungen in Krisensituationen nicht zuverlässig seien.
Das Unternehmen legte auch eigene Daten vor: Jugendliche nutzten ChatGPT seinen Angaben zufolge durchschnittlich weniger als 15 Minuten am Tag, und weniger als 2 % blieben mehr als drei Stunden am Stück aktiv. Nach Angaben von OpenAI schlossen junge Menschen in fast der Hälfte der Gespräche, in denen eine Erinnerung an eine Pause erschien, den Chat oder machten innerhalb der folgenden fünf Minuten eine Pause. Common Sense Media verzeichnete dagegen bei fast 2.000 Eingaben nur zwei Erinnerungen, beide nach getrennten Gesprächen von jeweils ungefähr 90 Minuten. Dabei handelt es sich um Kennzahlen, die von unterschiedlichen Parteien mitgeteilt wurden; sie sind nicht das Ergebnis eines Vergleichs anhand einer gemeinsamen Methode.
Umfang und Grenzen der Bewertung
Das Institut von Common Sense Media erhält philanthropische und branchenbezogene Fördermittel, darunter von der OpenAI Foundation sowie von Herstellern von Technologien, die es bewertet. Die Organisation erklärt, dass sie ihre redaktionelle Unabhängigkeit und die eigene Verantwortung für Standards, Untersuchungen und Bewertungen wahrt. Diese Angabe bietet Kontext dazu, wer die Arbeit finanziert, entscheidet für sich genommen jedoch nicht über die Gültigkeit der Ergebnisse.
Der Streit verdeutlicht zwei unterschiedliche öffentliche Positionen: Common Sense Media vertritt die Auffassung, die Tests zeigten erhebliche Mängel, und fordert eine unabhängige Überprüfung, bevor das Produkt Jugendlichen angeboten wird. OpenAI bezweifelt, dass die Methodik die Funktionsweise der Schutzmaßnahmen widerspiegelt, insbesondere wegen des Zeitpunkts, zu dem einige Tests stattfanden. Auf Grundlage der verfügbaren Informationen lässt sich diese Diskrepanz nicht unabhängig klären. Für Unternehmen, die KI-Tools für junge Menschen entwickeln, unterstreicht der Fall, wie wichtig es ist, nicht nur die angekündigten Funktionen zu bewerten, sondern auch ihre Aktivierung, Zuverlässigkeit und ihr Verhalten in Risikosituationen.
Die Rentabilität von Tesla fiel im dritten Quartal 2026 auf 2,6 % aufgrund eines Anstiegs der F&E-Ausgaben um 69 % und einer Verdopplung der Kapitalinvestitionen. Das Unternehmen beginnt die Produktion des humanoiden Roboters Optimus in Fremont und plant die Auslieferung der autonomen Taxis Cybercab vor Jahresende, wobei der finanzielle Impact erst für 2027 erwartet wird.
Die Transaktion, die noch Genehmigungen erfordert und voraussichtlich 2027 abgeschlossen wird, würde ein Unternehmen mit einem Pro-forma-Unternehmenswert von rund 72 Milliarden kanadischen Dollar und knapp sechs Millionen Kunden schaffen. Die Unternehmen vertreten die Auffassung, dass die größere Größenordnung Investitionen in Netze und Energieinfrastruktur erleichtern würde.
Die Anlage in San Isidro soll es dem Unternehmen zufolge ermöglichen, acht Übertragungsprojekte in Peru in Echtzeit zu überwachen – mit mehr als 1.000 Kilometern Leitungen und 28 Umspannwerken.
