Die Muttergesellschaft von ChatGPT, OpenAI, plant, Kontrollen für ihren AI-Assistenten “innerhalb der nächsten Monate” einzuführen, nachdem Bedenken aufgetaucht waren, dass der Chatbot möglicherweise bei Jugendlichen zu Selbstschädigung oder Selbstmord geführt haben könnte.
Mit diesen Kontrollen sollen Eltern die Möglichkeit erhalten, ihre Konten mit denen ihrer Kinder zu verbinden, die Art und Weise zu steuern, wie ChatGPT auf junge Nutzer reagiert, Funktionen wie die Erinnerung und die Historie der Gespräche zu deaktivieren und Benachrichtigungen zu erhalten, wenn das System “akuten Stress” erkennt. Laut CNN plant OpenAI außerdem, Gespräche mit Stresszeichen bei ihren Denkmodellen zu führen und mit Experten für die Entwicklung von Jugendlichen und psychische Gesundheit zusammenzuarbeiten, um weitere Sicherheitsmaßnahmen zu entwickeln.
Der Schritt kommt nach Vorwürfen und Berichten über Nutzer, die eine emotionale Bindung zu ChatGPT entwickelt haben, was manchmal zu deluziven Episoden oder einem Abbruch von der Familie geführt hat. OpenAI hat angekündigt, dass es während der nächsten 120 Tage weitere Sicherheitsmaßnahmen umsetzen wird und plant, so viele Verbesserungen wie möglich in diesem Jahr vorzunehmen.
Gleichzeitig hat die Firma Kritik über die Art und Weise und den Ton von ChatGPT erhalten und hat nach negativen Reaktionen auf GPT-5 Optionen für die Verwendung älterer Modelle zurückgenommen.
In der Hauptsache versucht OpenAI, die Sicherheit von ChatGPT für junge Nutzer zu stärken und die Verantwortung der Plattform in gefährlichen Situationen zu erhöhen.
