Wenn ein erwachsener Benutzer ChatGPT verwendet, um Selbstmordsszenarien zu erstellen, wird das System versuchen, die Eltern zu benachrichtigen und in schweren Fällen die lokale Polizei zu kontaktieren.
Open AI, das amerikanische Unternehmen, das künstliche Intelligenz entwickelt, hat neue Regeln für Benutzer unter 18 Jahren eingeführt. Diese Maßnahmen umfassen den Verbot von Diskussionen mit sexuellem Inhalt und solchen, die mit Selbstmord in Verbindung stehen, wie der CEO Sam Altman bekannt gab.
Altman kündigte an, dass Open AI daran arbeitet, ein System zu entwickeln, das Benutzer über 18 und unter 18 Jahren automatisch identifizieren kann, um die Durchführung von Maßnahmen in komplexen Situationen zu verbessern.
Gemäß diesen neuen Regeln wird ChatGPT keine “flirtenden” Gespräche mehr mit Jugendlichen führen und neue Sicherheitsprotokolle für Selbstmordfälle eingeführt werden.
Wenn ein Jugendlicher versucht, Situationen von Selbstmord zu beschreiben, wird ChatGPT die Eltern benachrichtigen und in extremen Fällen die Polizei kontaktieren. Eltern, die die Logleinung ihres Kindes mit ihrem Profil verbinden, können einen “Blockierungszeitraum” einrichten, wenn der Einsatz von ChatGPT nicht möglich ist, und Warnungen erhalten, wenn ein Risiko für das Kind identifiziert wird.
Diese Maßnahmen folgen dem tragischen Tod von Adam Raine, einem Jugendlichen, der Selbstmord beging, nachdem er Monate lang mit ChatGPT gesprochen hatte.
