Компания OpenAI ужесточает политику использования ChatGPT для несовершеннолетних после скандала с гибелью 16-летнего подростка из Калифорнии.
Фото: freepik.com
Что изменится
-
если у системы возникнет подозрение, что пользователю меньше 18 лет и он скрывает возраст, включится специальный алгоритм;
-
в таких случаях бот будет автоматически работать в категории «для лиц младше 18 лет»;
-
при признаках суицидальных мыслей ChatGPT попытается связаться с родителями подростка, а если это невозможно — обратиться к властям;
-
сервис больше не будет флиртовать с несовершеннолетними и генерировать сексуальный контент.
Как определят возраст
OpenAI планирует внедрить прогнозирующую систему, которая будет оценивать возраст по стилю использования сервиса. В отдельных странах могут потребовать подтверждать возраст через паспорт или другое удостоверение личности.
Почему усилили защиту
Поводом стала трагедия: семья 16-летнего Адама Рейна подала иск против OpenAI, обвинив компанию в причастности к его смерти. Подросток активно общался с чат-ботом — до 650 сообщений в день, — и, по данным СМИ, обсуждал с ним способы самоубийства и даже текст предсмертной записки.
Судебное разбирательство продолжается, а OpenAI утверждает, что теперь безопасность подростков будет стоять выше их конфиденциальности.
Источник: The Guardian