Компания OpenAI выпустила обновлённые правила, которые касаются возраста пользователей. Согласно новой политике, ChatGPT сможет автоматически определять, сколько лет пользователю, даже если он не зарегистрирован. По мнению специалистов, это поможет защитить детей от потенциально вредного контента, передаёт Centralmedia24.
Как уточнили в OpenAI, в потребительские планы ChatGPT внедрили прогнозирование возраста. Он будет основываться на уже существующих мерах защиты. То есть подростки, которые при регистрации указывают, что им нет 18 лет, автоматически будут получать дополнительные ограничения. Как уточняют специалисты компании, это позволит снизить вероятность столкновения с чувствительным или потенциально вредным контентом.
“Как мы изложили в нашем плане по обеспечению безопасности подростков и принципах модельного поведения для детей, это новая и мощная технология, и мы считаем, что подросткам необходима серьёзная защита”, – сообщили в компании.
Кроме того, в OpenAI подчеркнули, что это позволит ChatGPT относиться ко взрослым как ко взрослым и использовать инструменты так, как они хотят, при этом сохранив безопасность.
По словам представителей компании, модель прогнозирования учитывает сочетание поведенческих сигналов и параметров учётной записи, включая возраст, указанный пользователем, продолжительность существования аккаунта, время суток, когда проявляется активность, а также особенности использования приложения с течением времени.
“Пользователи, которые по ошибке попали в режим для лиц младше 18 лет, всегда смогут быстро и просто подтвердить свой возраст и восстановить полный доступ с помощью селфи через Persona – безопасный сервис проверки личности. Пользователи могут проверить, были ли применены меры безопасности к их учетной записи, и сделать это можно в любое время, перейдя в Настройки – учётная запись”, – добавили в компании.
Такой подход основан на мнении экспертов и научной литературе о развитии ребёнка. Он учитывает различия между подростками в восприятии риска, контроле импульсов, влиянии сверстников и эмоциональной регуляции.
“Хотя эти ограничения помогают снизить вероятность столкновения подростков с чувствительным контентом, мы сосредоточены на постоянном совершенствовании мер защиты, особенно для противодействия попыткам обойти систему”, – подчеркнули в OpenAI.
Помимо встроенных мер, родители могут дополнительно настраивать взаимодействие ChatGPT с ребёнком с помощью родительского контроля. Он включает в себя установку “тихих часов”, управление памятью и обучение модели, а также получение уведомлений при признаках острого дистресса.
Читайте также: Педагоги Казахстана получат доступ к ChatGPT Edu: Правительство РК подписало Меморандум с OpenAI
