Компания представила версию большой языковой модели с усиленной безопасностью.
Подростки, общающиеся с ChatGPT, вскоре увидят его совершенно новую версию, созданную с более строгими мерами для обеспечения их безопасности в интернете, пишет ТechХplore. Новые меры безопасности вводятся в ответ на усиленный контроль регуляторов за чатботами и их влиянием на психическое здоровье молодежи.
Согласно обновлениям, каждый, кто идентифицирован как человек младше 18 лет, автоматически будет направлен к другой версии ChatGPT, разработанной с «возрастными» правилами содержания.
Эта версия для подростков блокирует сексуальный контент и может привлекать правоохранительные органы в редких случаях, когда пользователь находится в остром стрессе.
«Ответ ChatGPT для пятнадцатилетнего должен выглядеть иначе, чем ответ для взрослого», — пояснила компания.
OpenAI также планирует внедрить родительский контроль к концу сентября. Родители смогут связать аккаунты членов семьи, просматривать историю чатов и даже устанавливать время блокировки для ограничения использования.
Обновления последовали за расследованием Комиссии по торговле США (FTC) о потенциальных рисках ИИ-чатботов для детей и подростков. В апреле 16-летний Адам Рэйн из Калифорнии покончил с собой. Его семья подала в суд на OpenAI, утверждая, что ChatGPT сыграл роль в его гибели.
Хотя OpenAI заявляет, что делает безопасность приоритетом, остаются вопросы о том, как система будет проверять возраст пользователя.
Если платформа не сможет подтвердить возраст пользователя, она по умолчанию будет использовать версию для подростков, заявила компания.
Другие технологические гиганты тоже объявили о подобных шагах. Например, YouTube ввел новую технологию оценки возраста, которая учитывает историю аккаунта и привычки просмотра.
Родители остаются обеспокоены. Исследование, проведенное в этом году Центром Pew, показало, что 44% родителей, обеспокоенных психическим здоровьем подростков, считают, что социальные медиа имеют наибольшее отрицательное влияние.