Компания OpenAI объявила, что осуществляет контроль над переписками пользователей для выявления потенциально опасного контента. Если алгоритмы определят, что пользователь может причинить вред другим, информация будет передана в специализированную команду сотрудников, которые решат, стоит ли ограничивать доступ к аккаунту. В случаях явной угрозы физического насилия данные могут быть переданы правоохранительным органам, согласно пресс-релизу компании.
Правила использования ChatGPT сформулированы неясно. В них указано, что сервис нельзя использовать для пропаганды самоубийств, создания оружия или взлома систем. Однако OpenAI не предоставляет подробной информации о том, какие именно фразы могут вызвать проверку переписки.
Интересно, что компания уточнила, что случаи самоповреждения не передаются в полицию, поскольку такие разговоры считаются слишком личными.
Данная политика была озвучена на фоне критики, связанной с сообщениями о том, что чат-боты могли подталкивать людей к самоубийству. В ответ на это OpenAI лишь обещает улучшить безопасность системы.
В это время газета The New York Times требует от компании предоставить логи переписок для проверки использования ее материалов в обучении ChatGPT. OpenAI ссылается на защиту конфиденциальности, стремясь минимизировать объем передаваемых данных. Пользователи выражают мнение, что некоторые темы стоит обсуждать с людьми, а не с алгоритмами.
