OpenAI анонсировала дополнительные ограничения для ChatGPT, связанные с риском насилия, и регулярный Community Safety Report. Описанные меры начнут внедрять в ближайшие недели. Для пользователей младше 18 лет компания расширяет ограничения на практическую информацию об оружии и системах безопасности, которую можно использовать во вред, даже если вопрос не указывает на насильственные намерения.
Для всех возрастов OpenAI также ужесточает ответы о прошлых массовых нападениях: ChatGPT должен давать меньше подробностей, способных помочь воспроизвести насилие. Обсуждение последствий для пострадавших, предупреждающих признаков и предотвращения насилия останется допустимым.
Компания разрабатывает автоматическое завершение чатов при признаках зацикленности на насилии или серьёзном причинении вреда другому человеку. Повторные завершения могут привести к временной приостановке аккаунта. Уведомления родителям о таких приостановках подростковых аккаунтов тоже пока готовятся. Существующие определение возраста и родительские настройки служат основой этих изменений.
Первый Community Safety Report OpenAI планирует выпустить в начале 2027 года за вторую половину 2026-го, затем обновлять каждые шесть месяцев. В него войдут данные об эффективности защит, обезличенные примеры рисков и описание того, как компания выявляет, расследует и обрабатывает потенциально опасные ситуации.
