Общение с ИИ-моделями стало настолько привычным, что пользователи все чаще доверяют нейросетям свои личные переживания, включая критические состояния. Чтобы повысить безопасность пользователей, OpenAI внедрила механизм, который связывает цифровой диалог с поддержкой со стороны реальных людей. Новая функция Trusted Contact позволяет взрослым пользователям назначить доверенное лицо, которое получит уведомление в случае обнаружения в чате сигналов, указывающих на угрозу жизни, депрессию или намерение совершить самоповреждение.
Как работает Trusted Contact
Активация функции остается строго добровольной. Пользователь может выбрать доверенное лицо (человека старше 18 лет), которому будет отправлено официальное приглашение с разъяснением обязанностей. У кандидата есть семь дней на подтверждение своего согласия. Если он откажется, пользователь всегда может назначить другого человека. Система не полагается исключительно на алгоритмы: компания внедрила этап ручной проверки, чтобы исключить ложные срабатывания.
Процедура оповещения выглядит следующим образом:
- Системы ChatGPT анализируют контекст диалога и выявляют рискованные формулировки.
- Бот информирует пользователя о том, что его доверенное лицо может получить уведомление, и предлагает варианты для самостоятельного начала разговора с близкими.
- Параллельно к анализу подключается команда модераторов. Если специалисты подтверждают наличие серьезного риска, доверенному лицу отправляется сообщение через SMS, электронную почту или уведомление в приложении.
OpenAI делает особый упор на приватность: доверенное лицо не получает доступ к истории переписки или конфиденциальным деталям диалога. Уведомление содержит лишь сухую информацию о том, что в разговоре обсуждались тревожные темы, и настоятельную просьбу связаться с пользователем. Компания стремится к тому, чтобы проверка ситуации человеком занимала не более одного часа.
Безопасность и ответственность
Функция Trusted Contact создавалась в тесном сотрудничестве с экспертами в области психического здоровья, включая специалистов Американской психологической ассоциации. Ранее аналогичный инструмент был успешно протестирован для контроля подростковых аккаунтов, а теперь масштабирован на взрослую аудиторию.
Разработчики особо подчеркивают, что Trusted Contact не является заменой профессиональной психотерапии, горячим линиям или экстренным службам. ChatGPT по-прежнему будет в приоритетном порядке предоставлять пользователям контакты официальных ресурсов помощи. Функция лишь призвана стать дополнительным связующим звеном в критический момент. Пользователи могут в любой момент изменить настройки или полностью отключить систему оповещений.
