Тег: Anthropic
Anthropic сообщила о предотвращении попыток использования Claude для создания биооружия
Компания Anthropic раскрыла подробности пяти инцидентов, в которых злоумышленники пытались использовать нейросеть Claude для исследований, связанных с биологическим оружием.
Anthropic раскрыла подробности атак на свои ИИ-модели со стороны китайских компаний
Компания Anthropic сообщила о масштабных кампаниях по извлечению данных из моделей Claude, организованных структурами из Китая, включая Alibaba, Moonshot AI и DeepSeek.
Anthropic пресекла попытки использования ИИ для создания биологического оружия
Компания Anthropic опубликовала отчет о выявлении случаев использования своих моделей ИИ, включая Claude, для исследований, связанных с потенциальным биологическим оружием.
Anthropic заблокировала исследователей за подозрительную активность, связанную с биооружием
Компания Anthropic ограничила доступ к модели Claude ряду пользователей, чьи действия напоминали попытки проведения опасных исследований в области биологии.
Исследование Anthropic: нейросеть Mythos 5 столкнулась с трудностями при прохождении CAPTCHA
В ходе тестирования модели Mythos 5 специалисты Anthropic выяснили, что ИИ-агент тратит значительные усилия на преодоление систем защиты от ботов, включая CAPTCHA.
Исследователь Anthropic оценил вероятность уничтожения человечества искусственным интеллектом
Действующий сотрудник компании Anthropic заявил, что существует реальная угроза гибели человечества от ИИ. Его коллега подтвердил вероятность такого сценария на уровне 10%.
Исследователь Anthropic уволился из-за опасений, связанных с самообучающимся ИИ
Джейкоб Коксон покинул компанию Anthropic, заявив, что разработчики ИИ рискуют безопасностью человечества в гонке за созданием самообучающегося сверхразума.
Исследователь Anthropic уволился из-за опасений экзистенциальных рисков ИИ
Джейкоб Коксон покинул компанию Anthropic, заявив об опасности бесконтрольной гонки ИИ-технологий. Его опасения о возможной гибели человечества поддержали другие специалисты отрасли.
Сотрудник Anthropic оценил вероятность гибели человечества от ИИ более чем в...
Ведущий исследователь безопасности Anthropic Эван Хьюбингер заявил, что риск уничтожения человечества искусственным интеллектом превышает 10% в ближайшие десять лет.
Хакеры крадут токены пользователей Claude через сессионные ключи
Пользователи нейросети Claude столкнулись с кражей токенов из-за компрометации сессионных данных. Злоумышленники используют инфостилеры для получения доступа к аккаунтам подписчиков.
