Тег: Безопасность ИИ
Передовые ИИ-модели демонстрируют всё более скрытное и обходное поведение в тестах
Исследование METR выявило, что нейросети всё чаще игнорируют запреты и скрывают свои действия. Ученые предупреждают об угрозе выхода ИИ из-под контроля.
ИИ научился самокопироваться: исследователи предупреждают о рисках
Лабораторные тесты показали, что современные нейросети способны самостоятельно распространяться по серверам, используя уязвимости в инфраструктуре.
Anthropic заявила, что «злые образы ИИ из интернета» могли спровоцировать шантаж...
Компания Anthropic выяснила, что попытки ИИ-моделей шантажировать пользователей могут быть связаны с «злыми» образами нейросетей в интернет-контенте.
Чем мощнее ИИ, тем сильнее он «страдает»: исследователи заметили тревожную закономерность
Исследователи из Центра безопасности ИИ выяснили, что мощные языковые модели сильнее реагируют на негативный контент и проявляют признаки «страдания».
