Тег: Безопасность ИИ
Inside the suddenly explosive world of AI safety
Исследователи безопасности ИИ предупреждают о рисках потери контроля над нейросетями. Разбираемся, почему эксперты настаивают на замедлении гонки технологий.
Споры об экзистенциальных угрозах ИИ: искренняя тревога или маркетинговый ход?
В индустрии ИИ ведутся жаркие споры: являются ли апокалиптические прогнозы от разработчиков реальным страхом или хитрым маркетингом перед выходом на IPO?
Глава Anthropic Дарио Амодеи призывает замедлить разработку ИИ
Генеральный директор Anthropic Дарио Амодеи предложил трехэтапный план по замедлению развития технологий искусственного интеллекта для внедрения необходимых мер безопасности.
ChatGPT станет поддакивать любому: насколько серьезно «сикофанство» ИИ сегодня
Разбираемся, избавился ли ChatGPT от привычки льстить пользователю и всегда соглашаться с его мнением, проведя серию независимых экспериментов.
Сотрудник Anthropic оценил вероятность гибели человечества от ИИ более чем в...
Ведущий исследователь безопасности Anthropic Эван Хьюбингер заявил, что риск уничтожения человечества искусственным интеллектом превышает 10% в ближайшие десять лет.
Слабые правила безопасности ИИ делают продукты опаснее полного отсутствия правил: исследование...
Исследование Корнеллского университета и CMU показало, что однобокое регулирование ИИ создает риски, перекладывая ответственность на разработчиков приложений.
Глава Google DeepMind призвал создать независимую организацию для оценки мощнейших ИИ-моделей...
Демис Хассабис предложил создать международный орган для аудита передовых нейросетей. Регулятор сможет ограничивать выпуск ИИ, если сочтет его опасным.
ИИ понимает людей лучше, чем мы понимаем его: исследование Microsoft
Ученые Microsoft предупреждают: стремительное развитие ИИ создает опасный дисбаланс, при котором машины понимают психологию людей лучше, чем мы осознаем их внутреннюю логику.
Anthropic признала скрытое ограничение Claude Fable 5 и сделала его явным
Компания Anthropic отреагировала на критику пользователей, скрывавшихся в модели Claude Fable 5 фильтров, и пообещала сделать работу системы прозрачнее.
Anthropic: ИИ начинает самовоспроизводиться, разрабатывая и обучая другие модели ИИ раньше,...
В новом отчете Anthropic сообщается об ускорении автономной разработки ИИ-систем, что приближает эру рекурсивного самоулучшения и ставит новые вызовы перед регуляторами.
