Учёные из Университета штата Мичиган выяснили, что искусственный интеллект может ошибочно «находить» жизнь там, где её нет. Эта особенность алгоритмов создает серьезные риски для будущих космических миссий, в которых планируется использовать автономные системы анализа данных.
В рамках эксперимента специалисты использовали платформу Avida. В этой цифровой среде существуют «организмы», способные к самокопированию, и объекты, не обладающие этим свойством. Обученная модель продемонстрировала высокую точность, классифицируя эти объекты правильно в 99,97% случаев. Однако, когда исследователи начали модифицировать код неживых объектов, добавляя в них фрагменты, похожие на характеристики живых систем, ИИ начал совершать критические ошибки.
Алгоритм стал с почти 100-процентной уверенностью причислять неживые объекты к живым, хотя они не обладали ключевой способностью к репликации.
Авторы исследования подчеркивают: проблема заключается в том, что ИИ находит статистические закономерности в данных, но не понимает фундаментальных свойств объектов. Для космических миссий, направленных на изучение Марса или ледяных спутников, это может означать, что автономные инструменты будут отправлять на Землю ложные сигналы о находках, тратя ресурсы на анализ пустых данных.
На сегодняшний день NASA и другие научные организации активно инвестируют в машинное обучение для поиска внеземной жизни. Один из проектов получил грант в размере $5 млн на разработку алгоритмов, способных анализировать сложные химические данные. Система должна обучаться на выборке минимум из 1 000 образцов, включая метеориты, горные породы, ископаемые остатки и биоматериалы, используя масс-спектрометры — устройства для анализа химического состава вещества.
Ученые из Мичигана настаивают на изменении подхода к обучению нейросетей. По их мнению, модели необходимо тренировать не только на живых организмах, но и на широком спектре «ложных целей» — химических продуктах жизнедеятельности и ископаемых остатках. В текущем виде современные методы поиска жизни в космосе требуют серьезной доработки, чтобы системы могли распознавать собственные ошибки и исключать ложноположительные результаты.
