Учёные показали, что нейросеть, почти идеально распознававшая признаки жизни, полностью теряла точность после небольших изменений данных
Исследователи из Университета штата Мичиган установили, что современные модели искусственного интеллекта могут быть крайне ненадёжными при поиске следов внеземной жизни. В ходе эксперимента учёным удалось добиться того, чтобы нейросеть ошибалась в 100% случаев, принимая случайные данные за свидетельства биологической активности после минимальных манипуляций с входной информацией.
В рамках работы авторы проверяли способность ИИ распознавать биомаркеры — ключевые признаки, указывающие на возможное существование организмов. Для тестов использовалась система Avida, моделирующая цифровую эволюцию. В этой среде виртуальные организмы представлены кодом, который способен к самокопированию и накоплению случайных мутаций, имитируя биологический процесс развития.
Команда обучила нейросеть на выборке из десятков тысяч таких цифровых организмов, часть которых содержала код самокопирования, а часть — нет. На стандартных тестовых данных алгоритм демонстрировал практически идеальную точность классификации.
Изображение сгенерировано: Nano Banana
Уязвимость к «незнакомым» данным
После этапа обучения учёные начали вносить в программный код организмов изменения, с которыми нейросеть ранее не сталкивалась. Результаты оказались тревожными: порой было достаточно всего 150 небольших модификаций в коде, чтобы алгоритм начинал уверенно классифицировать ложные сигналы как признаки жизни. Анкит Гупта (Ankit Gupta), один из авторов исследования, подчеркнул, что независимо от комбинации изменений исследователям удавалось обмануть модель в каждом случае.
«У искусственного интеллекта есть ахиллесова пята. Он может увидеть закономерность и полностью неверно её классифицировать», — пояснил соавтор работы Кристоф Адами (Christoph Adami). Учёные отмечают, что проблема кроется в уязвимости алгоритмов к данным, которые выходят за рамки обучающей выборки.
Значение для науки и технологий
Авторы исследования подчеркивают, что полученные выводы имеют критическое значение не только для будущих космических миссий, где ИИ предстоит анализировать данные с марсоходов или зондов без прямого участия человека. Подобные ошибки могут возникать в любых критически важных сферах: от медицинской диагностики до систем распознавания лиц и управления беспилотным транспортом.
Исследователи призывают использовать ИИ исключительно как вспомогательный инструмент. По мнению Кристофа Адами, в задачах фундаментального научного поиска, а особенно в вопросе обнаружения внеземной жизни, человек должен оставаться обязательным звеном в процессе принятия финальных решений.
