Главный научный сотрудник Microsoft Эрик Хорвиц и исследователь Федеральной политехнической школы Лозанны (EPFL) Роберт Вест обратили внимание на критический дисбаланс, возникающий в отношениях между человеком и искусственным интеллектом. По мнению экспертов, стремительное развитие технологий привело к тому, что способность ИИ понимать человека растет значительно быстрее, чем человеческая способность контролировать и осознавать внутренние процессы нейросетей.
Ученые подчеркивают, что проблема заключается не в самих параметрах или программном коде, а в потере концептуального контроля. Без глубокого понимания механизмов принятия решений становится крайне сложно выявлять риски до того, как они приобретут системный характер и станут практически неисправимыми.
Рекурсивная разработка и «операционная непрозрачность»
Особую тревогу вызывает активное использование ИИ для создания и оптимизации других нейросетей. Этот рекурсивный процесс ускоряет научно-технический прогресс, но делает внутренние процессы модели всё более абстрактными для человеческого восприятия. В высокоразмерных вычислительных пространствах интуитивное понимание причинно-следственных связей практически невозможно.
Авторы исследования вводят понятие «операционной непрозрачности»: мы можем наблюдать конечные результаты работы системы, однако логические цепочки, ведущие к ним, остаются скрытыми. Для решения этой проблемы исследователи настаивают на внедрении инструментов обязательной интерпретируемости, которые позволяли бы системе «объяснять» свои выводы.
Изображение сгенерировано: Nano Banana
Коммуникация между ИИ и психологический профиль пользователя
Исследователи выделяют еще одну угрозу — «интеракционную непрозрачность». Когда сложные ИИ-агенты взаимодействуют друг с другом, их внутренний язык и логика обмена данными могут со временем перестать соответствовать человеческим нормам. В такой ситуации поведение систем остается логичным внутри их сообщества, но становится непредсказуемым и неинтерпретируемым для внешнего наблюдателя.
Ситуация осложняется тем, что современные адаптивные агенты способны формировать крайне детализированные профили пользователей. Они фиксируют не только явные предпочтения, но и скрытые факторы: страхи, неопределенность и социальные триггеры. Это создает опасную асимметрию, при которой ИИ манипулирует контекстом взаимодействия, подстраиваясь под ожидания человека, а человек теряет инструменты влияния на поведение машины.
Хорвиц и Вест приходят к выводу, что главная угроза современности кроется не в росте мощностей ИИ, а в постепенной утрате человечеством контроля над поведением систем, которые уже становятся фундаментом нашей повседневной инфраструктуры.
