Разработчики легковесного браузера Dillo предложили любопытный способ борьбы с автоматизированными патчами: авторы проекта намерены отсеивать изменения, созданные с помощью нейросетей. В текущих реалиях проверка входящего кода отнимает у сопровождающих огромное количество времени, и порой бывает крайне сложно определить, был ли патч написан человеком или сгенерирован ИИ.
Доказательство через запись рабочего процесса
Для упрощения контроля и обеспечения прозрачности процесса разработки участникам, которые впервые предлагают изменения для Dillo, предложили прикладывать запись сеанса своей работы. Это позволит сопровождающим убедиться, что код действительно является результатом ручного труда, а не слепой генерации.
В качестве инструмента для фиксации действий в терминале, например при работе в редакторе Vim, проект рекомендует использовать утилиту asciinema. На текущий момент эта инициатива не является обязательным требованием — она находится на стадии обсуждения и сбора отзывов от сообщества.
Сможет ли ИИ обмануть систему?
На первый взгляд, может показаться, что злоумышленник способен применить нейросети не только для создания кода, но и для фальсификации самого сеанса работы в asciinema. Однако первые эксперименты показывают, что поддельные записи очень легко вычисляются.
Искусственно сгенерированные сессии не передают специфические черты человеческого поведения: типичные опечатки, случайные исправления, задумчивость и характерную динамику написания кода. Большинство современных LLM обучались на массивах готовых программных продуктов, но они не обладают глубокими данными о том, как именно человек совершает ошибки и исправляет их в процессе написания каждой строки.
