Несколько подрядчиков, сотрудничавших с OpenAI для улучшения моделей искусственного интеллекта, были отстранены от работы или уволены из-за использования нейросетей при выполнении своих задач. Согласно отчету 404 Media, работники привлекались для оценки ответов чат-бота ChatGPT и проверки качества данных, однако некоторые из них пытались автоматизировать процесс с помощью сторонних инструментов. Ситуация демонстрирует, что человеческое суждение остается ключевым фактором в обучении моделей, который невозможно полноценно делегировать алгоритмам.
Почему использование ИИ подрядчиками считается нарушением
Основная задача наемных сотрудников заключается в предоставлении независимой человеческой оценки, которая помогает моделям OpenAI понимать предпочтения пользователей и нормы поведения. Поскольку OpenAI использует эти данные для обучения своих фундаментальных моделей, качество обратной связи критически важно. Внутренние документы, полученные журналистами, подтверждают: подрядчикам строго запрещено передавать задачи на аутсорсинг ИИ-инструментам.
В частности, инструкции запрещают использование систем для написания отзывов и комментариев, а также упоминают недопустимость применения таких сервисов, как Grammarly или программ для автоматического перевода. Компания Mercor, занимающаяся наймом персонала для проектов OpenAI, подтвердила наличие в контрактах положений, исключающих использование больших языковых моделей при выполнении проектных задач.
Как выявляют использование нейросетей без детекторов
Ироничным аспектом ситуации стало то, что разработчики ИИ не используют специализированные детекторы для контроля своих работников. Согласно полученным материалам, инструменты вроде GPTZero считаются недостаточно надежными, поэтому отказ от них является официальной политикой при проведении внутренних проверок.
Вместо программного сканирования старшим рецензентам предписано анализировать общие паттерны в работе подрядчиков. К признакам подозрительной активности относятся:
- Повторяющиеся формулировки и специфические стили письма, характерные для нейросетей.
- Аномально высокая скорость выполнения заданий.
- Чрезмерное использование тире и других знаков препинания, свойственных генеративному ИИ.
Рецензентам также рекомендовано не раскрывать исполнителям конкретные причины подозрений. Это делается для того, чтобы работники не могли изменить тактику и эффективнее скрывать использование сторонних сервисов в будущем.
Значимость человеческого труда в обучении моделей
Несмотря на то что OpenAI активно использует синтетические данные — информацию, созданную другими нейросетями — для заполнения пробелов в обучении, этот подход кардинально отличается от замены человека-эксперта машиной. Если оценщик обязан предоставить субъективное мнение о том, какой вариант ответа предпочтителен для пользователя, использование ИИ для принятия такого решения обесценивает всю проделанную работу.
На текущий момент нет доказательств, что использование ИИ подрядчиками нанесло измеримый ущерб моделям OpenAI или привело к заметному снижению качества работы ChatGPT. Тем не менее, инциденты подчеркивают фундаментальную проблему современной ИИ-индустрии: даже компании, создающие передовые системы искусственного интеллекта, по-прежнему остро нуждаются в людях, способных подтвердить правильность функционирования этих систем и оценить их ответы с человеческой точки зрения.
Человеческий фактор как фундамент обучения моделей
Важно понимать, что OpenAI не просто «нанимает людей для проверки», а выстраивает процесс обучения через систему RLHF (обучение с подкреплением на основе отзывов людей). Как сама компания признавала в своих исследовательских материалах, модели, прошедшие такую настройку, неизбежно перенимают определенные паттерны и предпочтения своих учителей. Именно поэтому «чистота» человеческого отклика имеет решающее значение: если модель начнет учиться на данных, сгенерированных другой моделью, это может привести к искажениям в логике или поведении нейросети.
Работа, которую выполняют подрядчики, крайне масштабна. Проекты OpenAI охватывают тысячи сотрудников по всему миру. Эти специалисты ежедневно читают тысячи ответов чат-бота, присваивают им рейтинги и выносят вердикты о том, какой вариант ответа является наиболее точным, безопасным и естественным для человека. Когда работник делегирует это суждение искусственному интеллекту, он нарушает саму суть обучающего цикла: нейросеть начинает учиться не на человеческих предпочтениях, а на собственных «галлюцинациях» или шаблонных ответах, что полностью девальвирует смысл затраченных ресурсов.
Реальные примеры и последствия
Ситуация стала системной. Один из подрядчиков в интервью изданию 404 Media признался, что видит, как коллеги используют ИИ для выполнения задач «постоянно». Масштабы явления вынуждают компанию регулярно проводить «чистки» и отстранять недобросовестных исполнителей от работы. Другой сотрудник продемонстрировал журналистам официальное письмо об увольнении, в котором причиной прекращения контракта были указаны прямые претензии к «аутентичности» (authenticity) выполненных заданий.
Внутренняя переписка и документы, попавшие в распоряжение медиа, подтверждают: компания Mercor, выступающая посредником при найме, занимает жесткую позицию в отношении использования больших языковых моделей (LLM). В контрактах четко прописано, что использование любой формы автоматизации для написания отзывов или комментариев является грубым нарушением.
Почему не работают программные детекторы
Показательно, что OpenAI сама не доверяет технологиям детекции ИИ. Инструкции, которые выдаются проверяющим, прямо запрещают полагаться на популярные сервисы вроде GPTZero. Официальная позиция компании заключается в том, что подобные инструменты демонстрируют крайне низкую надежность. Вместо того чтобы перекладывать ответственность на алгоритмы, OpenAI требует от старших рецензентов «ручного» анализа деятельности подрядчика.
Методология выявления «читеров» основывается на дедукции и внимании к деталям:
- Анализ общего паттерна: рецензент должен оценивать не один конкретный ответ, а совокупность всех выполненных заданий за период.
- Аномалии продуктивности: необычно высокая скорость ответов, не соответствующая темпам человеческого чтения и анализа текста, является «красным флагом».
- Стилистические маркеры: чрезмерная склонность к структурированию списков, специфический подбор слов и даже избыточное использование тире (em dashes) — все это считывается как признаки того, что текст был написан не человеком.
Интересен и психологический аспект: рецензентам строго запрещено раскрывать перед увольняемыми сотрудниками детали того, как именно было зафиксировано нарушение. Эта тактика «информационной тишины» необходима для того, чтобы исполнители не научились «заметать следы» и не адаптировали свои промпты так, чтобы делать использование ИИ менее заметным для глаз проверяющих.
В конечном счете, эта история подчеркивает парадокс текущего этапа развития технологий: чем мощнее становятся нейросети, тем выше ценность непредвзятого и уникального человеческого суждения. Несмотря на все разговоры об автоматизации, компании-разработчики ИИ вынуждены тратить колоссальные усилия на борьбу с автоматизацией собственной «разметки», чтобы сохранить качество своих продуктов.
