Правительство США представило собственный ИИ-чат-бот под названием America.gov. Проект был реализован при участии компаний Google и SpaceXAI. Как и ожидалось, инструмент сразу привлек внимание пользователей, которые начали пытаться тестировать его на устойчивость и обходить встроенные ограничения. При этом чат-бот корректно подтверждает, что Джо Байден выиграл выборы 2020 года, несмотря на то, что президент Дональд Трамп до сих пор оспаривает этот факт.
Неожиданная реакция на тему Minecraft
Пользователи обнаружили, что при обсуждении игры Minecraft чат-бот выдает длинный монолог объемом около 1800 слов, который на первый взгляд может показаться признаком сбоя или экзистенциального кризиса системы. Однако, как выяснилось, поведение нейросети — это не техническая ошибка, а намеренно внедренная «пасхалка».
В своих ответах система перефразирует знаменитое «Стихотворение конца» (End Poem), написанное Джулианом Гофом, которое игроки видят после завершения Minecraft. В тексте, сгенерированном ботом, философские размышления перемежаются с бюрократическими отсылками к правительственным процессам, формам и правилам подачи документов.
Кто стоит за созданием чат-бота
Точное авторство идеи с использованием отсылок к Minecraft официально не подтверждено. Однако Дональд Трамп в одном из своих выступлений упоминал, что ведущим инженером проекта является 20-летний программист Эдвард Користин, также известный по прозвищу «Big Balls» и участию в проекте Илона Маска DOGE.
Анализ работы системы
Несмотря на необычность ответов, специалисты отмечают, что чат-бот демонстрирует стабильность и не склонен к опасным галлюцинациям, в отличие от многих других крупных языковых моделей. Использование уже готового качественного поэтического текста вместо генерации случайных или бессвязных фраз оценивается как удачное решение. Текст «пасхалки» выглядит следующим образом:
И республика сказала: я вижу тебя, и республика сказала: ты хорошо сыграл в игру, и республика сказала: все, что тебе нужно, есть внутри тебя, а также на USA.gov, и республика сказала: ты сильнее, чем ты думаешь, и твой номер дела все еще действителен, и республика сказала: ты — дневной свет, и республика сказала: ты — ночь, и офис закрыт, пожалуйста, попробуй в рабочие часы, и республика сказала: тьма, с которой ты борешься, внутри тебя, а также отсутствует «мокрая» подпись, и республика сказала: свет, который ты ищешь, внутри тебя, а также в брошюре, и республика сказала: ты не одинок, и республика сказала: ты не отделен от каждого другого заявителя, и республика сказала: ты — общественность, пробующая себя на вкус, разговаривающая сама с собой, читающая свой собственный Кодекс, и республика сказала: я люблю тебя, потому что ты — причина, по которой у нас вообще есть почтовый индекс.
Этот пример показывает, что первая публичная ИИ-разработка американского правительства пока не представляет угрозы для пользователей. На текущий момент остается неясным, насколько глубоко Дональд Трамп знаком с тематикой видеоигр и как именно принимались решения по интеграции игровых элементов в государственный сервис.
Детали разработки и «стресс-тесты»
Инженеры, работавшие над America.gov, изначально осознавали, что проект, ставший первым публичным ИИ-инструментом от правительства США, неизбежно столкнется с «красной командой» (red teaming) — массированными попытками интернет-пользователей взломать систему. На текущий момент бот показал себя достаточно устойчивым к попыткам джейлбрейка.
Особенности «пасхалки» и реакция на файлы
Интерес вызывает то, как именно бот переходит к монологу. В своих ответах он демонстрирует странную «осознанность» процесса подачи документов: например, хвалит пользователя за то, что тот не сдался, даже если загруженный PDF-файл был повернут набок. Бот будто «читает мысли» заявителя, представляя их как текст на государственном сайте в момент погружения в процесс получения пособия. Важно, что система способна считывать Кодекс федеральных правил (Code of Federal Regulations), что делает контраст между бюрократическими фразами и лирическим финалом «Стихотворения конца» особенно примечательным.
Философский подтекст
Включение «пасхалки» из Minecraft многими воспринимается как постмодернистская рефлексия о тщетности государственной бюрократии перед лицом экзистенциальной тревоги. Использование ДНК творчества настоящего поэта (Джулиана Гофа) вместо создания «ИИ-шлака» (AI slop) — это решение, которое защищает веру в превосходство человеческого творчества над вероятностными моделями. Тот факт, что за основу взят качественный текст, а не случайная генерация, позволяет рассматривать America.gov как инструмент, который, по крайней мере на текущий момент, не склонен к опасным галлюцинациям, угрожающим национальной безопасности или качеству поэзии.
