Документы, обнародованные в рамках иска по закону о свободе информации (FOIA), раскрыли детали дискуссии между Пентагоном и компанией OpenAI относительно разработки систем искусственного интеллекта с пониженными ограничениями. Согласно полученным материалам, ведомство рассматривало возможность создания специализированных моделей для задач национальной безопасности, которые должны были иметь «минимальные уровни отказов» при выполнении военных запросов.
Детали спора вокруг контрактной документации
Обсуждаемая формулировка содержалась в рабочем документе, описывающем процесс тестирования, оценки и доработки технологий OpenAI для оборонных нужд. В тексте упоминались системы, спроектированные таким образом, чтобы отклонять значительно меньшее количество запросов в процессе операционной деятельности. Тем не менее, официальные представители обеих сторон заявили, что опубликованный в результате судебного запроса материал не является итоговой версией подписанного соглашения.
Представитель OpenAI Нейт Эванс подчеркнул: «OpenAI никогда не соглашалась на включение в контракт формулировок, требующих минимального уровня отказов. Это положение отсутствует в нашем исполненном договоре». По словам Эванса, обнародованный документ представляет собой лишь черновик, предложенный Министерством обороны до того, как компания предоставила свои замечания и отклонила данное требование. В Министерстве обороны США также подтвердили, что такая формулировка не содержится ни в одном действующем контракте.
Ситуация осложнилась тем, что юрист Пентагона изначально подтвердил подлинность документа, но позже отозвал свое заявление. Тревор Тидеман, ответственный за исследования в Пентагоне, связал возникшую путаницу с различиями между выпущенными записями и реальными соглашениями. Он пообещал провести внутреннюю проверку того, как проект документа прошел процедуры согласования и стал доступен общественности после запроса издания The Intercept.
Обеспокоенность вопросами безопасности и контроля ИИ
Данный инцидент вновь привлек внимание к проблеме степени контроля технологических компаний над ИИ-инструментами, используемыми государственными структурами. Стандартные коммерческие системы обычно оснащены встроенными защитными механизмами, предотвращающими использование технологий для вредоносной деятельности, например, разработки оружия или планирования атак. Эксперт AI Now Institute Хейди Клааф отметила, что стремление к «минимальным отказам», вероятно, подразумевает отсутствие или существенное ослабление встроенных алгоритмов безопасности в используемых моделях.
Несмотря на возникшие разногласия, OpenAI расширила свое соглашение с военными, предоставив доступ к сервисам в рамках закрытых правительственных сетей. Хотя обновленный договор содержит отсылки к ИИ-моделям, ориентированным на выполнение миссий, значительная часть документа остается скрытой от общественности. В самой компании заявляют, что соглашение по-прежнему включает запреты на использование технологий в целях создания автономного оружия или проведения слежки за гражданами США, однако полные детали применения данных ограничений в различных военных сценариях остаются нераскрытыми.
Контекст и детали процесса обнародования документов
Важно отметить, что процедура раскрытия материалов была инициирована запросом издания The Intercept. В рамках этого запроса журналисты требовали предоставить именно завершенные, подписанные соглашения. Однако в результате юридической коллизии ведомство предоставило материал, который, как позже утверждали официальные лица, был лишь промежуточным черновиком. Одной из центральных фигур в этом инциденте стал Тревор Тидеман, исследователь из Пентагона, который официально признал наличие путаницы между опубликованными записями и юридически обязательными документами. Тидеман также взял на себя обязательство изучить механизмы внутреннего контроля, чтобы понять, как проект документа, не являющийся финальным, прошел все процедуры проверки и в итоге оказался в открытом доступе.
Сам факт того, что OpenAI не опубликовала полную версию контракта в открытом доступе, оставляет существенные пробелы в независимой оценке условий сотрудничества. Это отсутствие прозрачности лишь подогревает дебаты о балансе между секретностью военных операций и подотчетностью частных технологических гигантов перед обществом.
Этика и риски военных ИИ-систем
Дискуссия вокруг «минимальных уровней отказов» подняла более глубокие вопросы о границах ответственности разработчиков ИИ. Хейди Клааф, главный научный сотрудник AI Now Institute, подчеркнула, что подобные требования фактически означают снятие «предохранителей» с алгоритмов. В стандартных коммерческих чат-ботах, таких как публичная версия ChatGPT, жестко прописаны отказы на запросы, связанные с планированием атак, выбором целей для ударов или созданием оружия. По мнению экспертов, если модель для военных нужд будет ограничена в своей способности «говорить нет», риск непреднамеренного злоупотребления ИИ в боевых условиях значительно возрастает.
Ситуация осложняется тем, что Пентагон уже имел схожие разногласия и с другими ИИ-компаниями, стремясь адаптировать их решения под нужды обороны. Несмотря на громкий резонанс, OpenAI не только не прекратила сотрудничество, но и расширила свои обязательства, допустив использование сервисов в закрытых правительственных сетях. На текущий момент известно, что обновленное соглашение содержит прямые запреты на использование технологий для управления автономным оружием и проведение специфических операций по слежке за гражданами США, однако конкретные протоколы реализации этих ограничений в реальных военных сценариях остаются засекреченными.
