Сотрудничество разработчика искусственного интеллекта Anthropic с американским военным ведомством завершилось громким скандалом. Компания лишилась всех правительственных контрактов и получила статус неблагонадёжного поставщика, хотя стороны пытались урегулировать разногласия практически до самого конца.
Главными камнями преткновения стали два направления: потенциальное применение ИИ для массовой слежки за гражданами США и запуск автономных боевых систем. Разработчики категорически возражали против подобных сценариев.
Компромисс, которого не случилось
До последнего момента велись интенсивные переговоры. Пентагон даже выражал готовность зафиксировать в договоре жёсткие ограничения на использование технологий, однако оставил за собой лазейку. Ведомство настаивало на праве нарушать собственные запреты в исключительных ситуациях — как для слежки, так и для управления вооружениями.
Anthropic рассчитывала на полный отказ военных от подобных исключений. Когда стало очевидно, что позиции сторон не сойдутся, соглашение было окончательно сорвано.
Массовая слежка и границы облака
Особую тревогу у создателей ИИ вызывало намерение властей анализировать огромные массивы персональных данных американцев. Под прицел алгоритмов могли попасть:
- история поисковых запросов и переписки с чат-ботами;
- активность в социальных сетях и геолокационные данные;
- банковские транзакции и финансовые переводы.
В отношении систем вооружений компания не выступала против военных разработок в целом, но пыталась минимизировать риски. Anthropic настаивала на работе ИИ исключительно в рамках облачной инфраструктуры, исключая его интеграцию в периферийные устройства вроде автономных дронов. Однако современная военная архитектура не позволила провести такую границу, и компания предпочла полностью выйти из проекта.
Любопытно выглядела позиция конкурентов. Незадолго до заключения собственной сделки с Пентагоном по использованию ИИ в секретных разработках, глава OpenAI Сэм Альтман выражал коллегам поддержку, но подчеркивал: в вопросах национальной безопасности окончательное решение всегда должно оставаться за государством, а не за частным бизнесом.
