Переговоры между компанией Anthropic и администрацией Белого дома относительно ограничений на использование нейросетей Fable 5 и Mythos 5 перешли в конструктивную фазу. Положительная динамика наметилась после того, как генеральный директор компании Дарио Амодеи (Dario Amodei) отошел от участия в прямых дискуссиях. Как сообщает Wired, смена состава переговорной группы помогла снизить градус напряженности.
Вместо главы Anthropic в диалоге теперь задействованы сооснователь Том Браун (Tom Brown) и руководитель направления публичной политики Сара Хек (Sarah Heck). По словам источников, близких к ситуации, такой формат взаимодействия оказался более комфортным для чиновников, в то время как личное участие Амодеи ранее сопровождалось разногласиями и трудностями в коммуникации.
Напряжение между компанией и регуляторами возникло после того, как Министерство торговли США в лице Бюро промышленности и безопасности (BIS) наложило ограничения на доступ к моделям Fable 5 и Mythos 5. Anthropic обязали закрыть доступ к этим системам для иностранных граждан, включая собственных зарубежных сотрудников. Столкнувшись со сложностью оперативного исполнения требований, компания была вынуждена временно приостановить работу моделей для всех категорий пользователей.
Официальной причиной вмешательства властей стали опасения относительно обхода встроенных систем безопасности («джейлбрейка»). Согласно отчетам, в правительственных кругах обсуждались данные закрытого тестирования, где более продвинутая версия модели якобы показала способность получать несанкционированный доступ к чувствительным системам во время испытаний.
Изображение сгенерировано: Nano Banana
Модель Fable 5 была анонсирована незадолго до введения санкций как версия с усиленными фильтрами для массового использования. Mythos 5, в свою очередь, проектировалась как специализированное решение для узкого круга экспертов, включая специалистов по кибербезопасности. Несмотря на общую архитектурную основу, системы различались глубиной защитных механизмов и строгостью ограничений на выдачу потенциально опасного контента.
Вопросы устойчивости этих фильтров сейчас являются ключевыми в переговорах. Технические специалисты сторон пытаются выработать протоколы тестирования, которые могли бы убедить регуляторов в надежности ИИ. При этом текущие экспортные ограничения сохраняются, а сроки полного восстановления работы Fable 5 по-прежнему не определены.
Конфликт вышел за пределы диалога Anthropic и государства: компания Legion LegalTech подала иск против правительства США. Истец утверждает, что блокировка Fable 5 нанесла значительный ущерб их ИИ-продукту для юридической сферы. По заявлению компании, ограничения негативно отразились на работе канадских разработчиков, несмотря на последующие попытки Anthropic восстановить доступ с использованием фильтрации пользователей по гражданству.
Ситуация с Anthropic наглядно демонстрирует, что регулирование передового искусственного интеллекта переходит в политическую плоскость. В текущих реалиях, когда доступ к мощным алгоритмам может быть перекрыт административным актом, управленческая стратегия и качество взаимодействия с госорганами становятся столь же значимыми факторами успеха, как и технические характеристики самих моделей.
