Ученые из Университета Цинхуа разработали инновационную методику передачи данных между нейросетями, которая исключает необходимость преобразования информации в текстовый формат. Метод, получивший название Cache-to-Cache (C2C), был принят к публикации на конференции ICLR 2026. Для разработчиков уже открыт доступ к исходному коду проекта.
Принцип работы Cache-to-Cache
Современные системы совместной работы нескольких языковых моделей требуют, чтобы одна нейросеть сначала перевела свои вычисления в понятный текст, который затем считывается другой моделью. Этот процесс создает «человеческое» узкое место, увеличивая время вычислений и приводя к потере мелких деталей, содержащихся в «сырых» данных модели. Технология C2C позволяет передавать содержимое рабочей памяти — так называемого кэша — напрямую из одной модели в другую.
Для обеспечения совместимости между моделями, обладающими различными внутренними структурами, размерами и форматами хранения данных, команда разработчиков внедрила программу-посредник под названием Fuser. Она занимается переформатированием и адаптацией информации, чтобы принимающая модель могла корректно ее интерпретировать. Кроме того, в структуру C2C включен интеллектуальный фильтр, который использует селективное стробирование: он определяет, какие фрагменты входящих данных стоит немедленно усвоить, а какие слои нейросети должны продолжать обрабатывать независимо.
Производительность и точность системы
Согласно результатам исследований, использование прямого обмена данными позволяет ускорить выполнение совместных задач на 100–150%. В наиболее эффективных сценариях производительность возрастает до 2,5 раз по сравнению с традиционным методом обмена текстовыми сообщениями. Также зафиксирован рост точности работы нейросетей: при совместном функционировании с применением C2C показатели улучшились на 14,2% по сравнению с работой моделей в одиночном режиме. В сравнении с классическими схемами передачи текста точность выросла в диапазоне от 3,1% до 5,4%.
Ограничения и перспективы применения
На текущем этапе технология C2C применима исключительно к моделям с открытыми весами, так как для интеграции требуется доступ к внутренней структуре слоев и кэшу нейросети. Популярные потребительские ИИ-сервисы и чат-боты, как правило, скрывают эти детали от внешних пользователей, что ограничивает массовое внедрение метода без участия самих разработчиков платформ. На данный момент нет достоверных данных о том, используют ли компании подобные решения в своих закрытых инфраструктурах.
Исследовательская группа подчеркивает, что использование человеческого языка в качестве посредника для общения ИИ всегда было сдерживающим фактором, вынуждающим машины подстраиваться под человеческий способ мышления. Тем не менее, эксперты призывают к осторожности в оценках: эффективность системы была подтверждена разработчиками в ходе их собственных тестов. Реальный масштаб прироста скорости и стабильности работы будет зависеть от независимого тестирования технологии сторонними специалистами.
Технические нюансы интеграции и роль Fuser
В основе C2C лежит преодоление фундаментальной несовместимости архитектур: поскольку разные ИИ-модели используют уникальные внутренние компоновки и структуры кэша, прямая передача «сырых» данных без адаптации привела бы к ошибкам или полной потере связности ответов. Программа-посредник Fuser решает эту задачу путем переформатирования и ротации данных. Благодаря интеллектуальному фильтру, реализующему селективное стробирование, система выборочно распределяет потоки информации: определенные внутренние слои принимают внешние данные мгновенно, тогда как другие слои продолжают процесс рассуждения автономно, не подвергаясь стороннему вмешательству.
Критический взгляд на методологию
Исследовательская группа из Университета Цинхуа утверждает, что текстовый формат общения исторически замедлял развитие машинного интеллекта, искусственно заставляя алгоритмы подстраиваться под специфику человеческого мышления. Однако стоит учитывать, что текущие показатели эффективности получены на базе внутренних тестов авторов технологии. Окончательные выводы о масштабируемости C2C и реальности заявленного ускорения в 2,5 раза можно будет сделать лишь после проведения сторонних независимых испытаний системы в различных вычислительных средах.
Ограничения экосистемы
На сегодняшний день ключевым барьером для широкого распространения C2C является требование полного доступа к весам модели и её послойной структуре. Большинство популярных коммерческих инструментов и чат-ботов функционируют в закрытом режиме, скрывая внутреннюю архитектуру от пользователей и внешних разработчиков. В силу этого, внедрение метода «кэш-к-кэшу» в текущих потребительских продуктах невозможно без прямого участия их создателей, которые пока не раскрывали информацию о возможности использования аналогичных внутренних архитектурных оптимизаций в своих закрытых стеках.
