Google анонсировала комплексный сервис Workspace Intelligence на основе искусственного интеллекта, который глубоко интегрируется в рабочие приложения компании. Одновременно с этим был представлен восьмой набор тензорных процессоров (TPU), разделенный на специализированные решения для обучения нейросетей и их дальнейшего запуска (инференса).
Сервис Workspace Intelligence анализирует сложные семантические связи между данными в Gmail, «Google Документах» и других приложениях экосистемы. Система учитывает контекст активных проектов, историю взаимодействия с коллегами и специфическую информацию конкретной компании. Сервис собирает данные самостоятельно, стирая границы между разрозненными файлами и письмами, чтобы предоставлять пользователю готовую информацию именно тогда, когда она требуется для работы.
Работая на базе логического движка Gemini, Workspace Intelligence адаптируется под индивидуальный стиль общения пользователя, его предпочтения в форматировании и привычную манеру письма. В качестве базы для обучения выступают заметки с совещаний, переписка и сохраненные документы. При этом система поддерживает интеграцию с внешними платформами, включая Asana, Jira и Salesforce.
На базе новой платформы работают функции AI Inbox и AI Overviews в почтовом клиенте, а также обновленный Ask Gemini в Google Chat: нейросеть берет на себя выполнение задач по запросу пользователя. В «Google Документах» система способна создавать инфографику на основе бизнес-метрик и редактировать текст с учетом комментариев. В «Google Презентациях» ИИ адаптирует слайды под фирменный стиль компании, а в «Google Таблицах» заполняет данные через простой диалоговый интерфейс.
Новое поколение ускорителей Google TPU 8 знаменует переход к узкой специализации архитектур. Для обучения моделей предназначены чипы TPU 8t, которые обеспечивают 2,8-кратный прирост эффективности соотношения цены и производительности. Один суперблок теперь объединяет до 9600 чипов и 2 Пбайт высокоскоростной памяти с двукратно увеличенной пропускной способностью межчиповых соединений. Технология TPUDirect десятикратно ускоряет обмен данными за счет прямого подключения к накопителям, а сетевая архитектура Virgo Network в сочетании с библиотекой JAX позволяет масштабировать кластеры до 1 миллиона чипов.
Для задач инференса представлен чип TPU 8i, который повышает производительность на каждый вложенный доллар на 80%. Архитектура позволяет обслуживать вдвое больше пользователей при прежнем уровне затрат. Чип получил 288 Гбайт высокоскоростной памяти и 384 Мбайт встроенной SRAM, что в три раза превышает показатели предшественников. Google также удвоила количество хостов CPU, переведя их на собственные ARM-процессоры Axion с архитектурой NUMA. Ускорители оптимизированы для моделей типа Mixture of Experts (MoE), где пропускная способность межсоединений достигла 19,2 Тбит/с. Новая архитектура Boardfly сократила диаметр сети более чем вдвое, а блок Collectives Acceleration Engine (CAE) снизил задержки на кристалле до пяти раз.
