Домой ИИ и технологии Сиджил Вен представил Underdog — конфиденциальный ИИ-ассистент с запуском на устройстве

Сиджил Вен представил Underdog — конфиденциальный ИИ-ассистент с запуском на устройстве

Бывший стипендиат программы Питера Тиля Сиджил Вен анонсировал бета-версию ИИ-ассистента Underdog. Сервис работает полностью локально и использует уникальную бизнес-модель.

1
0

Сиджил Вен, молодой разработчик и стипендиат фонда Питера Тиля, объявил о запуске закрытой бета-версии ИИ-ассистента под названием Underdog. Проект позиционируется как одно из самых конфиденциальных решений в Кремниевой долине, поскольку вся обработка данных происходит непосредственно на устройстве пользователя. В отличие от популярных облачных сервисов, Underdog не передает личную информацию на сторонние серверы для анализа.

Схематичное изображение работы локального ИИ-ассистента на устройстве

Особенности локальной работы и техническая база

На данный момент Underdog доступен для работы на компьютерах под управлением macOS и Windows, однако разработчик обещает в ближайшем будущем выпустить версии для Linux, iOS и Android. Ключевым компонентом системы является движок логического вывода Husky, созданный Веном специально для обеспечения высокой производительности. Архитектура движка оптимизирована таким образом, чтобы минимизировать объем данных, передаваемых между центральным и графическим процессорами.

В качестве основы для работы ассистента используется модель с 27 миллиардами параметров, дообученная на базе Qwen3.8 27B. По утверждению создателя, несмотря на меньший размер по сравнению с гигантскими облачными моделями, Underdog сопоставим по качеству ответов с Claude Opus 4.6 — моделью, которая считалась эталоном производительности еще полгода назад. Это позволяет помощнику эффективно справляться с повседневными задачами, включая поиск информации для покупок или решение математических задач.

Принципы безопасности и финансирование проекта

Безопасность пользователей обеспечивается не только локальным выполнением всех вычислений, но и дополнительными средствами защиты. В частности, Underdog выполняет шифрование ключей доступа к электронной почте и другим учетным записям, которые пользователь разрешает ассистенту использовать. Вен подчеркивает, что выбор в пользу локального запуска избавляет от необходимости жертвовать приватностью ради высокой вычислительной мощности.

Бизнес-модель стартапа Conway Research, стоящего за разработкой Underdog, существенно отличается от конкурентов. Поскольку основная нагрузка ложится на оборудование пользователя, компания не несет высоких затрат на поддержку серверов и не нуждается в продаже пользовательских данных рекламодателям. Вместо подписки или сбора данных монетизация будет происходить за счет транзакционных комиссий: Underdog планирует удерживать небольшой процент при совершении покупок через защищенные платежные шлюзы Stripe.

Проект уже получил серьезную финансовую поддержку. Среди инвесторов стартапа значатся сооснователь Stripe Патрик Коллисон, а также венчурные фонды Andreessen Horowitz (в лице Криса Диксона), Khosla Ventures, Hummingbird, SV Angel и Anthology Fund, созданный в партнерстве Menlo Ventures и Anthropic. Также в проект инвестировали Гильермо Раух (основатель Vercel), Ноам Браун и Диди Дас.

Сиджил Вен, который в юности жил в «хакерском доме» вместе с такими известными фигурами, как Андрей Карпатый, и тестировал ранние версии Claude, Midjourney и Stable Diffusion, считает свой проект попыткой сделать ИИ безопасным и этичным инструментом. «Почему использование ИИ должно требовать отказа от частной информации?» — задается он вопросом в своем манифесте, подчеркивая, что создает продукт, которым сможет гордиться перед будущими поколениями.

Истоки мастерства и ранний опыт

Свой путь в индустрии Сиджил Вен начал в 17 лет, переехав в Кремниевую долину. В тот период он жил в «ИИ-хакерхаусе» вместе с легендарным исследователем Андреем Карпатым. Этот опыт позволил ему не просто наблюдать за развитием технологий, но и напрямую участвовать в разработке вместе с будущими лидерами отрасли, включая основателя Perplexity Аравинда Сриниваса и исследователя OpenAI Ноама Брауна. Вен работал с ранними версиями инструментов, ставших впоследствии индустриальными стандартами: чат-ботом, предоставленным сооснователем Anthropic Беном Манном (будущий Claude), генератором изображений Дэвида Хольца (будущий Midjourney), а также самыми первыми итерациями GPT-3 и Stable Diffusion. Кроме того, Вен успел поработать под началом Навала Равиканта над Airchat — ныне закрытым конкурентом социальной сети Clubhouse. Одной из его примечательных личных разработок в те годы стало успешное портирование GPT-2 на Apple Watch.

Особенности архитектуры и принципы безопасности

Технологический стек Underdog строится на стремлении к максимальной автономности. Движок Husky был разработан с упором на минимизацию перемещений данных между центральным процессором и GPU, что дает преимущество перед стандартными решениями для запуска локальных моделей. Хотя используемая модель на 27 миллиардов параметров уступает флагманским облачным аналогам, Вен аргументирует, что компактные модели будут неуклонно совершенствоваться, оставаясь при этом приватными и эффективными. Дополнительная защита включает сквозное шифрование ключей от авторизованных пользователем сервисов, таких как электронная почта. Это противопоставляется текущим бизнес-моделям конкурентов, чьи политики конфиденциальности зачастую допускают продажу данных рекламодателям или использование пользовательских переписок для дообучения глобальных моделей — опасный компромисс, учитывая, что ИИ-ассистенты могут получить доступ к интимным данным: от медицинской истории до финансовой отчетности и информации о семье.

Экономика продукта: подход Stripe

Инновация Underdog заключается в отказе от модели подписки, которая стала стандартом для ИИ-сервисов. Поскольку вычислительная нагрузка перенесена на конечное устройство, у стартапа отсутствуют колоссальные затраты на содержание инфраструктуры. Взаимодействуя со Stripe, проект заимствует модель из финтех-сектора: доход формируется за счет небольшого интерчейндж-сбора от транзакций, совершаемых самим ассистентом. По замыслу основателя, такой подход делает ИИ «союзником» пользователя, сравнимым по степени лояльности с банковской системой, где интересы провайдера и клиента не противоречат друг другу.

Источник: https://techcrunch.com