Генеральный директор акселератора Y Combinator Гарри Тан выразил мнение, что американским разработчикам искусственного интеллекта следует активнее использовать методы дистилляции моделей, вместо того чтобы призывать регуляторов запрещать эту практику. В недавнем интервью CNBC Тан заявил, что США могли бы выстроить собственный «режим дистилляции», который позволил бы более мелким лабораториям с открытым исходным кодом обучаться на базе передовых разработок.
Отношение к дистилляции в индустрии
Дистилляция представляет собой процесс, при котором разработчик направляет множество запросов к другой, более мощной модели, чтобы изучить принципы ее работы и логику ответов. Этот метод широко используется в индустрии для эффективного обучения новых систем. Однако вокруг него развернулась дискуссия после того, как компания Anthropic опубликовала отчет, в котором обвинила китайские лаборатории в проведении «незаконных атак путем дистилляции». По версии Anthropic, для получения доступа к мощным моделям нарушители используют краденые учетные данные и скрывают свои личности.
Генеральный директор Anthropic Дарио Амодеи публично призвал американских регуляторов ограничить возможности проведения дистилляции. Гарри Тан, занимающий одну из ключевых позиций в технологическом секторе Кремниевой долины, открыто не согласился с этой позицией. Он подчеркнул, что не призывает к использованию незаконных методов или краденых данных, а настаивает на легализации прозрачного доступа к возможностям моделей для американских компаний.
Аргументы в пользу открытых моделей
Позиция Тана опирается на два основных довода. Во-первых, он считает попытки разработчиков закрытых моделей диктовать условия использования их продукта избыточным контролем. Во-вторых, он напоминает, что сами создатели проприетарных нейросетей при обучении своих систем собирали огромные массивы данных, включая материалы, защищенные авторским правом, не спрашивая разрешения у правообладателей.
«Контроль над тем, что пользователи и клиенты делают с помощью API-вызовов к закрытым моделям, кажется ограничением. Правительство могло бы сыграть роль в нормализации идеи, что доступ к интеллекту, обученному на широких общедоступных данных, должен быть своего рода общественным благом, а не услугой, запертой за ограничительными условиями использования», — пояснил Тан в комментарии для TechCrunch.
По мнению главы Y Combinator, крайне важно соблюсти баланс между передовыми лабораториями, которые двигают науку вперед, и проектами с открытыми весами моделей, обеспечивающими свободу доступа для широкого круга пользователей. Тан убежден, что в конечном итоге необходимо поддерживать оба направления, чтобы ИИ оставался коммерчески привлекательной и развивающейся сферой.
Опасность монополизации ИИ
Гарри Тан предостерегает от концентрации всех мощностей в руках одного игрока. Он подчеркивает, что самый пессимистичный сценарий развития индустрии — это возникновение монолитной компании, которая обладает лучшим доступом к капиталу, самыми сильными исследователями и тотальным контролем над технологиями. По словам Тана, возникновение такого монополиста было бы негативным фактором для всего рынка, в то время как развитие открытых моделей гарантирует конкуренцию и доступность технологий для всех участников рынка.
