Китайская технологическая корпорация Alibaba совершила то, что еще несколько лет назад казалось маловероятным: её исследовательское подразделение Qwen (Tongyi Qianwen) превратило скромную языковую модель с 7 миллиардами параметров в гиганта на 2,4 триллиона параметров, способного конкурировать с лучшими разработками OpenAI, Google и Anthropic. Этот путь — не просто история о наращивании вычислительных мощностей. Это рассказ о стратегических решениях, инженерных прорывах и переосмыслении того, как создаются современные большие языковые модели.
Скромное начало: 7 миллиардов параметров как точка отсчёта
В 2023 году, когда мир обсуждал GPT-4 и Llama 2, Alibaba представила свою первую открытую модель Qwen с 7 миллиардами параметров. На тот момент это выглядело как догоняющая история: китайская компания выпускала Small Language Model, которая уступала западным аналогам по большинству бенчмарков. Однако уже тогда в архитектуре Qwen были заложены ключевые особенности — поддержка длинного контекста, мультиязычность и открытая лицензия, позволившая разработчикам по всему миру экспериментировать с моделью.
Именно открытость стала первым стратегическим преимуществом. Пока OpenAI хранила свои веса за закрытыми дверями, Alibaba публиковала модели на Hugging Face, собирая вокруг себя сообщество инженеров, исследователей и энтузиастов. Это дало компании бесценную обратную связь и ускорило итерации.
От 7B к 72B: первые серьёзные скачки
Следующим этапом стало семейство Qwen 1.5 и Qwen 2, где Alibaba масштабировала модель до 72 миллиардов параметров. Здесь проявилась важная закономерность: компания не просто увеличивала размер, но и тщательно работала над качеством данных. В обучающие наборы включались миллиарды токенов на китайском, английском, а также десятках других языков, что сделало Qwen одним из лучших Language Model решений для мультиязычных задач.
Особое внимание уделялось Embedding Model и моделям для кодинга. Qwen-Coder стал отдельной веткой развития, ориентированной на Software Engineering задачи. Это позволило Alibaba занять нишу, где западные модели не всегда демонстрировали превосходство, особенно в сценариях с китайским синтаксисом и специфическими фреймворками.
Мультимодальность как следующий рубеж
Параллельно с текстовыми моделями Alibaba развивала Vision Language Model — Qwen-VL. Возможность обрабатывать изображения, документы и графики открыла дорогу к корпоративным применениям: анализ счетов, распознавание рукописного текста, работа с техническими схемами. Для бизнеса Alibaba это был не академический интерес, а прямой путь к монетизации через облачные сервисы.
2,4 триллиона параметров: как был достигнут рубеж
Ключевой анонс, который потряс индустрию, — модель Qwen с 2,4 триллионами параметров. Речь идёт о архитектуре Mixture-of-Experts (MoE), где общее число параметров огромно, но в каждом конкретном запросе активируется лишь небольшая часть сети. Это позволяет достичь качества гигантской модели при разумных вычислительных затратах на инференс.
Такой подход требует сложной инфраструктуры. Alibaba пришлось построить собственную AI Infrastructure, включающую кластеры с десятками тысяч ускорителей, оптимизированные системы хранения данных и новые фреймворки для распределённого обучения. Инженеры компании разработали методы, позволяющие эффективно обучать модель на триллионах токенов без катастрофического роста затрат.
Что даёт 2,4 триллиона параметров на практике
- Рекордные результаты на бенчмарках — Qwen обходит многие открытые модели и приближается к проприетарным лидерам в задачах рассуждения, математики и кодинга.
- Улучшенное следование инструкциям — модель лучше понимает сложные многошаговые запросы.
- Расширенный контекст — возможность обрабатывать сотни тысяч токенов, что критично для анализа длинных документов.
- Поддержка Agentic AI — способность планировать действия, вызывать инструменты и взаимодействовать с внешними API.
Agentic AI и Decision Models: куда движется Qwen
Современные большие модели уже не просто генерируют текст. Они становятся агентами, способными принимать решения. Alibaba активно инвестирует в Agentic AI — направление, где модель самостоятельно разбивает задачу на шаги, выбирает инструменты и корректирует стратегию. В экосистеме Qwen появились Decision Models, оптимизированные для планирования и оценки рисков.
Это особенно важно для корпоративных клиентов Alibaba Cloud, которым нужны не чат-боты, а системы автоматизации: обработка заявок, управление логистикой, финансовый анализ. Здесь Qwen выступает не как игрушка, а как рабочий инструмент.
Открытость против закрытости: стратегический выбор Alibaba
В отличие от OpenAI, которая постепенно закрывает доступ к своим моделям, Alibaba продолжает публиковать веса Qwen под открытыми лицензиями. Это создаёт эффект сети: тысячи разработчиков дообучают модели под свои задачи, находят уязвимости и предлагают улучшения. Для Alibaba это способ быстро наращивать экосистему и продвигать свои облачные сервисы.
Однако есть и обратная сторона: открытые модели сложнее монетизировать напрямую. Alibaba решает эту проблему через AI Infrastructure — продажу вычислений, инструментов для развёртывания и поддержки корпоративных решений.
Технические инновации, стоящие за Qwen
Путь от 7 миллиардов до 2,4 триллионов параметров был бы невозможен без ряда инженерных решений:
- Оптимизация обучения — использование смешанной точности, градиентного чекпоинтинга и новых методов параллелизма.
- Качественные данные — многоступенчатая фильтрация, дедупликация и балансировка языков.
- Архитектурные улучшения — переход к MoE, улучшенные механизмы внимания, поддержка длинного контекста.
- Пост-тренировка — RLHF и DPO для выравнивания модели с человеческими предпочтениями.
Отдельно стоит отметить вклад в Machine Learning сообщество: Alibaba публикует не только модели, но и статьи с описанием методов обучения. Это делает Qwen не просто продуктом, а исследовательской платформой.
Реакция рынка и конкурентная борьба
Появление Qwen с 2,4 триллионами параметров вызвало волну обсуждений. Западные аналитики отмечают, что Китай сокращает разрыв в области Artificial Intelligence. При этом Alibaba не пытается копировать OpenAI — она идёт своим путём, делая ставку на открытость, мультиязычность и интеграцию с облачными сервисами.
Конкуренты реагируют по-разному. Meta продолжает развивать Llama, Google делает ставку на Gemini, а Anthropic — на Claude. Но Qwen занимает уникальную нишу: это единственная крупная модель, одинаково хорошо работающая на китайском и английском, с открытыми весами и мощной поддержкой агентных сценариев.
Что это значит для разработчиков
Для For Devs сообщества Qwen предлагает несколько практических преимуществ:
- Возможность запускать модель локально или в облаке.
- Гибкая настройка под конкретные задачи.
- Поддержка популярных фреймворков и инструментов.
- Активное сообщество и регулярные обновления.
Перспективы: куда дальше?
Alibaba уже анонсировала планы по дальнейшему масштабированию и улучшению Qwen. Ожидается развитие в нескольких направлениях:
- Увеличение эффективности — снижение стоимости инференса при сохранении качества.
- Улучшение агентных возможностей — более сложные Decision Models и интеграция с внешними системами.
- Расширение мультимодальности — работа с видео, аудио и 3D-данными.
- Локализация — адаптация под рынки Юго-Восточной Азии, Ближнего Востока и Латинской Америки.
Если Alibaba сохранит текущий темп, Qwen может стать одной из ключевых платформ для AI Infrastructure в Азии и за её пределами.
Заключение
Путь Qwen от 7 миллиардов до 2,4 триллионов параметров — это история о том, как стратегия открытости, инженерная дисциплина и понимание рынка позволяют бросить вызов мировым лидерам. Alibaba доказала, что можно конкурировать с OpenAI и Google, не копируя их подход, а предлагая альтернативу: открытые модели, мультиязычность и глубокую интеграцию с облачными сервисами. Для разработчиков, исследователей и бизнеса это означает больше выбора и больше возможностей. И, судя по динамике, это только начало.
