Huawei сделала доступной модель AI openPangu 2.0 Pro на 505 млрд параметров

Компания Huawei сделала важный шаг в развитии собственной экосистемы искусственного интеллекта, открыв доступ к флагманской языковой модели openPangu 2.0 Pro. Разработчики получили возможность скачать веса модели, базовый код для инференса и техническую документацию. Новинка насчитывает 505 миллиардов параметров и стала одной из крупнейших открытых моделей в мире, ориентированных на корпоративное использование и работу на аппаратной платформе Ascend.

Что представляет собой openPangu 2.0 Pro

openPangu 2.0 Pro построена по архитектуре Mixture of Experts (MoE). Несмотря на общий объем в 505 млрд параметров, во время обработки каждого токена активируются лишь около 18 млрд параметров. Такой подход позволяет значительно снизить вычислительные затраты при сохранении высокой производительности.

Модель поддерживает контекстное окно объемом 512 тысяч токенов, что делает ее подходящей для анализа больших документов, программного кода, научных публикаций и корпоративных баз знаний. По данным Huawei, для предварительного обучения было использовано около 34 триллионов токенов.

Что именно открыла Huawei

В рамках публикации компания предоставила:

• веса модели openPangu 2.0 Pro;
• базовый код для инференса;
• технический отчет с описанием архитектуры;
• материалы для развертывания на ускорителях Ascend.

Таким образом разработчики могут самостоятельно запускать модель, изучать ее архитектуру и адаптировать под собственные проекты. Это делает openPangu одним из наиболее масштабных открытых проектов Huawei в сфере генеративного искусственного интеллекта.

Ставка на экосистему Ascend

Одной из ключевых особенностей проекта является то, что обучение модели выполнялось на ускорителях Huawei Ascend 910B. Компания утверждает, что полный цикл обучения был проведен без использования графических процессоров NVIDIA, что должно продемонстрировать зрелость собственной аппаратной платформы Huawei.

Публикация модели является частью стратегии по развитию независимой AI-инфраструктуры и расширению экосистемы Ascend для корпоративных клиентов и исследовательских организаций.

Версии семейства openPangu 2.0

Модель Flash ориентирована на более экономичное использование вычислительных ресурсов, тогда как Pro предназначена для наиболее сложных задач корпоративного уровня.

Все больше открытых моделей

Рынок открытых больших языковых моделей продолжает быстро развиваться. Публикация openPangu 2.0 Pro усиливает конкуренцию с другими крупными открытыми моделями и одновременно расширяет выбор для компаний, которые хотят разворачивать генеративный ИИ в собственной инфраструктуре.

Для Huawei этот релиз имеет стратегическое значение: компания стремится привлечь разработчиков к платформе Ascend и ускорить развитие собственной экосистемы искусственного интеллекта. Открытие весов модели и технической документации должно способствовать созданию новых корпоративных решений, AI-агентов и специализированных сервисов на базе openPangu.