Huawei представила ПО для оптимизации работы AI-чипов

В компании решили, что если нельзя свободно покупать самые мощные GPU, нужно заставить те, что есть, работать на полную катушку.

Flex:AI, построенный на основе популярной платформы Kubernetes, действует как виртуальный диспетчер для кластеров AI-чипов. Он делит физические GPU и NPU на более мелкие виртуальные блоки, позволяя одновременно запускать на одном устройстве несколько небольших задач, которые обычно не занимали бы и половины его мощности. Для более масштабных проектов, например, обучения больших языковых моделей, система, наоборот, может объединять мощности нескольких чипов.

Сердцем системы является интеллектуальный планировщик Hi Scheduler. Он в реальном времени отслеживает всю кластерную систему, находит простаивающие ресурсы и автоматически перенаправляет их на выполнение стоящих в очереди задач. Huawei заявляет, что в среднем их решение позволяет повысить КПД чипов на 30%, что эквивалентно покупке трети нового оборудования без каких-либо дополнительных затрат.

Сдвиг фокуса с железа на софт

Пока западные компании будут соревноваться в нанометрах и количестве транзисторов, Китай может сделать ставку на оптимизацию. Успех Flex:AI способен спровоцировать мировую тенденцию, где ценность программного обеспечения для распределения мощностей будет сравнима с ценностью самого кремния. Это может снизить давление от санкций, дав китайским компаниям и исследователям столь необходимое время для развития собственной полупроводниковой промышленности.

Новый виток технологической гонки

Ответ крупных игроков, таких как NVIDIA, не заставит себя ждать. Уже сейчас очевидно, что будущее не только за производством самых быстрых чипов, но и за созданием наиболее эффективных экосистем для их использования. Вскоре мы увидим, как компании начнут активно покупать или разрабатывать аналогичные решения, чтобы их аппаратное обеспечение работало еще лучше.

Рост влияния открытых решений

Анонсируя Flex:AI как open-source проект, Huawei явно стремится создать вокруг него большое международное сообщество разработчиков. Если платформа окажется удачной, она может стать отраслевым стандартом для управления разнородными кластерами, куда входят чипы от разных производителей. Это подорвет монополию проприетарных решений и даст толчок развитию более гибких и дешевых AI-инфраструктур по всему миру, особенно в странах, которые также стремятся к технологическому суверенитету.

Какие подводные камни может скрывать open-source проект?

В общем-то те же самые, что и в проприетарных проектах компаний из США. Например, Китай может создать «вилку» проекта, где основная, самая передовая разработка будет оставаться закрытой для американских компаний, а на внешний рынок пойдет более простая версия. Впрочем, подобное поведение будет полностью соответствовать английской фразе: «As you give, you receive».

По сути, запуск Flex:AI это лишь первая весточка нового направления в разработке программного обеспечения для AI-проектов, и ее долгосрочный успех будет зависеть не от анонса, а от того, смогут ли китайские компании создать вокруг него полноценную, конкурентоспособную на мировом уровне экосистему.

Если Huawei это удастся, то компания навсегда изменит ландшафт высоких технологий, доказав, что в современном мире программное обеспечение может быть таким же стратегическим активом, как и передовое «железо».