Разборка NPU ускорителя Huawei Atlas 300i: что внутри

В этом видеоролике специалист ServerFlow вскроет довольно необычное устройство NPU-ускоритель Huawei Atlas 300i Model 3000. Это портативное решение с весьма любопытными характеристиками: оно способно обеспечивать до 88 TOPS в INT8 и до 44 TFLOPS в FP16, что делает его подходящим для инференса локальных моделей ИИ. Благодаря поддержке MindSpore и Huawei CANN, Atlas 300i способен запускать популярные китайские LLM, такие как Deepseek R1, Qwen3 и другие. Внутри ускорителя размещены сразу четыре AI-процессора Ascend 310, каждый из которых выдает до 22 TOPS. Кроме того, устройство оснащено 32 ГБ LPDDR4X-видеопамяти, что позволяет эффективно масштабировать решения при использовании нескольких таких ускорителей. Huawei Atlas 300i - это перспективный выбор для тех, кто не боится внедрения нишевых, специализированных NPU, и хочет выстраивать ИИ-инфраструктуру на базе бюджетных китайских решений.