Поделиться
Создан 1000-ядерный «самый быстрый» ИИ-процессор на базе ажиотажной открытой архитектуры
Samsung и несколько других компаний испытывают разработку стартапа Esperanto — процессор на базе более чем 1000 ядер архитектуры RISC-V, ориентированный в том числе на работу с машинным обучением и ИИ.
Мало энергии, много производительности
Samsung и несколько других компаний изучают новый процессор, разработанный стартапом Esperanto Technologies. Процессор насчитывает более 1000 ядер RISC-V общего назначения. Разработчики считают, что он будет демонстрировать высокую производительность и энергоэффективность при применении в сфере ИИ.
Процессор ET-SoC1 сами создатели определяют как «ускоритель логических выводов ИИ» (AI Inference Accelerator). Он насчитывает 1088 энергоэффективных 64-разрядных процессорных ядер, использующих набор инструкций RISC-V, с собственными модулями векторных/тензорных вычислений для ускорения операций, связанных с машинным обучением. Процессор содержит также четыре высокопроизводительных ядра RISC-V, 160 млн байт встроенной SRAM-памяти (152 мегабайта) и интерфейсы для подключения flash-памяти и внешних модулей DRAM.
По сравнению с другими процессорами сходного назначения, ET-SoC1 отличается очень невысоким расходом энергии при весьма высокой, если верить разработчикам, производительности. В Esperanto утверждают, что это самый быстрый ИИ-процессор на базе архитектуры RISC-V.
Наибольшую эффективность, утверждают разработчики, процессор демонстрирует в рекомендательных системах на базе машинного обучения, а это один из самых распространенных типов серверных приложений, которые задействуют гипермасштабируемые центры обработки данных, вроде тех, которыми пользуется Amazon и другие ИТ-гиганты.
Напомним, что открытая свободная архитектура RISC-V сейчас вызывает повышенный интерес разработчиков во всем мире, в том числе и в России.
Samsung и другие
Изучением процессора занимается подразделение Samsung SDS. Это крупный сервис-провайдер, который занимается также развертыванием ИИ-приложений. Исследователи отметили, что процессор демонстрирует очень высокую масштабируемость. То есть при увеличении количества самих процессоров наблюдается и очень высокий рост общей производительности системы. Это далеко не всегда происходит при использовании других процессоров — их количество может увеличиваться, но прирост производительности оказывается отнюдь не линейным и с определенного момента просто останавливается.
Издание The Register приводит слова эксперта компании Cambrian-AI Research Карла Фрёйнда (Karl Freund), которых заявил, что ET-Soc1 продемонстрировал чрезвычайно высокую производительность при работе с моделями ResNet 50, DLRM и Tranformer; при этом каждый отдельный процессор требует всего 20 Вт энергии.
Фрёйнд признал, что изначально сомневался в эффективности архитектуры RISC-V в области ИИ, но процессор доказал, что такой подход вполне жизнеспособен. «Что делает этот подход уникальным, так это то, что ядра RISC-V действительно выполняют всю самую тяжелую работу, не выгружая матричные мультипликаторы на MAC-ядра или GPU», — отметил эксперт, добавив, что у Esperanto есть все необходимые программные инструменты и стек для адаптирования к новым задачам, как связанным с ИИ, так и не имеющим к нему отношения. При этом и те, и другие будут эффективно обрабатываться на одном и том же процессоре.
Впрочем, Фрёйнд полагает, что процессор мог появиться слишком поздно, и совсем не факт, что Esperanto сможет выдержать конкуренцию с другими поставщиками.
«На рынке ИИ-процессоров не наблюдается никакой пресыщенности, наоборот, сохраняется высокий спрос на новые технологии для решения задач, которые требуют все больших вычислительных мощностей, — отмечает Алексей Водясов, технический директор компании SEQ. — Данному процессору, скорее всего, не с чем будет “толкаться локтями”, если только кто-то из конкурентов не предложит нечто во всех смыслах превосходящее».
Короткая ссылка
