НЕЙРОТЕХ

Для работы с видеопотоками в реальном времени необходимы серьёзные вычислительные мощности. В частности, оборудование для аппаратного ускорения инференса моделей машинного обучения промышленного размера в России пока не производится. Низкие частоты работы ПЛИС и их размер не позволяют создать универсальный аналог западных решений, но для классификации входного видеопотока можно использовать параллелизацию базовых арифметических и матричных операций с применением системы остаточных классов (СОК) на аппаратном уровне. Мы разбиваем многобитное число на множество маленьких чисел, которые будут остатками для взаимнопростых оснований СОК. Теперь мы можем проделывать все операции над ними параллельно. Хотя сравнение и деление в СОК затруднены, сложение и умножение будет на порядки быстрее благодаря использованию табличной реализации этой операции. Поскольку среди операций инференса нейросетей присутствуют только сложение и умножение, использование СОК для ускорителя инференса является прорывным решением. В результате мы получаем скорость инференса полносвязных и сверточных нейросетей, сравнимую с западными продуктами. Программа применяется в любых устройствах «интернета вещей», использующих нейросети, во внешних блоках аппаратного ускорения компьютеров. ПЛИС с быстрыми нейросетями могу применяться в мобильных/автономных устройствах, в частности, в роботах, в БПЛА, в ракетной технике. Полученный на данную разработку грант фонда Бортника будет завершен до конца 2023 г.