Intel GNA: маломощный сопроцессор для Intel Inference

Intel GNA: маломощный сопроцессор

Если вы прочитали полные спецификации некоторых из последних Intel Процессоры, вы будете видели, как появляются загадочные аббревиатуры: ВНС. На самом деле это небольшой процессор или, скорее, сопроцессор, который отвечает за ускорение определенных Глубокое обучение алгоритмы и, следовательно, тесно связаны с реализацией искусственного интеллекта. Объясняем, из чего состоит этот сопроцессор и каковы его функции.

Процессоры, предназначенные для ускорения определенных повседневных задач с использованием моделей, разработанных с помощью искусственного интеллекта, появляются в последние годы во всех конфигурациях и размерах, и неудивительно, что Intel не хотела отставать.

Что такое Intel GNA?

Интел ГНА-1

Intel GNA - это сопроцессор, который интегрирован в некоторые процессоры Intel и который служит для ускорения выполнения некоторых алгоритмов вывода. Тем не менее, многие из вас уже знают, что, следовательно, мы имеем дело с процессором нейронного типа, который в данном случае был впервые представлен в Intel Ice Lake, а его аббревиатура означает Гауссовский нейронный ускоритель ( GNA ), и будучи интегрированным в собственный процессор, работает с очень низким потреблением энергии.

Он предназначен для использования для таких задач, как транскрипция звука в реальном времени или удаление фотошума, которые типичны для ИИ, но не требуют мощного ускорителя.

Недавно он был улучшен в Tiger Lake, где была реализована версия 2.0 GNA, которая также предназначена для подавления окружающего шума и уменьшения шума на фотографиях. Исходя из этого, мы можем сделать вывод, что GNA разработан для совместной работы в бизнес-средах, особенно в тех, которые основаны на удаленной работе, в которой очень важна транскрипция текста и общение без какого-либо шума.

Как это работает?

Интел ГНА-2

Intel GNA не является исполнительным устройством ЦП Итак, мы имеем дело с процессором внутри другого, и он служит для ускорения определенных задач для своего гостя. Это означает, что он должен быть явно вызван в коде через API, в данном случае выделенный Intel API.

Реализация алгоритма или модели глубокого обучения, выполняемой Intel GNA на этапе вывода, выполняется в три этапа:

  1. Начнем с обучения алгоритма с использованием нейронной сети с плавающей запятой со структурой свободного выбора.
  2. Модель, полученная в результате обучения, импортируется с помощью инструмента развертывания Intel Deep Learning SDK, который позволяет импортировать любую модель, созданную наиболее известными и используемыми платформами глубокого обучения.
  3. Он связан с Intel Deep Learning SDK Inference Engine или собственными библиотеками GNA, которых две: одна для Intel Quark, а другая для Intel Atom и Intel Core.

Интел ГНА-3

Чтобы вызвать GNA, ЦП оставляет модель вывода в памяти, а GNA вызывается для принятия указанного алгоритма и его выполнения параллельно с работой процессора, хостом которого он является. Также необходимо учитывать, что это маломощный блок, поэтому мы не можем ожидать тех же результатов, что и при использовании высокопроизводительной нейронной сети или FPGA, настроенных как таковые, но он достаточно хорош для простых повседневных задач. .

Intel GNA вне процессоров Intel

Интел ГНА-4

Хотя GNA сам по себе является процессором, интегрированным как часть процессоров x86, при желании он может быть развернут вне процессора, наиболее известным случаем является Комплект разработчика Intel для работы с речью , который используется специально для вывода голосовых команд для приложений для Амазонки Alexa устройств.