Специализированное аппаратное обеспечение Microsoft для вычислений ИИ называется Brainwave, и оно создано таким образом, чтобы максимально быстро запускать нейронную сеть с минимальными задержками.

Компания объявила, что с момента использования Brainwave ей удалось получить в десять раз более высокую производительность от ИИ Бинга. Модель машинного обучения в основном обеспечивает функциональность поисковой системы.

Цель Microsoft, которую следует достичь с помощью Brainwave, - предоставлять прогнозы искусственного интеллекта в реальном времени для приложений, таких как новейшие функции Bing.

Bing получает новые функции

Microsoft также предоставляет Bing несколько новых функций, таких как наиболее значимые, которые стоит упомянуть: они предлагают больше ответов на практические вопросы и поддержку определения слов, которые не используются так часто, когда пользователи наводят указатель мыши на них. Эти функции поддерживаются Brainwave.

Microsoft использует FPGA от Intel для обеспечения искусственного интеллекта

ПЛИС - это своего рода пустые холсты, которые разработчики могут использовать, когда хотят развернуть различные схемы, отправив новое программное обеспечение. Это включает в себя мощное сочетание производительности и программируемости.

Теперь Microsoft может сделать больше, чем создавать более быстрые модели с аппаратным обеспечением; Компания также может создавать более сложные системы ИИ. Например, Ting Prototype 1 от Bing теперь в десять раз сложнее и быстрее благодаря вычислительной мощности, добавленной через Brainwave.

FGA, развернутые Microsoft, оснащены встроенными цифровыми сигнальными процессорами, улучшенными для сложной математики AI.

Основное преимущество ПЛИС

Самое значительное преимущество ПЛИС над графическими процессорами (которое стало предпочтительным выбором для вычислений ИИ) заключается в том, что они не требуют широкого использования пакетных вычислений.

Ключевым нововведением, позволяющим Microsoft получать такие успешные результаты с помощью ПЛИС, является использование 8- и 9-битных типов данных с плавающей запятой, которые радикально повышают производительность.

Микросхемы FPGA от Intel позволяют Bing быстро считывать и анализировать миллиарды документов по всему Интернету и предоставлять лучший ответ на ваш вопрос менее чем за долю секунды.

Фактически, FPGA от Intel позволили нам уменьшить задержку наших моделей более чем в 10 раз, а также увеличить размер нашей модели в 10 раз.

Использование ПЛИС для ускорения вычислений ИИ началось еще в 2012 году

Microsoft начала использовать FPGA для повышения скорости вычислений ИИ более шести лет назад, когда команда Bing начала использовать чипы. Все это также хорошая новость для Intel. Компания купила Altera, производителя FPGA в 2015 году, и сделка за $ 16, 7 миллиарда предоставила Intel необходимую мощность для удовлетворения потребностей Microsoft до сегодняшнего дня.

Мы с нетерпением ждем возможности выхода Brainwave через Microsoft Azure, чтобы предоставить клиентам возможность развернуть свои модели.