Този сайт използва бисквитки (cookies). Ако желаете можете да научите повече тук. Разбрах
IDG  •  PC World  •  Computerworld  •  CIO  •  CFO  •  Networkworld  •  Дискусии  •  Кариерна зона  •  Събития
COMPUTERWORLD | Хардуер
26 апр
2017
 
 

Google: Тензорните процесори превъзхождат обикновените чипове

Специализираните чипове ускоряват „умозаключенията“ на невронните мрежи и предлагат по-добра енероефективност.

3152 прочитания

Преди четири години в Google изчислиха, че ако всички потребители започнат да използват услуги на компанията, свързани с разпознаване на реч, то тя ще трябва да удвои капацитета на своите центрове за обработка на данни.

Вместо да купува нови сгради и сървъри обаче интернет гигантът взима решение да проектира специално оборудване за задачите на машинното обучение. Така се появява т.нар. тензорен процесор (Tensor Processing Unit, TPU) – чип, ускоряващ работата на невронните мрежи. Наскоро компанията публикува доклад за преимуществата на TPU пред стандартните централни (CPU) и графични (GPU) процесори.

TPU, в сравнение с традиционни CPU и GPU, позволява намаляване на разходите за центрове за обработка на данни.

Прочетете още: Изкуственият интелект излезе от лабораториите и стигна до бизнеса

Според публикуваната информация тензорният процесор е средно между 15 и 30 пъти по-бърз при намирането на решения на задачи чрез използване на машинно обучение, спрямо стандартен сървърен процесор от класа на Intel Haswell или Nvidia K80. Не по-малко важен е и фактът, че той предлага и по-висока енергийна ефективност – при изчисляване на производителността за един ват TPU се справя между 25 и 80 пъти по-добре спрямо споменатите традиционни чипове.

Постигнатите резултати имат голямо значение за Google, тъй като напоследък компанията активно развива средства за машинно обучение. Разработката на собствено оборудване за тази цел е започната, поради невъзможността за съществено повишаване на производителността на традиционните чипове.

При това далеч не става дума за изследователски експеримент – в компанията използват тензорни процесори от 2015 г. С тяхна помощ се ускорява работата на услугите за машинен превод и разпознаването на изображения. Споменатите добри резултати на TPU по отношение на енергийната ефективност позволяват съкращаване на разходите, свързани с използването на големи количества хардуер.

Още една ключова характеристика – времето за реакция на специализирания чип е значително по-малко, отколкото това на останалите типове процесори. Норм Джупи, хардуерен инженер в Google, подчертава че системите за машинно обучение трябва да дават отговори бързо, така че да бъде осигурено висококачествено обслужване за потребителите:

„При работа с онлайн услуги трябва да се взема предвид времето, необходимо за предаване на информацията от устройството към облака и обратно. В самия център за обработка на данни също се случват прехвърляния по мрежата както и други процеси, влияещи на скоростта. Затова, ако искате потребителят да получава почти мигновена реакция, то за обработката не остава много време.“

Google вече са провели изпитания на своите процесори в шест услуги, в които се използват заключения, генерирани от невронни мрежи. Те представляват 95 на сто от приложенията в центровете за данни на компанията. Сред тях е системата DeepMind AlphaGo, която миналата година победи Ли Седол, един от най-добрите майстори по играта го с резултат 4:1.

Google е тествала тензорните процесори, сравнявайки ги със стандартен хардуер, пуснат на пазара приблизително по същото време. Не е изключено, че по-новите чипове ще съкратят поне до някаква степен изоставането спрямо TPU.

Характеристиките на специализираните процесори обаче също може да бъдат подобрени. В тях може например да използва GDDR5 памет, използвана и в Nvidia K80, която ще позволи увеличаване на бързодействието в сравнение с конфигурацията, използвана по време не тестовете. Според доклада на Google недостатъчната пропусквателна способност на паметта е оказала негативно влияние по отношение на скоростта в редица приложения.

Освен това от компанията са уверени,че производителността може да бъде увеличена чрез оптимизация на софтуера, най-вече в една от конволюционните невронни мрежи, обозначена като CNN1. Имайки предвид настоящото превъзходство на TPU обаче не е сигурно, че тези оптимизации ще бъдат реализирани.

Данните в изкуствените невронни мрежи се предават по същата схема като в главния мозък на човека, конволюционните мрежи моделират процеса по обработка на визуална информация.

„Отчитайки това, че CNN1 сега работи върху TPU 70 пъти по-бързо спрямо CPU, разработчиците са напълно удовлетворени от резултата. Затова и не е ясно дали описаните оптимизации ще бъдат проведени“, поясняват авторите на доклада.

Тензорните процесори представляват специализирани интегрални схеми – чипове, създадени за конкретни задачи, със своя набор от инструкции. Норм Джупи не вижда проблем в това и добавя, че те предлагат достатъчна гъвкавост и затова използваните модели за машинно обучени могат да бъдат променяни: „TPU не е разработен за за точно определен модел. Ако бъде предложен друг, то процесорът няма да бъде проектиран наново.“

Специализиран софтуер за машинно обучение се разработва и от други компании. В сферата са специализирани редица стартъпи. Също така, например, Microsoft активно използва програмируеми логически матрици (FPGA) в своите центрове за обработка на данни с цел ускоряване работата на мрежи и приложения за машинно обучение.

IDG News Service

НАЙ-НОВИ НАЙ-ЧЕТЕНИ ПРЕПОРЪЧАНИ
Интервю

Слайдшоу
ИНТЕРВЮ
Иван Георгиев, Kaufland Service: Развитието е ключово за бизнеса ниИван Георгиев, Kaufland Service: Развитието е ключово за бизнеса ни

Марката Кауфланд е позната у нас с веригата си от хипермаркети. Малцина обаче знаят, че от България се поддържат някои от нейните ключови системи, както и че тук се разработват перспективни технологии, които тепърва ще бъдат внедрявани в...

ПРИЛОЖЕНИЯ
АНКЕТА

Какво мислите за FireFox OS?

Информация за Вас