Шта је Апплеов неуронски мотор и како функционише?

Ваш иПхоне, иПад, Мац и Аппле ТВ користе специјализовану неуралну процесорску јединицу под називом Аппле Неурал Енгине (АНЕ) која је много бржа и енергетски ефикаснија од ЦПУ-а или ГПУ-а.

АНЕ омогућава напредне функције на уређају, као што су обрада природног језика и анализа слике без додиривања облака или коришћења претеране енергије.

Хајде да истражимо како АНЕ функционише и његову еволуцију, укључујући закључке и интелигенцију које има на Аппле платформама и како програмери могу да га користе у апликацијама трећих страна.

Шта је Аппле Неурал Енгине (АНЕ)?

Аппле Неурал Енгине је маркетиншко име за кластер високо специјализованих рачунарских језгара оптимизованих за енергетски ефикасно извршавање дубоких неуронских мрежа на Аппле уређајима. Убрзава машинско учење (МЛ) и алгоритме вештачке интелигенције (АИ), нудећи огромне предности у брзини, меморији и снази у односу на главни ЦПУ или ГПУ.

АНЕ је велики део зашто најновији иПхоне, иПад, Мац и Аппле ТВ уређаји реагују и не загревају се током тешких МЛ и АИ прорачуна. Нажалост, немају сви Аппле уређаји АНЕ – Аппле Ватцх, Мац рачунари засновани на Интел-у и уређаји старији од 2016. немају један.

Први АНЕ који је дебитовао у Аппле-овом А11 чипу у иПхоне Кс-у из 2017. био је довољно моћан да подржи Фаце ИД и Анимоји. Поређења ради, најновији АНЕ у А15 Биониц чипу је 26 пута бржи од прве верзије. Данас, АНЕ омогућава функције попут офлајн Сири, а програмери могу да га користе за покретање претходно обучених МЛ модела, ослобађајући ЦПУ и ГПУ да се фокусирају на задатке који им више одговарају.

Како функционише Апплеов неуронски мотор?

АНЕ обезбеђује контролу и аритметичку логику оптимизовану за обављање обимних рачунарских операција као што су множење и акумулација, која се обично користи у МЛ и АИ алгоритмима као што су класификација слика, анализа медија, машинско превођење и више.

Према Апплеов патент под називом "Мулти-Моде Планар Енгине фор Неурал Процессор", АНЕ се састоји од неколико језгара неуронског мотора и једног или више мулти-модних планарних кола.

Дизајн је оптимизован за паралелно рачунарство, где многе операције, попут множења матрице које се покрећу у трилионима итерација, морају да се обављају истовремено.

Да би убрзао закључивање у АИ алгоритмима, АНЕ користи предиктивне моделе. Поред тога, АНЕ има сопствену кеш меморију и подржава само неколико типова података, што помаже максимизирању перформанси.

АИ функције Поверед би АНЕ

Ево неких функција на уређају са којима сте можда упознати, а које омогућава АНЕ.

• Обрада природног језика: Брже и поузданије препознавање гласа за Диктат и Сири; Побољшано учење природног језика у апликацији Преводилац и у целом систему; Тренутни превод текста у сликама, камери и другим иПхоне апликацијама.
• Компјутерски вид: Проналажење објеката на сликама као што су знаменитости, кућни љубимци, биљке, књиге и цвеће помоћу апликације Фотографије или Спотлигхт претраге; Добијање додатних информација о препознати објекте користећи Висуал Лоок Уп на местима као што су Сафари, Маил и Мессагес.
• Проширена стварност: Оклузија људи и праћење покрета у АР апликацијама.
• Видео анализа: Детекција лица и објеката на видео снимку у апликацијама као што је Финал Цут Про.
• Ефекти камере: Аутоматско изрезивање са средишњим степеном; Замућење позадине током ФацеТиме видео позива.
• Игре: Фотореалистични ефекти у 3Д видео играма.
• Ливе Тект: Омогућава оптичко препознавање знакова (ОЦР) у камери и фотографијама, омогућавајући вам да лако копирате рукопис или текст попут Ви-Фи лозинке или адресе са слика.
• Рачунарска фотографија: Дееп Фусион анализира пикселе ради бољег смањења шума, већег динамичког опсега и побољшане аутоматске експозиције и баланса белог, користећи Смарт ХДР када је то прикладно; Фотографија мале дубине поља, укључујући снимање портрета у ноћном режиму; Подешавање нивоа замућења позадине помоћу контроле дубине.
• ситнице: АНЕ се такође користи за фотографске стилове у апликацији Камера, курирање успомена и стилске ефекте у фотографијама, персонализоване препоруке као што су предлози за позадину, ВоицеОвер натписи слика, проналажење дупликата слика у Фотографије итд.

Неке од горе наведених функција, као што је препознавање слика, такође функционишу без присуства АНЕ-а, али ће радити много спорије и троше батерију вашег уређаја.

Кратка историја Аппле Неурал Енгине-а: од иПхоне Кс до М2 Мац рачунара

У 2017. години, Аппле је поставио свој први АНЕ у облику два специјализована језгра у оквиру А11 чипа иПхоне Кс-а. По данашњим стандардима, био је релативно спор, са само 600 милијарди операција у секунди.

АНЕ друге генерације појавио се унутар А12 чипа 2018. године, са четири пута више језгара. Оцењен на пет трилиона операција у секунди, овај АНЕ је био скоро девет пута бржи и користио је једну десетину снаге свог претходника.

А13 чип из 2019. имао је исти АНЕ са осам језгара, али је радио за петину брже док је користио 15% мање енергије, производ ТСМЦ-овог побољшаног 7нм полупроводничког чвора. ТСМЦ (Таиван Семицондуцтор Мануфацтуринг Цомпани) производи чипове које је дизајнирао Аппле.

Еволуција Аппле Неурал Енгине-а

Следеће године, Аппле А14 је скоро удвостручио АНЕ перформансе на 11 трилиона операција у секунди, што је постигнуто повећањем броја АНЕ језгара са 8 на 16. У 2021. години, А15 Биониц је имао користи од ТСМЦ-овог 5нм процеса друге генерације, који је додатно повећао АНЕ перформансе на 15,8 трилиона операција у секунди без додавања више језгара.

Први М1, М1 Про и М1 Мак чипови везани за Мац имали су исти АНЕ као и А14, доносећи напредне, хардверски убрзане МЛ и АИ на мацОС платформу по први пут.

У 2022. години, М1 Ултра је комбиновао два М1 Мак чипа у једном пакету користећи Аппле-ову прилагођену интерконекцију названу УлтраФусион. Са двоструко више АНЕ језгара (32), М1 Ултра је удвостручио АНЕ перформансе на 22 трилиона операција у секунди.

Аппле А16 је 2022. године произведен коришћењем ТСМЦ-овог побољшаног Н4 чвора, доносећи око 8% брже АНЕ перформансе (17 трилиона операција у секунди) у односу на А15-ов АНЕ.

Први иПад-ови са АНЕ-ом били су иПад мини пете генерације (2019), иПад Аир треће генерације (2019) и иПад осме генерације (2020). Сви иПад-ови објављени од тада имају АНЕ.

Како програмери могу да користе АНЕ у апликацијама?

Многе апликације независних произвођача користе АНЕ за функције које иначе не би биле изводљиве. На пример, уређивач слика Пикелматор Про обезбеђује алатке као што су МЛ Супер Ресолутион и МЛ Енханце. А у дјаи Про, АНЕ одваја ритмове, инструментале и вокалне нумере од снимка.

Међутим, програмери треће стране не добијају приступ на ниском нивоу АНЕ-у. Уместо тога, сви АНЕ позиви морају проћи кроз Апплеов софтверски оквир за машинско учење, Цоре МЛ. Уз Цоре МЛ, програмери могу да праве, обучавају и покрећу своје МЛ моделе директно на уређају. Такав модел се затим користи за предвиђање на основу нових улазних података.

„Када је модел на уређају корисника, можете да користите Цоре МЛ да бисте га поново обучили или фино подесили на уређају, са подацима тог корисника“, наводи се у прегледу Цоре МЛ-а на Аппле веб локација.

Да би убрзао МЛ и АИ алгоритме, Цоре МЛ користи не само АНЕ већ и ЦПУ и ГПУ. Ово омогућава Цоре МЛ-у да покрене модел чак и ако АНЕ није доступан. Али са АНЕ присутним, Цоре МЛ ће радити много брже, а батерија се неће тако брзо празнити.

Многе Аппле функције не би радиле без АНЕ-а

Многе функције на уређају не би биле могуће без брзе обраде АИ и МЛ алгоритама и минимизираног меморијског отиска и потрошње енергије које АНЕ доноси на стол. Аппле-ова магија је да има наменски копроцесор за приватно покретање неуронских мрежа на уређају уместо да те задатке пребацује на сервере у облаку.

Са АНЕ-ом, и Аппле и програмери могу да имплементирају дубоке неуронске мреже и искористе предности убрзања машинско учење за различите предиктивне моделе као што су машинско превођење, детекција објеката, класификација слика, итд.