Шта је АИ на уређају и како функционише?

Кључне Такеаваис

• АИ на уређају се односи на могућности вештачке интелигенције које се покрећу локално на уређају без повезивања на интернет, обезбеђујући приватност и бржу обраду.
• Са вештачком интелигенцијом на уређају, паметни телефони могу да обављају импресивне задатке, као што су брзо генерисање слика, обезбеђивање персонализованих АИ помоћника и побољшање графике и звука у игрицама.
• Компаније попут Куалцомм-а интегришу специјализовани хардвер у своје уређаје како би оптимизовали АИ на уређају перформансе, пружајући напредне могућности као што су интелигентни помоћници, превођење у реалном времену и аутоматизовано уређивање фотографија.

Од робота за ћаскање до аутомобила који се сами возе, АИ трансформише технолошки пејзаж. Једна област у којој се усвајање вештачке интелигенције убрзано убрзава је на потрошачким уређајима као што су паметни телефони. Технолошки гиганти се утркују да интегришу АИ могућности на уређају у свој најновији хардвер и софтвер.

Али шта је тачно АИ на уређају и како функционише?

Шта је АИ на уређају и како функционише

Данас већину потрошачке вештачке интелигенције покрећу огромни скупови података који се чувају у облаку. Међутим, отпремање личних података на АИ сервере није добро за приватност. Ту долази АИ на уређају.

АИ на уређају се односи на могућности вештачке интелигенције које се покрећу локално на уређају, а не у облаку. То значи да се АИ обрада дешава директно на вашем телефону, таблету или другим уређајима без повезивања на интернет.

Ево како то функционише испод хаубе: АИ модели воле Стабилна дифузија, ДАЛЛЕ-Е, Мидјоурнеи, итд., обучавају се у облаку користећи много података и рачунарске снаге. Ови модели се затим оптимизују за ефикасан рад на циљним уређајима. Оптимизовани АИ модели се уграђују у апликације и преузимају на уређај сваког корисника. Подаци апликације остају изоловани у безбедној енклави.

Када апликација треба да изврши задатак као што је препознавање звука или идентификација објекта на фотографији, она локално покреће АИ модел користећи уграђени ЦПУ или ГПУ уређаја. АИ модел обрађује улазне податке и генерише излазно предвиђање или резултат без слања било каквих података екстерно.

Све ово се у потпуности дешава на вашем уређају, чувајући ваше интеракције приватном.

Како вам АИ на уређају може користити

АИ на уређају омогућава импресивне могућности на вашем уређају. Ово укључује брзо генерисање слике помоћу модела као што је Стабле Диффусион, где се слике могу креирати за неколико секунди, што је невероватно брзо. Ово би могло бити сјајно ако желите брзо да креирате слике и позадине за своје објаве на друштвеним мрежама. А пошто се обрађује локално, упити за слику остају приватни.

АИ асистент се такође може напајати локално, пружајући персонализовано искуство засновано на вашим подацима и преференцијама, као што су омиљене активности и нивои фитнеса. Може да разуме природни језик за задатке као што су уређивање фотографија и видео записа. На пример, можда ћете моћи да кажете „уклони особу са леве стране“ да бисте одмах уредили слику.

За фотографију, АИ на уређају може да омогући функције као што је проширење граница слике (слично као Пхотосхоп-ова функција пуњења), користећи симултану предњу и задњу камере за видео ефекте и независно уређивање различитих слојева.

Графика за игре такође може имати користи од вештачке интелигенције на уређају кроз повећање резолуције до 8К, убрзање праћења зрака за реалистично осветљење и ефикасно удвостручавање броја слика у секунди. Што се тиче звука, вештачка интелигенција на уређају може да омогући синхронизацију звука у реалном времену тако да ваш звук из видео записа и игара никада не нестане. Такође омогућава кристално јасне позиве и музику чак и ако уђете у другу собу.

Све у свему, вештачка интелигенција на уређају је у складу са оним што многи корисници желе — брзе резултате и приватност — јер одржава више обраде локално уместо у облаку.

АИ на уређају доноси бржа и више приватних АИ искустава

АИ на уређају је прилично уредан. Омогућава нашим телефонима и другим гаџетима да локално покрећу напредне АИ алгоритме без потребе за повезивањем на облак и без кашњења.

Компаније попут Куалцомм-а већ пакују своје најновије чипове специјализованим хардвером за ефикасно покретање неуронских мрежа на нашим уређајима. На пример, Куалцомм-ов Снапдрагон 8 Ген 3 подржава до 24 ГБ (на паметном телефону!), има интегрисану подршку за Стабле Диффусион и Ллама 2, и користи Куалцомм-ов АИ Стацк да испоручи неке од најбољих АИ перформанси на уређају у тренутном стању време.

Дакле, са сваком новом генерацијом паметних телефона, очекујте да видите још моћније АИ могућности на уређају за ствари као што су интелигентни помоћници, превод у реалном времену, аутоматизовано уређивање фотографија и муњевито генеративна АИ слика генерације.