Шта је ограничење ЦхатГПТ токена и можете ли га премашити?

ЦхатГПТ је олујом заузео технолошки свет, а напредовања и ажурирања не недостају. Али упркос употреби напредне технологије, постоји доста ограничавајућих фактора у тренутној верзији.

Један од таквих фактора је систем токена, који наставља да прекида циклус еволуције, стављајући корисност апликације на колена. Ако користите ЦхатГПТ, можда бисте желели да знате о ЦхатГПТ токенима и шта да радите када вам понестане токена.

Хајде да се вратимо корак уназад и дамо вам увид у све што треба да знате о основним механизмима рада апликације.

Шта је ЦхатГПТ токен?

Ако погледате фасаду апликације, све што видите је компјутерски језик који слуша ваше команде и даје вам одговоре које тражите. Међутим, позадински део је само много кода, који учи сваког минута и постаје корак са питањима на која одговара.

ЦхатГПТ претвара сваку реч у читљив токен кад год поставите питање. Да бисмо то даље раставили, токени су фрагменти текста, а сваки програмски језик користи другачији скуп вредности токена да би разумео захтеве.

Пошто рачунари не разумеју текстуалне вредности директно, они их деле на комбинацију бројева, која се често назива уграђивање. Можете чак размотрити и уградње попут Питхон листе, који подсећају на листу повезаних бројева, као што је [1.1,2.1,3.1,4.1…н].

Када ЦхатГПТ узме почетни унос, покушава да предвиди следећи могући унос на основу претходних информација. Бира целу листу претходних токена и, користећи своју синтезу кодирања, покушава да спречи накнадни унос од стране корисника. Користи и предвиђа један по један токен како би језик лакше разумео употребу.

Да би побољшао предвиђања и побољшао тачност, он преузима целу листу уградњи и прослеђује је кроз слојеве трансформатора да би успоставио асоцијације између речи. На пример, када поставите питање попут „Ко је Томас Едисон?“, ЦхатГПТ бира највредније речи на листи: СЗО и Едисон.

Трансформаторски слојеви имају своју улогу у целом процесу. Ови слојеви су облик архитектуре неуронске мреже обучени да покупе најрелевантније кључне речи из низа речи. Међутим, процес обуке није тако једноставан као што звучи, јер је потребно много времена за обуку трансформаторских слојева на гигабајтима података.

Иако ЦхатГПТ предвиђа само један токен у исто време, његова ауто-регресивна технологија је програмирана да предвиди и врати у примарни модел како би ослободила излаз. Модел је подешен да ради само једном за сваки токен, тако да се резултат штампа једну по једну реч. Излаз се аутоматски зауставља када апликација наиђе на команду токена за заустављање.

На пример, ако погледате калкулатор токена на веб локацији ЦхатГПТ, можете израчунати своју употребу токена на основу ваших питања.

Хајде да унесемо неки пример текста, као што је:

Како да објасним употребу токена ин ЦхатГПТ?

Према калкулатору, у овом низу има 46 знакова, који ће потрошити 13 токена. Ако га поделите на ИД-ове токена, изгледа отприлике овако:

[2437, 466, 314, 4727, 262, 779, 286, 16326, 287, 24101, 38, 11571, 30]

Према ОпенАИ токен калкулатор:

Корисно правило је да један токен генерално одговара ~4 карактера текста за уобичајени енглески текст. Ово се преводи као отприлике ¾ речи (дакле 100 токена ~= 75 речи).

Бесплатно вс. Плаћени токени

Да би вам пружио представу о томе шта је шта у апликацији ЦхатГПТ, ОпенАИ вам нуди бесплатну ограничену претплату на токен. Ако желите да експериментишете са ЦхатГПТ АПИ-јем, користите бесплатни кредит од 5 УСД, који важи три месеца. Када се лимит исцрпи (или пробни период истекне), можете да плаћате док идете, што повећава максималну квоту на 120 УСД.

ЦхатГПТ Плус: Да ли је плаћена претплата вредна тога?

Да бисте напредовали, можете се чак и пријавити за ЦхатГПТ Плус понуда, што вас враћа за 20 долара месечно. С обзиром на широку употребу и популарност читавог АИ модела, ево главних карактеристика модела плаћене претплате:

• Приступ ЦхатГПТ-у, чак и када веб локација не ради због прилива корисника
• Побољшане стопе одговора
• Приступ из прве руке новим функцијама и издањима

Ако сматрате да су ове функције у потпуности вредне тога, можете се пријавити за плаћену претплату и одмах имати користи од њих.

Структура цена ЦхатГПТ токена

Доступно је неколико различитих модела апликација које можете изабрати на основу ваших захтева:

Ада је најбржа, док је ДаВинци најмоћнији модел са ове листе модела. Брз је питање, док се завршетак бави одговорима.

Максимална ограничења токена

Сваки модел вам омогућава да поставите максималан број токена унутар сваког упита. Овај метод контролише максималан број токена које апликација генерише у једном позиву, ограничавајући излаз. Функција мак_токен је прилично корисна, посебно када желите да контролишете дужину свог излаза, а да притом избегавате прекомерну употребу токена и кредита. Подразумевана дужина је фиксна на 2048 токена, док се максимум може поставити на 4096 токена.

Ограничавање употребе токена може резултирати кратким одговорима, што може ограничити излаз и нарушити ваше искуство коришћења.

ЦхатГПТ3 има горњу границу од 4096; међутим, са увођењем ЦхатГПТ4, ограничења токена су повећана, на следећи начин:

Ако је ваш излаз скраћен, морате повећати наведено максимално ограничење на контролној табли. Запамтите, збир ваших промпт и максималних токена увек треба да буде мањи од максималног ограничења токена модела.

На пример, у оквиру ЦхатГПТ модела, промпт_токенс + мак_токенс <= 4096 токенс.

Научите да контролишете своје ЦхатГПТ упите за најбоље резултате

Без обзира на то како користите апликацију вођену вештачком интелигенцијом, велике су шансе да ћете морати да смислите начине да се паметно играте са својим питањима и фразама. У зависности од ваших образаца коришћења, вероватно ћете често користити ЦхатГПТ за сваки задатак.

Да бисте постигли најбоље резултате, морате научити како да радите са методологијом токена и побољшате своје вештине како бисте осигурали да ваша ограничења употребе остану нетакнута, а да вам дају најбоље могуће одговоре.