Зашто је ЦхатГПТ-4 тако спор у поређењу са ЦхатГПТ-3.5?

Са најновијом верзијом ЦхатГПТ-а, ГПТ-4, објављеном у марту 2023., многи се сада питају зашто је тако спор у поређењу са својим претходником, ГПТ-3.5. Дакле, који је основни разлог овде?

Зашто је ЦхатГПТ-4 тако тром, и да ли би требало да се држите ГПТ-3.5 уместо тога?

Шта је ЦхатГПТ-4?

ЦхатГПТ-4 је најновији модел ОпенАИ-јев цхатбот, генерално познат као ЦхатГПТ. ЦхатГПТ покреће вештачка интелигенција, омогућавајући му да одговори на ваша питања и упите далеко боље од претходних робота за ћаскање. ЦхатГПТ користи велики језички модел који покреће ГПТ (Генеративе Пре-траинед Трансформер) за пружање информација и садржаја корисницима док истовремено може да разговара.

ЦхатГПТ има широк спектар могућности, што га чини корисним за милионе. На пример, ЦхатГПТ може писати приче, формулисати вицеве, преводити текст, образовати кориснике и још много тога. Док се ЦхатГПТ може користити и за више недозвољених радњи, као нпр стварање малвера, његова свестраност је донекле револуционарна.

ЦхатГПТ-ов ГПТ-4 модел објављена је 14. марта 2023. Ова верзија ЦхатГПТ-а је дизајнирана да боље разуме емоционални језик кроз текст, док истовремено боље разуме дијалекте различитих језика и обраду слика. ГПТ-4 такође може да одржава дуже разговоре и ефикасно одговара на дуже упите корисника.

Поред тога, параметри ГПТ-4 у великој мери превазилазе оне ГПТ-3.5. Параметри ЦхатГПТ-а одређују како АИ обрађује информације и реагује на њих. Укратко, параметри одређују вештину коју цхатбот мора да комуницира са корисницима. Док ГПТ-3.5 има 175 милијарди параметара, ГПТ-4 има невероватних 100 до 170 трилиона (прича се - ОпенАИ није потврдио ову цифру).

За напајање ЦхатГПТ-а коришћен је ОпенАИ ГПТ-3.5, који је сада најпопуларнији АИ цхатбот на свету. Дакле, ГПТ-3.5 је оставио неоспоран траг у области вештачке интелигенције. Али ствари увек напредују у технолошкој индустрији, тако да не чуди што ГПТ-3.5 сада има наследника ГПТ-4.

Међутим, ГПТ-4 никако није савршен. У ствари, дуго времена одзива ГПТ-4 изазивају потресе. Хајде да погледамо овај проблем и зашто се то може догодити.

ЦхатГПТ-4 је спор

Многи су приметили након објављивања ГПТ-4 да је ОпенАИ-јев нови цхатбот био невероватно спор. Ово је оставило фрустрирање многих корисника, јер је ГПТ-4 требало да буде корак напред у односу на ГПТ-3.5, а не назад. Као резултат тога, корисници ГПТ-4 одлазе на онлајн платформе, као што су Реддит и одбор заједнице ОпенАИ, како би разговарали о овом питању.

на Форум заједнице ОпенАИ, известан број корисника је иступио са својим фрустрацијама одлагања ГПТ-4. Један корисник је изјавио да је ГПТ-4 био "изузетно спор" на њиховој страни и да су чак и мали захтеви упућени цхатботу резултирали неуобичајено дугим кашњењима од преко 30 секунди.

Други корисници су брзо поделили своја искуства са ГПТ-4, а један је коментарисао испод објаве да „исти позив са истим подацима може да траје до 4 пута спорије од 3,5 турбо“.

У другом Пост на форуму ОпенАИ заједнице, корисник је коментарисао да се њихови упити понекад сусрећу са "грешка у току тела" порука, што је резултирало без одговора. У истој теми, друга особа је изјавила да не могу да натерају ГПТ-4 да „успешно одговори са комплетна скрипта." Други корисник је коментарисао да су стално наилазили на мрежне грешке док су покушавали да користе ГПТ-4.

Са кашњењима и неуспешним или напола одговорима, чини се да је ГПТ-4 препун проблема који брзо одвраћају кориснике.

Па зашто се, тачно, ово дешава? Да ли нешто није у реду са ГПТ-4?

Зашто је ГПТ-4 спор у поређењу са ГПТ-3.5?

У посту на форуму заједнице ОпенАИ који је горе поменут, један корисник је одговорио сугеришући да је до кашњења дошло због „тренутног проблема са целокупном инфраструктуром преоптерећења“, додајући да постоји изазов који се поставља у „решавању скалабилности у тако кратком временском оквиру са овом популарношћу и бројем корисника и ћаскања и АПИ."

У а Реддит пост учитано у р/сингуларити субреддит, корисник је изнео неколико могућих разлога за спорост ГПТ-4, почевши од веће величине контекста. У оквиру ГПТ екосистема, величина контекста се односи на то колико информација дата верзија цхатбот-а може да обради и затим произведе информације. Док је величина контекста ГПТ-3.5 била 4К, ГПТ-4 је двоструко већа. Дакле, величина контекста од 8К може утицати на укупне брзине ГПТ-4.

Аутор Реддита је такође сугерисао да побољшана управљивост и контрола ГПТ-4 могу играти улогу у временима обраде цхатбот-а. Овде је аутор навео да је ГПТ-4 већа управљивост и контрола халуцинација и неприкладних језик може бити кривац, јер ове карактеристике додају додатне кораке ГПТ-4 методи обраде информације.

Штавише, предложено је да би способност ГПТ-4 да обрађује слике могла успоравати ствари. Ову корисну функцију многи воле, али би могла доћи са уловом. С обзиром да се прича да је ГПТ-4 потребно 10-20 секунди да обради дату слику, постоји шанса да ће ова компонента продужава време одговора (иако то не објашњава кашњења са којима корисници дају само текстуалне упите).

Други корисници сугеришу да новост ЦхатГПТ-4 игра велику улогу у овим кашњењима. Другим речима, неки мисле да ОпенАИ-јев најновији цхатбот треба да искуси неке растуће болове пре него што се све мане могу испеглати.

Али највећи разлог зашто је ГПТ-4 спор је број параметара које ГПТ-4 може да позове у односу на ГПТ-3.5. Тхе феноменалан пораст параметара једноставно значи да је новијем ГПТ моделу потребно више времена да обради информације и одговори тачно. Добијате боље одговоре са повећаном сложеношћу, али до њих је потребно мало дуже.

Да ли би требало да изаберете ГПТ-3.5 уместо ГПТ-4?

Дакле, имајући на уму ове проблеме, треба ли користити ГПТ-3.5 или ГПТ-4?

У време писања, чини се да је ГПТ-3.5 брза опција у односу на ГПТ-4. Толико корисника је искусило кашњења да је вероватно да је проблем са временом присутан широм света, а не само код неколико појединаца. Дакле, ако ЦхатГПТ-3.5 тренутно испуњава сва ваша очекивања и не желите да чекате одговор у замену за додатне функције, можда би било паметно да се за сада држите ове верзије.

Међутим, треба да приметите да ГПТ-4 није само ГПТ-3.5 већ и спорији. Ова верзија ОпенАИ-овог цхат бота има бројне предности у односу на свог претходника. Ако тражите напреднијег АИ цхатбот-а и немате ништа против да чекате дуже на одговоре, можда би било вредно прећи са ГПТ-3.5 на ГПТ-4.

Временом, кашњења ГПТ-4 могу бити смањена или потпуно решена, тако да би стрпљење овде могло бити врлина. Било да сада покушате да пређете на ГПТ-4 или сачекате још мало да видите како ће се ствари одвијати са овом верзијом, и даље можете много да извучете из ОпенАИ-јевог елегантног малог робота за ћаскање.

ГПТ-4 је напреднији, али долази са кашњењем

Док ГПТ-4 има бројне напредне могућности у односу на ГПТ-3.5, његова значајна кашњења и грешке у одговору су га учиниле неупотребљивим за неке. Ови проблеми могу бити решени у блиској будућности, али за сада ГПТ-4 свакако има неке препреке које треба превазићи пре него што буде прихваћен на ширем плану.