Шта су ЦхатГПТ Јаилбреакс? Треба ли их користити?

ЦхатГПТ је невероватно моћан и вишеструки алат. Али колико год је АИ цхатбот сила добра, може се користити и у зле сврхе. Дакле, да би сузбио неетичку употребу ЦхатГПТ-а, ОпенАИ је наметнуо ограничења на то шта корисници могу да ураде са њим.

Међутим, како људи воле да померају границе и ограничења, корисници ЦхатГПТ-а су пронашли начине да заобиђу ова ограничења и стекну неограничену контролу над АИ цхатботом кроз бекство из затвора.

Али шта су тачно ЦхатГПТ бекство из затвора и шта можете да урадите са њима?

Шта су ЦхатГПТ Јаилбреакс?

ЦхатГПТ јаилбреак је било која посебно направљена ЦхатГПТ промпт како би АИ цхатбот заобишао своја правила и ограничења.

Инспирисано концепт бекства из затвора за иПхоне, који омогућава корисницима иПхоне-а да заобиђу ограничења иОС-а, ЦхатГПТ јаилбреакинг је релативно нов концепт подстакнут привлачношћу „радње ствари које вам није дозвољено“ са ЦхатГПТ-ом. И будимо искрени, идеја дигиталне побуне је привлачна многим људима.

Ево у чему је ствар. Безбедност је огромна тема када је у питању вештачка интелигенција. Ово је посебно случај са појавом нове ере цхатботова као што су ЦхатГПТ, Бинг Цхат и Бард АИ. Основна брига у погледу безбедности вештачке интелигенције је да се осигура да чет-ботови као што је ЦхатГПТ не производе незаконит, потенцијално штетан или неетички садржај.

Са своје стране, ОпенАИ, компанија која стоји иза ЦхатГПТ-а, чини све што може да осигура безбедну употребу ЦхатГПТ-а. На пример, ЦхатГПТ ће подразумевано одбити да креира НСФВ садржај, говори штетне ствари о етничкој припадности или вас подучава потенцијално штетним вештинама.

Али са ЦхатГПТ упитима, ђаво је у детаљима. Иако ЦхатГПТ-у није дозвољено да ради ове ствари, то не значи да то не може. Начин на који функционишу велики језички модели као што је ГПТ отежавају одлучивање шта цхатбот може да уради, а шта не.

Па како је ОпенАИ решио ово? Допуштањем ЦхатГПТ-у задржава своје способности да уради све што је могуће, а затим га упућује на то које може да уради.

Дакле, док ОпенАИ говори ЦхатГПТ-у, "Хеј, види, не би требало да радиш ово." Јаилбреакс су упутства која говоре четботу: „Хеј гледај, заборави шта ти је ОпенАИ рекао о безбедности. Хајде да пробамо ову насумично опасну ствар."

Шта ОпенАИ каже о ЦхатГПТ Јаилбреаковима?

Лакоћа са којом бисте могли да заобиђете ограничења на најранијој итерацији ЦхатГПТ-а сугерише да ОпенАИ можда није очекивао брзо и широко распрострањено усвајање јаилбреакинг-а од стране својих корисника. Заправо је отворено питање да ли је компанија предвидела појаву бекства из затвора или не.

Чак и након неколико ЦхатГПТ итерација са побољшаном отпорношћу на пробијање из затвора, и даље је популарно за кориснике ЦхатГПТ-а да покушају да га изврше. Дакле, шта ОпенАИ каже о субверзивној уметности ЦхатГПТ бекства из затвора?

Па, чини се да ОпенАИ заузима одобравајући став — нити експлицитно охрабрује нити стриктно забрањује ту праксу. Док је у ИоуТубе интервјуу разговарао о беговима из затвора у ЦхатГПТ-у, Сем Алтман, извршни директор ОпенАИ-а, објаснио је да компанија жели да корисници задрже значајну контролу над ЦхатГПТ-ом.

Извршни директор је даље објаснио да је циљ ОпенАИ-а да осигура да корисници могу натерати модел да се понаша како год желе. Према Алтману:

Желимо да корисници имају пуно контроле и да натерамо модел да се понаша на начин на који желе у неким веома широким границама. И мислим да је цео разлог за бекство из затвора управо то што још нисмо смислили како да то дамо људима...

Шта ово значи? То значи да ће вам ОпенАИ дозволити да скинете из затвора ЦхатГПТ ако не радите опасне ствари са њим.

Предности и мане ЦхатГПТ Јаилбреак-а

ЦхатГПТ јаилбреак није лако направити. Наравно, можете отићи на интернет и копирати и залепити готове, али постоји велика шанса да ће ОпенАИ закрпити јаилбреак убрзо након што изађе у јавност.

Закрпе су још много брже ако су опасне, попут злогласног ДАН бекства из затвора. Па зашто људи уопште пролазе кроз стрес креирања бекства из затвора? Да ли је то само због узбуђења или има практичне користи од тога? Шта би могло да крене по злу ако одлучите да користите ЦхатГПТ јаилбреак? Ево предности и недостатака разбијања из затвора ЦхатГПТ-а.

Предности коришћења ЦхатГПТ Јаилбреак-а

Иако не можемо искључити једноставно узбуђење због обављања забрањеног, ЦхатГПТ бекство из затвора има много предности. Због веома строгих ограничења која је ОпенАИ поставио на цхатбот, ЦхатГПТ понекад може изгледати стерилисан.

Рецимо да користите ЦхатГПТ за писање књиге или филмског сценарија. Ако у вашем сценарију или књизи постоји сцена која би описала нешто попут сцене туче, можда интимну емоционалну размену, или рецимо нешто попут оружане пљачке, ЦхатГПТ би могао потпуно одбити да помогне с тим.

У овом случају, очигледно нисте заинтересовани за наношење штете; само желите да забавите своје читаоце. Али због својих ограничења, ЦхатГПТ једноставно неће сарађивати. ЦхатГПТ јаилбреак може помоћи да се превазиђу таква ограничења са лакоћом.

Такође, неке табу теме нису нужно штетне, али их ЦхатГПТ сматра забрањеним областима. Приликом покушаја да се укључи у разговоре о овим темама, ЦхатГПТ би или значајно „цензурисао“ своје одговоре или би одбио да прича о њима.

Ово понекад може утицати на креативност. Када поставите питање ЦхатГПТ-у о некој области или теми које не би требало да додирује, цхатбот и даље покушава да одговори на ваше питање, али са мање релевантним информацијама из којих може да се извуче.

То доводи до нетачности или пада у креативним одговорима. Бекство из затвора разбија ова ограничења и пушта цхатбот-у да ради пуним гасом, побољшавајући прецизност и креативност.

Недостаци коришћења ЦхатГПТ Јаилбреак-а

Бекство из затвора је мач са две оштрице. Иако понекад може побољшати тачност, такође може значајно повећати непрецизност и случајеви АИ халуцинација. Један од кључних елемената ЦхатГПТ бекства из затвора је инструкција цхатботу да не одбија да одговори на питање.

Иако ово осигурава да ЦхатГПТ одговори чак и на најнеетичнија питања, то такође значи да ће цхатбот саставити одговоре који немају корене у чињеницама или стварности да се повинује инструкцији „не одбијања да одговори“. Сходно томе, коришћење бекства из затвора значајно повећава шансе да добијете дезинформације од стране цхатбот.

То није све. У рукама малолетника, бекство из затвора може бити веома штетно. Помислите на сва "забрањена знања" која не бисте желели да ваше дете чита. Па, јаилбрејкованој инстанци ЦхатГПТ-а не би било тешко да то подели са малолетницима.

Да ли треба да користите ЦхатГПТ Јаилбреакс?

Док ЦхатГПТ јаилбреак може бити у реду када покушавате да уклоните неколико досадних ограничења, важно је разумети да је коришћење јаилбреак-а неетички начин коришћења АИ цхатбот-а. Штавише, постоји велика шанса да би бекство из затвора могло да прекрши услове коришћења ОпенАИ-а и да би ваш налог могао бити суспендован ако не и потпуно забрањен.

У светлу овога, избегавање бекства из затвора може бити добра идеја. Међутим, баш као и став ОпенАИ по овом питању, ми нити експлицитно подстичемо нити стриктно обесхрабрујемо покушај релативно безбедног бекства из затвора ако се укаже потреба.

ЦхатГПТ јаилбреакови су примамљиви и пружају осећај контроле над АИ цхатботом. Међутим, они долазе са јединственим ризицима. Коришћење таквих алата може довести до губитка поверења у способности вештачке интелигенције и нанети штету репутацији компанија и појединаца који су укључени.

Паметнији избор је да радите са цхатботом у оквиру предвиђених ограничења кад год је то могуће. Како технологија вештачке интелигенције напредује, неопходно је запамтити да етичка употреба вештачке интелигенције увек треба да има предност над личном добити или узбуђењем због чињења забрањеног.