3 Ризици и забринутости за приватност цхатбот-а о којима треба да знате

Чет-ботови постоје већ годинама, али успон великих језичких модела, као што су ЦхатГПТ и Гоогле Бард, дао је индустрији цхатбот-а нови живот.

Милиони људи сада користе АИ цхат ботове широм света, али постоје неки важни ризици и бриге за приватност које треба имати на уму ако желите да испробате један од ових алата.

1. Прикупљање података

Већина људи не користи цхат ботове само да би се поздравили. Модерни цхат ботови су дизајнирани да обрађују и одговарају на сложена питања и захтеве, при чему корисници често укључују много информација у своје упите. Чак и ако постављате само једноставно питање, не желите да оно иде даље од вашег разговора.

Према ОпенАИ одељак за подршку, можете да избришете ЦхатГПТ евиденције ћаскања кад год пожелите, а ти дневники ће тада бити трајно избрисани из ОпенАИ система након 30 дана. Међутим, компанија ће задржати и прегледати одређене евиденције ћаскања ако су означени због штетног или неприкладног садржаја.

Још један популарни АИ цхатбот, Цлауде, такође прати ваше претходне разговоре. Антхропиц-ов центар за подршку наводи да Клод прати „ваше упите и излазе у производу како би вам пружио конзистентно искуство производа током времена у складу са вашим контролама“. ти може да избрише ваше разговоре са Клодом, тако да заборави о чему сте причали, али то не значи да ће Антхропиц одмах избрисати ваше дневнике са свог система.

Ово, наравно, поставља питање: да ли се моји подаци чувају или не? Да ли ЦхатГПТ или други цхат ботови користе моје податке?

Али бриге не престају овде.

Како ЦхатГПТ учи?

Да би се пружиле информације, велики језички модели се обучавају са огромним количинама података. Према Научни фокус, само ЦхатГПТ-4 је добио 300 милијарди речи информација током периода обуке. Ово није преузето директно из неколико енциклопедија. Уместо тога, програмери цхатбот-а користе масу информација са интернета за обуку својих модела. Ово може укључивати податке из књига, филмова, чланака, уноса на Википедији, постова на блоговима, коментара, па чак и са сајтова за рецензије.

Имајте на уму да, у зависности од политике приватности програмера цхатбот-а, неки од горе наведених извора можда неће бити коришћени у обуци.

Многи су критиковали ЦхатГПТ, тврдећи да је то нешто као ноћна мора у смислу приватности, ЦхатГПТ се не може веровати. Па, зашто је то случај?

Овде ствари постају мало мутне. Ако директно питате ЦхатГПТ-3.5 да ли има приступ рецензијама производа или коментарима на чланак, добићете чврст негатив. Као што можете видети на слици испод, ГПТ-3.5 наводи да му није дат приступ коментарима на чланке корисника или рецензијама производа током обуке.

Уместо тога, обучавано је коришћењем „различитих текстова са интернета, укључујући веб странице, књиге, чланке и други јавно доступан писани материјал до септембра 2021.

Али да ли је исти случај и са ГПТ-4?

Када смо питали ГПТ-4, речено нам је да „ОпенАИ није користио специфичне корисничке рецензије, личне податке или коментаре чланака“ у периоду обуке четбота. Поред тога, ГПТ-4 нам је рекао да су његови одговори генерисани на основу „обрасци у подацима на којима је [за] обучен, а који се првенствено састоје од књига, чланака и другог текста са интернета“.

Када смо даље истраживали, ГПТ-4 је тврдио да одређени садржај друштвених медија може, заиста, бити укључен у његове податке о обуци, али ће креатори увек остати анонимни. ГПТ-4 је посебно навео да „Чак и ако је садржај са платформи као што је Реддит био део података о обуци, [нема] приступ одређеним коментарима, објавама или било којим подацима који се могу повезати назад са појединцем корисник."

Још један значајан део одговора ГПТ-4 је следећи: „ОпенАИ није експлицитно навео сваки извор података који се користи“. Оф Наравно, било би тешко за ОпенАИ да наведе изворе вредне 300 милијарди речи, али то оставља простор за нагађања.

У ан Арс Тецхница чланак, наведено је да ЦхатГПТ прикупља „личне податке добијене без сагласности“. У истом чланку, поменут је контекстуални интегритет, концепт који се односи само на коришћење нечијих информација у контексту у којем је то било првобитно коришћен. Ако ЦхатГПТ наруши овај контекстуални интегритет, подаци људи могу бити угрожени.

Још једна ствар која изазива забринутост је усклађеност ОпенАИ са Општа уредба о заштити података (ГДПР). Ово је пропис који спроводи Европска унија у циљу заштите података грађана. Различите европске земље, укључујући Италију и Пољску, покренуле су истраге о ЦхатГПТ-у због забринутости око његове усклађености са ГДПР-ом. За кратко време, ЦхатГПТ је чак био забрањен у Италији због бриге о приватности.

ОпенАИ је у прошлости претио да ће се повући из ЕУ због планираних АИ прописа, али је то од тада повучено.

ЦхатГПТ је можда највећи АИ цхатбот данас, али проблеми приватности цхатбот-а не почињу и не завршавају се код овог провајдера. Ако користите сумњивог цхат бота са нејасном политиком приватности, ваши разговори могу бити злоупотребљени или се могу користити веома осетљиве информације у подацима о обуци.

2. Крађа података

Као и сваки онлајн алат или платформа, цхат ботови су рањиви на сајбер криминал. Чак и ако је цхатбот учинио све што је могао да заштити кориснике и њихове податке, увек постоји шанса да ће паметан хакер успети да се инфилтрира у његове унутрашње системе.

Ако је дата услуга цхатбот-а чувала ваше осетљиве информације, као што су детаљи о плаћању за вашу премију претплату, контакт податке или слично, ово би могло бити украдено и искоришћено ако би дошло до сајбер напада јављају.

Ово је посебно тачно ако користите мање безбедни цхат бот чији програмери нису уложили у адекватну безбедносну заштиту. Не само да би интерни системи компаније могли бити хаковани, већ и ваш налог има шансу да буде компромитован ако нема упозорења за пријаву или слој за аутентификацију.

Сада када су АИ цхатботови толико популарни, сајбер криминалци су природно почели да користе ову индустрију за своје преваре. Лажне ЦхатГПТ веб локације и додаци су велики проблем откако је ОпенАИ-ов цхат бот постао популаран у крајем 2022. године, када људи падају на преваре и одају личне податке под маском легитимности и поверење.

У марту 2023. МУО је известио о а лажна ЦхатГПТ Цхроме екстензија која краде Фацебоок пријаве. Додатак би могао да искористи бацкдоор Фацебоок-а за хаковање налога високог профила и крађу корисничких колачића. Ово је само један пример бројних лажних ЦхатГПТ услуга дизајнираних да преваре непознате жртве.

3. Инфекција злонамерним софтвером

Ако користите сумњиви цхат бот, а да тога нисте свесни, можда ћете пронаћи бот за ћаскање који вам пружа везе до злонамерних веб локација. Можда вас је цхатбот упозорио на примамљиву наградну игру или дао извор за једну од својих изјава. Ако оператери услуге имају недозвољене намере, цела поента платформе може бити у ширењу злонамерног софтвера и превара путем злонамерних веза.

Алтернативно, хакери могу угрозити легитимну услугу цхатбот и користити је за ширење злонамерног софтвера. Ако се деси да је овај цхатбот веома људи, онда ће хиљаде, или чак милиони корисника бити изложени овом малверу. Лажне ЦхатГПТ апликације су чак биле и у Аппле Апп Сторе-у, па је најбоље да газите пажљиво.

Уопштено говорећи, никада не би требало да кликнете на било коју везу коју вам је цхатбот пружио раније покренути га преко веб локације за проверу веза. Ово може изгледати иритантно, али увек је најбоље да се уверите да сајт на који вас води нема злонамерни дизајн.

Поред тога, никада не би требало да инсталирате никакве додатке и екстензије за цхат бот а да претходно не проверите њихову легитимност. Урадите мало истраживање око апликације да видите да ли је добро прегледана, а такође покрените претрагу програмера апликације да бисте видели да ли сте пронашли нешто нејасно.

Цхатботови нису отпорни на проблеме приватности

Као и већина данашњих онлајн алата, цхат ботови су више пута критиковани због могућих замки у погледу безбедности и приватности. Без обзира да ли се ради о провајдеру чет-ботова који искључује углове када је у питању безбедност корисника или о сталним ризицима од сајбер напада и превара, кључно је да знате шта ваш цхатбот прикупља од вас и да ли користи одговарајућу безбедност Мере.