Данас се милиони ослањају на ЦхатГПТ као на користан ресурс, било да се ради о послу, забави или образовању. Али можете ли се ослонити на овај АИ цхатбот да увек пружа чињенице? Да ли ЦхатГПТ икада лаже или ће вам дати само чињеничне информације?
Одакле ЦхатГПТ добија информације?
Током свог периода обуке, ЦхатГПТ је добијао податке из извора широм веба, као што су веб странице владе и агенција, научни часописи, студије, новински чланци, подкасти, онлајн форуми, књиге, базе података, филмови, документарни филмови и друштвене мреже медија.
Конкретно, ЦхатГПТ-3 је обучен користећи опсежну базу података која је износила 570 ГБ података. Како је наведено у чланку из Научни фокус, 300 милијарди речи информација је унето у ГПТ-3 систем током његовог развоја.
Нешто што је вредно напоменути овде је да је ЦхатГПТ добијао само податке који су постојали пре 2021. То значи да цхатбот не може да одговори на питања која се односе на недавне догађаје. ЦхатГПТ такође нема приступ интернету. Подаци које су унети током обуке једина су врста коју користи да испуни корисничке упите.
Али да ли вам ЦхатГПТ пружа само чињенице или су неке нејасније информације помешане са његовим одговорима? Поред тога, може ли ЦхатГПТ да вас лаже?
Да ли ЦхатГПТ лаже?
Иако ЦхатГПТ често пружа истините информације корисницима, он има способност да „лаже“. Наравно, ЦхатГПТ не одлучује да злонамерно лаже кориснике, јер то једноставно не може. На крају крајева, ЦхатГПТ је алатка за обраду језика, а не имитација праве, осећајне особе.
Међутим, ЦхатГПТ технички још увек може да лаже кроз феномен познат као АИ халуцинација.
АИ халуцинације укључује систем вештачке интелигенције који пружа информације које изгледају разумно или уверљиво, али у стварности уопште нису истините. У ствари, АИ халуцинација може пружити информацију да никада није храњена током периода обуке. Алтернативно, може се десити када систем вештачке интелигенције пружи информације које нису повезане са упитом или захтевом. Систем вештачке интелигенције може чак тврдити да је човек у халуцинационом догађају.
Системи вештачке интелигенције, као што су чет-ботови, падају у замку халуцинација из неколико разлога: недостатак разумевања у стварном свету, грешке у софтверу и ограничења у датим подацима.
Као што је раније речено, ЦхатГПТ може да пружи информације само користећи податке објављене до 2021. године, што свакако ограничава које врсте упита може да испуни.
Један од Велики проблеми ЦхатГПТ-а је да такође може постати жртва пристрасности када корисницима даје информације. Чак су и креатори ЦхатГПТ-а изјавили да је систем вештачке интелигенције у прошлости био „политички пристрасан, увредљив“ и „иначе непожељан“. Како је известио Независни, програмери ЦхатГПТ-а су посвећени решавању овог проблема, али то не значи да више не представља ризик.
На питање, ЦхатГПТ је навео да разлози због којих може пружити нетачне информације укључују следеће:
- Двосмисленост у питању (нејасна, нејасна упутства);
- Непотпуне информације дате;
- Пристрасне или нетачне информације; или,
- Техничка ограничења (углавном због недостатка приступа актуелним подацима).
Дакле, сам ЦхатГПТ је навео да постоје сценарији у којима неће пружити тачне информације корисницима.
У другом одговору у истом разговору, ЦхатГПТ је навео да је „увек добра идеја да проверите било коју информацију [која пружа] са другим изворима“.
Можете ли веровати ЦхатГПТ-у?
Зато што може да пружи лажне информације, јасно не може да верује ЦхатГПТ-у 100% времена.
Можете да смањите ризик да АИ цхатбот халуцинира постављањем специфичних параметара о томе како може да вам одговори. Међутим, још увек нема гаранције да неке лажне информације неће проћи кроз пукотине.
Због тога је најбоље да проверите све информације које вам ЦхатГПТ даје, посебно ако тражите информације о недавним догађајима. Двострука провера ових података позивањем на друге изворе може вам помоћи да утврдите да ли је ЦхатГПТ у праву у ономе што говори и може вас спречити у доношењу непромишљених одлука.
ЦхатГПТ је користан, али није увек истинит
Нажалост, не можете се ослонити на ЦхатГПТ да пружи истините, непристрасне информације 100% времена. Овај цхатбот са АИ-ом је неоспорно од помоћи и може вам помоћи на различите начине, али увек вреди проверити да ли су информације које пружа тачне.