Ко у овом тренутку није користио ЦхатГПТ? Забавно је, апсолутно фасцинантно ако вас занима вештачка интелигенција, и бесплатно (за сада).
Иако се обично описује као цхатбот, ЦхатГПТ је много више од тога. Може да генерише копије, објасни сложене теме, делује као преводилац, смишља шале и пише код. Али то такође могу бити наоружани од стране претњи.
Како функционише ЦхатГПТ и зашто је привлачан сајбер криминалцима
ЦхатГПТ (Генеративе Пре-траинед Трансформер) је развијен од стране истраживачке лабораторије за вештачку интелигенцију ОпенАИ, а покренут је у новембру 2022. То је велики језички модел који користи комбинацију надгледаних техника и техника машинског учења за појачавање.
Можда је још важније то што корисници стално фино подешавају и обучавају ЦхатГПТ, који могу да гласају или омаловажавајте његове одговоре, чинећи га још тачнијим и моћнијим, јер сам прикупља податке.
То је оно што ЦхатГПТ разликује од других цхат робота. А ако сте га икада користили, знате да је разлика одмах уочљива: за разлику од других сличних производа, може активно учествују у разговору и извршавају сложене задатке са запањујућом прецизношћу, док испоручују кохерентно и људско одговоре.
Да вам се покаже кратак есеј који је написао човек и онај који је написао ЦхатГПТ, вероватно бисте се мучили да одредите шта је шта. Као пример, ево дела текста који је ЦхатГПТ генерисао када му је речено да напише кратак есеј о Ловцу у житу.
Ово не значи да ЦхатГПТ нема своја ограничења — сасвим сигурно има. Што га више користите, више ћете приметити да је то случај. Колико год моћан, још увек може да се бори са елементарном логиком, прави грешке, дели лажне и обмањујуће информације, погрешно тумачити упутства на комичан начин и бити изманипулисани да нацртају погрешно закључак.
Али моћ ЦхатГПТ-а не лежи у његовој способности да разговара. Уместо тога, лежи у његовом скоро неограниченом капацитету да извршава задатке масовно, ефикасније и много брже него што би то човек могао. Уз праве уносе и команде, и неколико креативних решења, ЦхатГПТ се може претворити у узнемирујуће моћан алат за аутоматизацију.
Имајући то на уму, није тешко замислити како би сајбер криминалац могао да наоружава ЦхатГПТ. Све се своди на проналажење правог метода, његово скалирање и омогућавање вештачкој интелигенцији да изврши што више задатака одједном, са више налога и на неколико уређаја ако је потребно.
5 ствари које би актери претњи могли да ураде са ЦхатГПТ-ом
Већ постоји неколико стварних примера да ЦхатГПТ користе актери претњи, али то је више него је вероватно да је наоружан на више различитих начина, или ће бити у неком тренутку будућност. Ево пет ствари које хакери могу да ураде (и вероватно раде) са ЦхатГПТ-ом.
1. Врите Малваре
Ако ЦхатГПТ може да пише код, може да пише малвер. Нема изненађења. Али ово није само теоријска могућност. У јануару 2023, компанија за сајбер безбедност Цхецк Поинт Ресеарцх открила је да су сајбер криминалци већ користећи ЦхатГПТ за писање малвера—и хвалећи се тиме на подземним форумима.
Глумац претњи који је открио Цхецк Поинт Ресеарцх користио је напредни цхатбот прилично креативно, да поново створи злонамерни софтвер заснован на Питхон-у описан у одређеним истраживачким публикацијама. Када су истраживачи тестирали злонамерни програм, сајбер криминалац је говорио истину: његов малвер који је генерисао ЦхатГПТ урадио је управо оно за шта је био дизајниран.
2. Генеришите е-поруке за пхисхинг
Колико год моћни филтери за нежељену пошту постали, опасни пхисхинг емаилови и даље пролази кроз пукотине, а просечна особа не може много да уради осим да пријави пошиљаоца свом провајдеру. Али постоји много тога што би способан актер претњи могао да уради са мејлинг листом и приступом ЦхатГПТ-у.
Са правим командама и предлозима, ЦхатГПТ може да генерише убедљиве пхисхинг мејлове, потенцијално аутоматизујући процес за актера претње и омогућавајући им да скалирају своје операције.
3. Направите веб-сајтове за преваре
Ако само прогуглате термин „направите веб локацију помоћу ЦхатГПТ-а“, наћи ћете гомилу туторијала који детаљно објашњавају како да то урадите. Иако је ово добра вест за свакога ко жели да направи веб локацију од нуле, то је такође одлична вест за сајбер криминалце. Шта их спречава да користе ЦхатГПТ да направе гомилу сајтова за преваре или одредишних страница за „пецање“?
Могућности су скоро бескрајне. Учесник претњи би могао да клонира постојећу веб локацију помоћу ЦхатГПТ-а, а затим да је измени, направи лажне веб-сајтове за е-трговину, покрене сајт са застрашујућим преварама, и тако даље.
4. Креирајте нежељени садржај
Да бисте поставили лажну веб локацију, покренули страницу на друштвеним медијима за преваре или направили сајт за копирање, потребан вам је садржај — доста тога. И треба да изгледа што је могуће легитимније да би превара успела. Зашто би актер претњи ангажовао писце садржаја или сам писао постове на блогу, када могу само да натерају ЦхатГПТ да то уради уместо њих?
Наравно, веб локација са садржајем генерисаним вештачком интелигенцијом вероватно би била кажњена од стране Гоогле-а прилично брзо и не би се појавила у резултатима претраге, али постоји много различитих начина на које хакер може да промовише веб локацију, пошаље саобраћај на њу и превари људе од њиховог новца или краду њихове личне податке.
5. Ширите дезинформације и лажне вести
Онлине дезинформације су постале велики проблем последњих година. Лажне вести се брзо шире на друштвеним мрежама, а људи који не знају ништа боље често наседају на обмањујуће – а понекад и буквално измишљене – приче. Ово може имати страшне последице у стварном животу и чини се да нико нема појма како да то заустави ширење лажних вести без кршења закона о слободи говора.
Алати као што је ЦхатГПТ могу погоршати овај проблем. Актери претњи који имају приступ софтверу који може да генерише хиљаде лажних вести и постова на друштвеним мрежама сваког дана изгледа као рецепт за катастрофу.
Не верујте нам на реч
Ако нисте убеђени, питали смо ЦхатГПТ како би га сајбер криминалац користио. Чини се да се слаже са суштином овог чланка.
У погрешним рукама, ЦхатГПТ постаје опасан
Може се само замислити шта ће вештачка интелигенција бити способна за пет или 10 година од сада. За сада је најбоље игнорисати узбуђење и панику и рационално проценити ЦхатГПТ.
Као и свака технологија, ЦхатГПТ није ни сам по себи користан ни штетан. Упркос неким недостацима, то је далеко најспособнији цхатбот икада објављен у јавности.