Како хакери користе генеративну вештачку интелигенцију у својим нападима и шта можемо да урадимо у вези са тим

Генеративна вештачка интелигенција (АИ) је у последње време у центру пажње. ЦхатГПТ који покреће АИ и други системи који подржавају обраду природног језика, као што је ВАЛЛ-Е, донели су генеративну вештачку интелигенцију широј јавности и ослободили њене предности и штетне ефекте.

Једна од кључних брига у вези са генеративном вештачком интелигенцијом је чињеница да се може користити за надоградњу злонамерних експлоатација и измишљање софистициранијих сајбер напада. Дакле, како хакери користе генеративну вештачку интелигенцију у својим нападима и шта то значи за будућност сајбер безбедности?

Шта је генеративна АИ и како функционише?

Као што му име говори, генеративна АИ је врста вештачке интелигенције која је способна да генерише нови садржај — слике, текст, аудио и синтетичке податке.

Један познати пример је ЦхатГПТ, чет-бот са вештачком интелигенцијом са којим можете да водите разговоре попут људи и добијте неке одличне препоруке за филмове - то је ако не можете да смислите значајнију мисију да пошаљете ЦхатГПТ на.

Дозволите нам да вам дамо идеју или две - могли бисте натерајте ЦхатГПТ да напише све те тешке е-поруке за вас, примењивати ЦхатГПТ као алат за превођење, и чак претворите ЦхатГПТ у свог помоћника за планирање здравог оброка. Све у свему, за неколико секунди, овај цхатбот може да смисли наизглед нов, уверљив садржај и да га представи на прилично политички коректан начин.

Међутим, генеративна АИ још увек не може бити креативна на начин на који то може човек. То је зато што користи ненадзиране и полу-надзиране алгоритме машинског учења за обраду ужасне количине података и генерисање прилагођених излаза.

На пример, ако желите да наручите слику налик Пикасу од генеративног АИ као што је ДАЛЛ-Е 2, мораћете да откуцате ваш опис у одређеном пољу – рецимо „Пикасова Герника, али са мачићима“ – и задржите се неколико секунди. За то време, АИ ће применити све специфичне особине уметниковог стила које је раније научио, додај мачићи за добру меру, и смислите нешто оригинално - добили смо ту слику коју можете мало да видите изнад.

Како хакери користе генеративну вештачку интелигенцију у својим нападима?

Лоше момке су увек привлачили добри алгоритми. Стога није изненађење што користе генеративну вештачку интелигенцију да појачају своје нападе. Коришћењем МЛ метода као што су учење са појачањем и генеративне супарничке мреже, сајбер криминалци могу смислити нове, софистицираније сајбер нападе који могу пробити стандард сајбер одбрана.

Један пример ове перверзије је ОпенАИ-јев „најбољи“ цхатбот, ас Сајбер криминалци користе ЦхатГПТ за писање малвера. У почетку је ЦхатГПТ изгледао као забава и игре, али сада је изложен као једна од главних претњи безбедности и приватности. Ако волите да ћаскате са ЦхатГПТ-ом, паметно је пазити на ствари које би сајбер криминалци могли да ураде са ЦхатГПТ-ом.

Укратко, ЦхатГПТ и други генеративни АИ алати су олакшали живот сајбер криминалцима и тежим тимовима за безбедност. Неки од начина на које актери сајбер претњи користе вештачку интелигенцију у својим нападима укључују:

• Прављење бољег, софистициранијег малвера: У рукама хакера, генеративна вештачка интелигенција може да се користи за генерисање врста малвера које је тешко открити и за извођење напада. У комбинацији са АИ моделима, злонамерни софтвер може да прикрије своју намеру док не испуни своју лошу сврху.
• Писање персонализованих порука е-поште за крађу идентитета помоћу вештачке интелигенције: Уз помоћ генеративне вештачке интелигенције, пхисхинг е-поруке више немају знакове преваре – као што су лош правопис, лоша граматика и недостатак контекста. Осим тога, са вештачком интелигенцијом као што је ЦхатГПТ, актери претњи могу покренути пхисхинг нападе брзином и размером без преседана.
• Генерисање дубоких лажних података: Пошто може да створи убедљиве имитације људских активности — попут писања, говора и слике—генеративна АИ се може користити у лажним активностима као што су крађа идентитета, финансијска превара и дезинформације.
• Разбијање ЦАПТЦХА и погађање лозинке: Користе се од стране сајтова и мрежа за уклањање ботова који траже неовлашћени приступ, хакери сада могу да заобиђу ЦАПТЦХА. Користећи МЛ, они такође могу да испуне друге задатке који се понављају као што су погађање лозинке и напади грубом силом.
• Саботирање МЛ у откривању сајбер претњи: Ако је сигурносни систем претрпан са превише лажних позитивних резултата, хакер га може изненадити правим сајбер нападом.

Како се можемо борити против генеративне АИ претње?

Како сајбер напади постану софистициранији, а њихове последице озбиљније, традиционални безбедносни системи ће се претворити у ствари из прошлог времена. Са способношћу да учи из претходних напада и прилагођава се, АИ је непроцењива предност и за сајбер криминалце и за њихове противнике.

Употреба вештачке интелигенције у сајбер безбедности има неке озбиљне предности као што су брже откривање претњи, идентификација претњи и реаговање на претње—тако да се гашење ватре ватром чини као прави одговор. Пре него што сајбер криминалци науче како да поднесу разорне ударце појединцима и компанијама широм света свету, професионалци за сајбер безбедност морају да науче своје системе засноване на вештачкој интелигенцији да се заштите од ових напада.

Међутим, није све до АИ. На крају крајева, такође можемо да ојачамо сопствену безбедност и приватност помоћу испробаних метода као што су вишефакторска аутентификација (МФА), биометријска технологија, коришћење менаџера лозинки, коришћење најбоље шифроване алате за сарадњу, и добар, стари здрав разум.

Борба против вештачке интелигенције са вештачком интелигенцијом

Дакле, да ли ћемо у блиској будућности бити сведоци ратова АИ за сајбер безбедност? Па, надамо се да неће. Међутим, како вештачка интелигенција наставља да напредује и постаје доступна свима — и сајбер криминалцима и професионалцима за сајбер безбедност — улога вештачке интелигенције и МЛ ће постати већа у годинама које долазе.