Мицрософт је окренуо свој алат за процену сигурносног ризика АИ, Цоунтерфит, отвореног кода, омогућавајући свима да бесплатно почну да користе алатку. Тренутно организације могу да користе Цоунтерфит за аутоматизацију процене безбедносног ризика, осигуравајући да заштита коју користе буде до темеља.
Мицрософт је првобитно развио Цоунтерфит као интерни алат који може брзо да процени безбедност АИ и система за машинско учење. Започео је живот као колекција скрипти, пре него што се брзо претворио у генеричку аутоматизацију интелигенције коју оператер може користити за „напад вишеструких система интелигенције“ одједном.
Мицрософт сада редовно користи Цоунтерфит као основни алат у њиховим активностима АИ црвеног тима. Како је Цоунтерфит агностик окружења, модела и података, алат може пружити прецизну процену без импедансе.
Сам алат је дизајниран за употребу од стране стручњака за безбедност. Цоунтерфит користи сличне токове рада као и други популарни алати црвеног тима као што су Метасплоит или ПоверСхелл Емпире, уз опсежну подршку за скриптовање, унапред учитани алгоритми напада, скенирање рањивости, напредно евидентирање и још много тога, којима се приступа кроз командну линију.
Мицрософт је интензивно сарађивао са безбедносним професионалцима и великим организацијама да би и Цоунтерфит боље развио. На Блог Мицрософт Сецурити, Матилда Рходе, виши истраживач кибернетичке сигурности, Аирбус, рекла је:
АИ се све више користи у индустрији; Витално је гледати унапред како бисмо осигурали ову технологију, посебно да бисмо разумели где се напади на свемирски простор могу реализовати у проблематичном простору. Објављивање алата отвореног кода из организације као што је Мицрософт за процену практичара безбедности сигурност АИ система је и добродошла и јасан показатељ да индустрија узима овај проблем озбиљно.
Можете пронаћи опен-соурце Мицрософт Цоунтерфит на њиховом званичном ГитХуб-у.
Повезан: Послове за које никада нисте знали обављао је АИ
Зашто је Цоунтерфит користан?
Чак и за компанију величине Мицрософта, испуњавање ефикасних сигурносних процена није лако, посебно када су те компаније огромни лидери Фортуне 500, владе, непрофитне организације и још много тога. Претходна Мицрософтова студија открила је да велики број предузећа не може тачно да тестира своје системе интелигенције.
Открили смо да је 25 од 28 предузећа навело да нема праве алате за заштиту својих система интелигенције и да стручњаци за безбедност траже специфична упутства у овом простору.
Цоунтерфит олакшава довршавање тих процена, аутоматизујући процес анализе и тестирања.
Повезан: Начини на које можете да користите АИ технологију за побољшање свог пословања
Даље, недавно објављено Гартнерова студија усвајање АИ заштите је наведено као једна од најважнијих мера безбедности коју компанија може предузети да би побољшала заштиту. Иста студија забележила је да ће „до 2024. године организације које примењују наменске контроле управљања ризиком вештачке интелигенције успешно избегавати негативне исходе уметничке интелигенције двоструко чешће од оних које то не чине“.
Укратко, Цоунтерфит који постаје алат за процену безбедности АИ отвореног кода требало би да помогне да се свет учини мало сигурнијим местом.
Да ли ваша следећа претплата на антивирус треба да садржи вештачку интелигенцију или је то само још једна безбедносна модна реч?
Прочитајте следеће
- Сигурност
- Тецх Невс
- Отвореног кода
- Циберсецурити
Гавин је млађи уредник за Виндовс и објашњене технологије, редовни сарадник Стварно корисног подцаста и био је уредник за сестринску веб страницу МакеУсеОф, фокусирану на крипто, Блоцкс Децодед. Има БА (одликовање) савремено писање са дигиталним уметничким праксама које су отете са брда Девона, као и више од деценије професионалног писменог искуства. Ужива у обилним количинама чаја, друштвеним играма и фудбалу.
Претплатите се на наш билтен
Придружите се нашем билтену за техничке савете, прегледе, бесплатне е-књиге и ексклузивне понуде!
Још један корак…!
Молимо потврдите своју адресу е-поште у е-поруци коју смо вам управо послали.
