Када су у питању друштвени медији, сви знамо да поред многих предности које пружају у стварању веза лакше, могу постојати и одређени ризици и опасности које носи интеракција на мрежи, посебно за младе. Срећом, постоје апликације које су проактивне и покушавају да ограниче ове штете које могу доћи младим људима применом одговарајућих технологија модерирања.
Иубо, апликација за друштвено откривање уживо коју највише користи генерација З, најавила је модерирање звука уживо технологија се шири на своја највећа тржишта, наиме Сједињене Државе, Уједињено Краљевство, Аустралију и Канада.
Ово долази након неколико месеци тестирања ове функције у неким деловима Сједињених Држава, пошто је компанија научила како да се позабави проблемима који долазе са анализом звука у реалном времену.
Важност модерирања садржаја
Модерирање садржаја на мрежи је тежак посао. То смо видели на Фејсбуку, Твиттеру и Инстаграму и тако даље. Између увреда, коментара мржње, или чак понекад насиља или самоповређивања, умереност је изузетно важна како би ове платформе биле безбедне, а њихови корисници заштићени. Постоји нешто у томе да можете да се сакријете иза наводне анонимности коју нуди интернет, што може извући најгоре код неких људи.
Па, Иубо наставља да показује да чини све што може да спречи ово, посебно зато што је његова корисничка база много млађа. Према Иубо-у, 99% њихове корисничке базе је генерација З од 13-25 година. Иако узнемиравање на мрежи није лепо за било кога, оно може бити посебно штетно за тинејџере.
Технологија модерирања слика и видеа постоји већ неко време и имплементирана је са различитим фазама успеха. Аудио модерација, међутим, и даље је велики изазов, посебно са стримовима уживо. Без обзира да ли се ради о стримингу уживо док шетате улицом или о оном где неко игра видео игрицу, није битно.
Како функционише Иубо аудио модерирање
Почевши од маја 2022. године, Иубо је започео пробну фазу за своју технологију модерирања звука у различитим областима широм Сједињених Држава. Сада следећа фаза укључује већину региона у којима се говори енглески језик у којима Иубо има велику базу корисника како би омогућио компанији да прикупи бољи увид у свој нови безбедносни алат.
Иако је још увек нова, ово је технологија која би се у будућности могла широко користити за откривање насиља или самоповређивања.
Иубо не ради све ово сам, већ у партнерству са Хиве-ом. Хиве, ако нисте чули за њих, је компанија која креира и обезбеђује АПИ-је за модерирање садржаја за обраду слика и видео записа у скоро реалном времену.
Технологија коју је Иубо имплементирао ради тако што снима и транскрибује 10-секундне исечке звука у стримингу уживо од 10 или више људи. Вештачка интелигенција одмах анализира текст како би открила све речи или фразе које крше правила апликације Смернице заједнице.
Чекај, не стаје овде. Иако вештачка интелигенција може бити одлична у откривању таквих ствари, још увек је далеко од тачке у којој може да разликује стварне проблематичне употребе и лажне заставице.
Лажне заставице могу бити, на пример, песме које свирају у позадини или разиграни језик који није злонамеран.
Дакле, овде на сцену ступају Иубо-ови стручњаци за безбедност, који су доведени да истраже обележене инциденте. Људи су ти који одлучују да ли ситуација захтева ескалацију или не ако постоје акције то би требало предузети против људи који користе лош језик, или чак и ако треба да се доведу органи за спровођење закона ин.
Ако је стрим уживо сасвим у реду, транскрипти се не прегледавају нити чувају преко ограничења од 24 сата, тако да све остаје приватно; или приватно као што може бити стрим уживо са преко 10 људи.
Међутим, ако алгоритми открију насилне претње, говор мржње или самоповређивање, на пример, транскрипти се чувају до годину дана. Ово је, наравно, безбедносна мера за компанију у случају да примена закона захтева информације или су самој компанији потребни детаљи за даље интерне истраге.
Главни оперативни директор компаније Иубо, Марц-Антоине Дуранд, види проширење аудио модерација технологија као кључни елемент у еволуцији онлајн безбедности у читавој индустрији.
„Има још много напретка у области детекције гласа, али ми смо поносни што стварамо пут нашим колегама бити први који је покренуо аудио модерацију са Хиве-ом и помогао да овај алат постане поузданији и ефикаснији кроз ово пробно раздобље“, Дуранд рекао.
Очигледно је да друштвене платформе не желе масовно малтретирање, говор мржње и коментаре који подстичу насиље јер би то одгурнуло друге кориснике. Примена такве технологије модерирања је одличан алат за безбедност корисника, а такође и за гарантовање Иубо-овог раста и успеха на дуге стазе.