Зашто је Аппле одустао од своје функције скенирања фотографија?

У августу 2021, Аппле је открио своје планове да скенира иПхоне -ове слике сексуалног злостављања деце. Овај потез изазвао је аплауз група за заштиту деце, али је изазвао забринутост стручњака за приватност и безбедност да би се ова функција могла злоупотребити.

Аппле је првобитно планирао да у иОС 15 укључи технологију скенирања материјала за сексуално злостављање деце (ЦСАМ); уместо тога је на неодређено време одложило увођење функције да би потражило повратне информације пре њеног пуштања.

Па зашто је функција откривања ЦСАМ -а постала предмет жестоке расправе и шта је Аппле натерало да одложи увођење?

Чему служи Аппле-ова функција скенирања фотографија?

Аппле је најавио да ће имплементирати функцију скенирања фотографија у нади да ће се борити против сексуалног злостављања деце. Све фотографије на уређајима корисника Аппле -а биће скениране за садржај педофилије помоћу алгоритма „НуералХасх“ који је створио Аппле.

Осим тога, сви Аппле уређаји које користе деца имали би сигурносну функцију која ће се аутоматски замаглити слике одраслих ако их прими дете, а корисник би био упозорен два пута ако покуша да их отвори њих.

Осим што смањују изложеност садржају за одрасле, ако родитељи региструју уређаје у власништву своје деце додатну сигурност, родитељи би били обавештени у случају да дете од било кога добије експлицитан садржај онлине.

Опширније: Шта треба да знате о Аппле -овој заштити деце

Што се тиче одраслих који користе Сири да траже било шта што сексуално приказује децу, Сири то неће тражити и уместо тога предложити друге алтернативе.

Подаци са било ког уређаја који садрже 10 или више фотографија које алгоритми сматрају сумњивим биће дешифровани и подвргнути људском прегледу.

Ако се покаже да се те фотографије или било које друге на уређају подударају са било чим из базе података коју пружа Национални центар за несталу и експлоатисану децу, биће пријављен властима и кориснички налог ће бити суспендован.

Главни проблеми у вези са функцијом скенирања фотографија

Функција откривања ЦСАМ -а би постала активна са лансирањем иОС -а 15 у септембру 2021. године, али у лице због општег негодовања, Аппле је одлучио да одвоји више времена за прикупљање повратних информација и побољшање овога одлика. Овде је Пуна изјава компаније Аппле о кашњењу:

„Прошлог месеца смо објавили планове за функције намењене заштити деце од предатора који користите комуникационе алате за њихово регрутовање и експлоатацију и ограничите ширење сексуалног злостављања деце Материјал.

На основу повратних информација купаца, група за заступање, истраживача и других, одлучили смо да узмемо додатно време наредних месеци за прикупљање инпута и побољшања пре објављивања ове критично важне безбедности деце Карактеристике".

Скоро половина забринутости у вези са Апплеовом функцијом скенирања фотографија односи се на приватност; остатак аргумената укључује вероватну нетачност алгоритама и потенцијалну злоупотребу система или његових рупа.

Поделимо га на четири дела.

Потенцијална злоупотреба

Знајући да ће сваки материјал који одговара дечјој порнографији или познатим сликама сексуалног злостављања деце уређај ставити на "сумњиву" листу, може покренути сајбер криминалце.

Они могу намерно бомбардовати особу са неприкладним садржајем путем иМессаге -а, ВхатсАппа или на било који други начин и суспендовати рачун те особе.

Аппле је уверио да корисници могу уложити жалбу у случају да су им рачуни суспендовани због неспоразума.

Инсидер Абусе

Иако је дизајнирана за добронамерне сврхе, ова функција може да се претвори у потпуну катастрофу за одређене људе ако њихови уређаји су регистровани у систем, са или без њиховог знања, од стране рођака заинтересованих за праћење њихове комуникације.

Чак и ако се то не догоди, Аппле је створио бацкдоор како би подаци корисника били доступни на крају дана. Сада је ствар мотивације и одлучности да људи приступе личним подацима других људи.

Повезан: Шта су задња врата и чему служе?

То не само да олакшава велико кршење приватности, већ и отвара пут за увреду, токсичност или контролу рођаци, старатељи, пријатељи, љубавници, старатељи и бивши да додатно нападну нечији лични простор или ограниче њихов слобода.

С једне стране, има за циљ борбу против сексуалног злостављања деце; с друге стране, може се користити за даље одржавање других врста злостављања.

Државни надзор

Аппле се одувек сматрао брендом који више води рачуна о приватности од својих конкурената. Али сада би то могло да уђе у клизав низ потреба да се испуне бескрајни захтеви транспарентности податке о корисницима од стране влада.

Систем који је створио за откривање педофилијског садржаја може се користити за откривање било каквог садржаја на телефонима. То значи да владе са култним менталитетом могу надгледати кориснике на личнијем нивоу ако се дочепају тога.

Опресивно или не, уплитање владе у ваш свакодневни и лични живот може бити узнемирујуће и представља нарушавање ваше приватности. Идеја да се због таквих инвазија морате бринути само ако сте учинили нешто погрешно је погрешно размишљање и не успева да види горе поменуту клизаву падину.

Лажни аларми

Једна од највећих брига употребе алгоритама за упоређивање слика са базом података су лажни аларми. Алгоритми хеширања могу грешком идентификовати две фотографије као подударне чак и када нису исте. Ове грешке, назване „судари“, посебно су алармантне у контексту садржаја о сексуалном злостављању деце.

Истраживачи су открили неколико судара у „НеуралХасх -у“ након што је Аппле најавио да ће користити алгоритам за скенирање слика. Аппле је одговорио на упите о лажним алармима истичући да ће резултат на крају прегледати човек, па људи не морају да брину о томе.

Да ли је Аппле -ова ЦСАМ пауза трајна?

Аппле има много предности и недостатака предложене функције. Сваки од њих је оригиналан и има тежину. Још увек није јасно које би посебне промене Аппле могао да уведе у функцију скенирања ЦСАМ-а како би задовољио своје критичаре.

То би могло ограничити скенирање на дељене иЦлоуд албуме уместо да укључи уређаје корисника. Мало је вероватно да ће Аппле потпуно одустати од ових планова јер компанија обично није склона да попусти у својим плановима.

Међутим, јасно је из широко распрострањене реакције и Аппле -ове суздржаности од својих планова компаније треба да укључе истраживачку заједницу од почетка, посебно за непроверене технологија.

Безбедност на Интернету: 50+ савета за заштиту ваше деце на мрежи

Деца су главна мета мрежних предатора и сајбер насилника. Ови корисни савети могу научити родитеље како да их заштите на мрежи.

Прочитајте следеће

О аутору