Твиттер открио да је одустао од АИ обрезивања због пристрасности расе и пола

Први пут смо чули да је Твиттер-ов алгоритам за исецање слика можда имао пристраности у септембру 2020. године. Инжењер криптографије Тони Арциери отпремио је две слике на којима су лидер већине у сенату Митцх МцЦоннелл и бивши председник Барацк Обама, а АИ је оба пута обрезана на МцЦоннелл-овом лицу.

Када је контроверза на крају дошла до људи на Твиттеру, компанија је обећала да ће анализирати свој модел. Коначно, морамо прочитати те налазе.

Твиттер дели резултате своје анализе алгоритма

Почетком маја, Твиттер је коначно представио прегледе слика у пуној величини на својим мобилним роковима. Објава на блогу Твиттер открила је да је апликација применила свој алгоритам за обрезивање слике након што је анализа показала да има пристрасности на основу расе и пола.

Платформа је почела да користи алгоритам истакнутости 2018. за обрезивање својих слика. Твиттер каже да се модели издвајања обучавају на подацима о људском праћењу ока, које затим користи алгоритам за процену за које субјекте / елементе на слици сматра да ће за њих највероватније бити најважнији људи.

Тада би алгоритам смислио оцену видљивости за све делове слике пре него што изабере тачку са највишим резултатом која ће бити центар обрезивања.

Након спровођења квантитативног теста за проверу потенцијалних пристрасности, тим је открио да се чини да алгоритам издвојености фаворизује жене у односу на мушкарце, а беле особе у односу на црнце.

Твиттер је такође тестирао алгоритам за „мушки поглед“, али није пронађен ниједан доказ пристрасности објективизације.

Чак и ако је алгоритам издвојености прилагођен тако да одражава савршену једнакост међу расним и полним подгрупама, ми [Твиттер] смо забринути представљањем штете аутоматизованог алгоритма када људима није дозвољено да се представљају како желе на платформа. Издржљивост такође има и друге потенцијалне штете изван опсега ове анализе, укључујући неосетљивост на културне нијансе.

Разматрајући компромисе између брзине и доследности аутоматизованог усева и његових ризика, Твиттер каже да је његов тим схватио да је начин обрезивања слике одлука коју људи најбоље доносе - не алгоритми.

Повезан: Технолошки трендови који већ мењају будућност

Твиттер се решава аутоматског обрезивања слика

Твиттер више не користи алгоритам истакнутости и сада у потпуности приказује фотографије стандардног пропорција на иОС-у и Андроид-у. Када израђујете твеет, открићете да ново ажурирање такође укључује истински преглед отпремљених слика, тако да знате како ће све изгледати након објављивања.

Ако сте заинтересовани за читање академског рада студије, можете га пронаћи на арКсив.орг. Такође можете пронаћи Твиттер-ов код за анализу ГитХуб.

Како да отпремате и прегледате 4К слике на Твиттер-у

Апликација Твиттер вам сада омогућава отпремање и преглед слика у 4К. Ево како да промените подешавања.

Прочитајте следеће

О аутору