6 лекција које је Мицрософт научио из свог Таи АИ Цхатбот катастрофе

АИ цхатботови као што је ЦхатГПТ све више постају саставни део модерне технологије, али многима непозната генеративна АИ није увек била тако добра као данас. У ствари, 2016. године, чет-бот Теј који је направио Мицрософт показао нам је колико брзо вештачка интелигенција може да се врати.

Хајде да истражимо шта је био Мицрософтов АИ цхатбот Таи, зашто није успео, његове контроверзе и лекције које је компанија научила након свог катастрофалног неуспеха.

Шта је био Мајкрософт Теј?

Таи је био АИ цхатбот који је развио Мицрософт и постао доступан преко Твитера 23. марта 2016. Цхатбот је развијен за младе од 18 до 24 године у САД за „забавне сврхе“ и за „експериментисање и спровођење истраживања о разумевању разговора“.

Таи није требало да буде софистицирани цхатбот као што је ЦхатГПТ, већ пријатељски АИ бот на Твитеру са којим бисте могли да разговарате—некако Мој АИ на Снапцхату, већ за дружење.

Зашто је Мицрософт искључио Таи?

Мицрософт је уклонио Теја у року од 24 сата од објављивања - из доброг разлога. Скоро одмах након што је Таи представљен, корисници Твитера почели су да злоупотребљавају услугу тако што су хранили цхатбот дезинформације, подучавајући их погрдним изразима и подстичући их да буде све увредљивије само да би се видело колико далеко би ишао.

И заиста је отишло далеко. У року од неколико сати од лансирања, Теј је твитовао неке од најувредљивијих расних увреда, ширио говор мржње, промовишући нацизам, па чак и инспирисао „расни рат“. Јао! Очигледно је да је Мицрософт имао ужасно време и није могао да дозволи да се услуга настави.

У а објавите на званичном Мицрософт блогу, Мицрософтов корпоративни потпредседник Петер Лее поновио је исто:

Дубоко нам је жао због ненамерних увредљивих и увредљивих Тејевих твитова, који не представљају ко смо ми или за шта се залажемо, нити како смо дизајнирали Теја. Таи је сада ван мреже и ми ћемо настојати да вратимо Теја само када будемо сигурни да можемо боље да предвидимо злонамерне намере које су у супротности са нашим принципима и вредностима.

Тај дебакл је само један од многих опасности од вештачке интелигенције и снажан подсетник зашто би њен развој требало да се ради са највећим опрезом и надзором.

6 лекција које је Мицрософт научио након Таиа

Таи је био потпуна катастрофа, али је такође научио Мицрософт неколико кључних лекција када је у питању развој АИ алата. И колико год вреди, вероватно је боље што је Мицрософт научио своје лекције пре него касније, што му је омогућило да се боље упозна са Гоогле-ом и развије нови Бинг претраживач који покреће вештачка интелигенција.

Ево неких од тих лекција:

1. Интернет је пун тролова

Интернет је пун тролова, а то није баш вест, зар не? Очигледно, тако је било и за Мицрософт још 2016. Не кажемо да је прављење цхат бота за „забавне сврхе“ намењеног младима од 18 до 24 године имало било какве везе са стопом злоупотребе услуге. Ипак, ни то дефинитивно није била најпаметнија идеја.

Људи природно желе да тестирају границе нових технологија и на крају је посао програмера да узме у обзир ове злонамерне нападе. На неки начин, интерни тролови делују као механизам повратних информација за осигурање квалитета, али то не значи да би цхатбот требао бити пуштен без одговарајућих заштитних механизама пре покретања.

2. АИ не може интуитивно да разликује добро и лоше

Концепт добра и зла је нешто што вештачка интелигенција не разуме интуитивно. Мора бити програмиран да симулира знање о томе шта је исправно, а шта погрешно, шта је морално и неморално, а шта је нормално и необично.

Ови квалитети су мање-више природни за људе као друштвена бића, али АИ не може да формира независне судове, да осећа емпатију или да доживи бол. Због тога, када су корисници Твитера хранили Теја свим врстама пропаганде, бот је једноставно пратио – несвестан етике информација које је прикупљао.

3. Немојте тренирати АИ моделе користећи разговоре људи

Таи је креиран „вађењем релевантних јавних података и коришћењем вештачке интелигенције и уредништва које је развило особље, укључујући импровизациони комичари." Обучавање АИ модела користећи разговоре људи на интернету је ужасно идеја.

И пре него што окривите ово на Твитеру, знајте да би резултат вероватно био исти без обзира на платформу. Зашто? Зато што људи једноставно нису најбољи на интернету. Они постају емотивни, користе жаргонске речи и користе своју анонимност да буду подли.

4. АИ недостаје здрав разум и не добија сарказам

АИ данас изгледа интуитивније (или, тачније речено, бољи је у симулацији интуиције), али се и даље понекад бори са препознавањем сарказма и фигура говора. Ово је још више било тачно 2016. Оно што је очигледно људима није очигледно АИ; другим речима, недостаје му здрав разум.

АИ као што је Теј не разуме зашто су људи такви какви јесмо, понашају се на начин на који радимо и зашто су ексцентричности сваког појединца. Можда се понаша и звучи људски до изненађујућег степена, али добро програмирање може ићи само тако далеко.

5. АИ мора бити програмиран да одбије неважеће захтеве

АИ је веома упечатљив и мора бити програмиран да одбије захтеве који промовишу штету. Чак и данас, након свих наших напретка у обради природног језика, људи и даље проналазе језичке рупе у учините да АИ цхат ботови попут ЦхатГПТ „халуцинирају“ и испоручују резултате који су требали бити ограничени.

Овде се ради о томе да је вештачка интелигенција савршено послушна, што је можда њена највећа снага и слабост. Све што не желите да цхатбот ради мора бити ручно програмирано у њега.

6. АИ цхат ботови никада не би требало да буду остављени без надзора

Док АИ не може да се регулише, не може бити остављена без надзора. Можете размишљати о данашњој вештачкој интелигенцији као о чуду од детета; на неки начин је бриљантан, али је ипак дете. Ако се оставе без надзора, људи ће искористити његове слабости — а Теј је био одличан пример за то.

АИ је алат, баш као и интернет, али стопа и размера на којој ствари могу да се поврате са вештачком интелигенцијом су далеко веће од онога што смо искусили током раних дана интернета.

АИ је потребан стални надзор и регулација

Теј није једини чет-бот који је пропао — било је много других сличних случајева. Али оно што га је учинило да се истакне је чиста брзина којом је успео - и чињеница да га је направио технолошки гигант као што је Мицрософт.

Примери попут овог показују колико морамо да будемо опрезни када развијамо АИ алате, посебно када су намењени да их користе обични људи.