Шта је проблем максимизирања спајалица и како се он односи на АИ?

Вештачка интелигенција је тема дебате од самог почетка. Иако су страхови да ће вештачка интелигенција налик на Скинет оживети и преузети човечанство у најмању руку ирационални, неки експерименти су дали забрињавајуће резултате.

Један такав експеримент је проблем максимизирања спајалица, мисаони експеримент који показује да високо интелигентна АИ, чак и ако је дизајнирана потпуно без злобе, може на крају уништити човечанство.

Објашњен проблем максимизирања спајалица

Овај мисаони експеримент да би чак и потпуно безопасна вештачка интелигенција на крају могла да збрише човечанство први пут је назван Максимизатор спајалица једноставно зато што су спајалице изабране да покажу шта би вештачка интелигенција могла да уради јер имају малу очигледну опасност и неће изазвати емоционални стрес у поређењу са другим областима на које се овај проблем односи, као што је лечење рака или победа ратови.

Први експеримент се појавио у раду шведског филозофа Ника Бострома из 2003.

Етичка питања у напредној вештачкој интелигенцији, који је укључивао максимизатор спајалица како би показао егзистенцијалне ризике које довољно напредна АИ може да користи.

Проблем је представљао АИ чији је једини циљ био да направи што више спајалица. Довољно интелигентна вештачка интелигенција би пре или касније схватила да људи представљају изазов за њен циљ по три различите тачке.

• Људи би могли да искључе АИ.
• Људи би могли да промене своје циљеве.
• Људи су направљени од атома, који се могу претворити у спајалице.

У сва три примера, у универзуму би било мање спајалица. Дакле, довољно интелигентна АИ чији је једини циљ да направи што више спајалица преузео би сву материју и енергију на дохват руке и спречио да се искључи или промењено. Као што вероватно можете претпоставити, ово је много опасније од криминалци који користе ЦхатГПТ да хакују ваш банковни рачун или рачунар.

АИ није непријатељски расположен према људима; само је равнодушно. АИ којој је стало само до максимизирања броја спајалица би стога збрисао човечанство и у суштини их претворио у спајалице да би постигао свој циљ.

Како се проблем максимизирања спајалица односи на АИ?

Истраживања и експерименти помињу проблем максимизирања спајалица, сви помињу хипотетички изузетно моћан оптимизатор или високо интелигентног агента као главну улогу. Ипак, проблем се односи на АИ онолико колико се савршено уклапа у улогу.

Идеја о максимизатору спајалица створена је да покаже неке од опасности напредне вештачке интелигенције. Све у свему, представља два проблема.

• Теза о ортогоналности: Теза о ортогоналности је став да интелигенција и мотивација нису међусобно зависне. То значи да је могуће да АИ са високим нивоом опште интелигенције не дође до истих моралних закључака као људи.
• Инструментална конвергенција: Инструментална конвергенција се дефинише као тенденција за већину довољно интелигентних бића (оба људи и нељуди) да следе сличне подциљеве чак и ако би њихов крајњи циљ могао бити у потпуности различит. У случају проблема максимизирања спајалица, то значи да ће АИ на крају преузети сваки природни ресурс и брисање човечанства само да би остварио свој циљ стварања све више и више спајалице.

Већи проблем који истиче максимизатор спајалица је инструментална конвергенција. Такође се може истаћи коришћењем Риманнове хипотезе, у ком случају би вештачка интелигенција дизајнирана да реши хипотезу могла да одлучи да преузме све Земљину масу и претворити је у компјутеријум (најефикасније могуће рачунарске процесоре) за изградњу суперкомпјутера за решавање проблема и достизање његовог циљ.

Сам Бостром је нагласио да не верује да ће проблем максимизирања спајалица икада бити прави проблем, али је његова намера била да илуструју опасности стварања суперинтелигентних машина без знања како да их контролишу или програмирају да не буду егзистенцијално ризичне за људе бића. Модерни АИ системи као што је ЦхатГПТ такође имају проблема, али они су далеко од суперинтелигентних АИ система о којима се говори у проблему максимизирања спајалица, тако да још нема разлога за панику.

Напредним системима вештачке интелигенције је потребна супериорна контрола

Проблем максимизирања спајалица увек долази до истог закључка и наглашава проблеме управљања високо интелигентним и моћним системом којем недостају људске вредности.

Иако је употреба спајалица можда најпопуларнији метод за илустрацију проблема, она се односи на било који број задатака које може дати АИ-у било да елиминише рак, побеђује у ратовима, сади више дрвећа или било који други задатак, без обзира колико наизглед глуп.