Како поље вештачке интелигенције наставља да се развија вртоглавим темпом, нови кандидат је спреман да уђе у поље за игру. ТрутхГПТ, АИ цхатбот који је предложио технолошки милијардер Елон Муск, ствара много буке на мрежи.
Али шта је ТрутхГПТ? Зашто Елон Муск жели да га створи? И како ће се разликовати од АИ алата које већ имамо?
Шта је ТрутхГПТ?
ТрутхГПТ је предложени АИ модел који има за циљ решавање проблема постојећих модела који покреће ЦхатГПТ и Бард, са посебним нагласком на истину и безбедност. Према Елону Маску, ТрутхГПТ ће бити вештачка интелигенција која „максимално тражи истину“ и која разуме природу универзума и мало је вероватно да ће уништити човечанство јер види људе као критичну компоненту универзум.
Максимална АИ у потрази за истином? Разумети природу универзума?
Биће вам опроштено ако вам Мусков опис не пружи јасну слику о томе шта тачно покушава да изгради. Међутим, добићете бољу представу о томе о чему он говори ако погледате зашто уопште покушава да то изгради.
Зашто Елон Муск гради истинуГПТ?
У интервјуу са Фок Невс, Елон Муск је изразио забринутост око тога како велике компаније са вештачком интелигенцијом могу да одржавају пристрасност и дезинформације путем АИ цхат робота – алата у настајању од којег људи све више зависе за информације. Илон Муск је такође прокоментарисао претњу коју вештачка интелигенција представља човечанству, наглашавајући могућност апокалипсе вештачке интелигенције, сценарија у којем би системи вештачке интелигенције могли да преузму контролу над нашим свакодневним животима.
Издвајајући компаније као што су ОпенАИ и Гоогле, које, по његовом мишљењу, не раде довољно у областима безбедности вештачке интелигенције и заштите од дезинформација, Елон Муск је предложио трећу силу – ТрутхГПТ. Генерални директор СпацеКс-а и Тесле жели да створи ТрутхГПТ као противтежу Гугловом Барду и ОпенАИ ЦхатГПТ-у. Идеја је да се створи АИ модел који покушава што је више могуће да буде истинит у информацијама које пружа.
Елон Муск, који је недавно написао отворено писмо у којем позива на а мораторијум на развој моћне вештачке интелигенције модели (посебно они моћнији од ГПТ-4), верује да се АИ креће пребрзо. Он верује да треба да успоримо и преиспитамо наш приступ безбедности вештачке интелигенције пре него што АИ „преузме контролу“. ТрутхГПТ је модел великог језика (ЛЛМ) који обећава да ће се позабавити ова два кључна проблема са данашњом АИ система.
Како би изгледао ТрутхГПТ?
Први наговештај о томе како би ТрутхГПТ изгледао је у имену. Узимајући у обзир додатак „ГПТ“, ТрутхГПТ ће вероватно имати сличну архитектуру као ЦхатГПТ. Запамтите, Елон Муск је помогао у склапању ОпенАИ-а и тима који је направио ЦхатГПТ-ов ГПТ модел.
Такође, имајући у виду да се ГПТ архитектура показала као технички и комерцијални успех, праћење другачијег пута ће вероватно бити дуготрајно и скупо. Време је једна ствар коју Елон Муск нема ако жели да што пре изгради нешто што заиста може стати прст на пету са најсавременијом вештачком интелигенцијом. Дакле, немојте се превише захуктавати – ТрутхГПТ можда није толико радикално другачији од АИ алата које већ имамо.
Тачност, или у жаргону Елона Маска, „истинитост“, АИ модела у великој мери зависи од његових података о обуци и алгоритма обуке. Нисмо баш сигурни како ће се подаци о обуци ТрутхГПТ-а добити, али да бисмо добили најбољу шансу да изградимо ЛЛМ који је као „истинитије“ што је могуће, ТрутхГПТ Елона Маска би морао да да приоритет подацима из „истинитих извора“. Али то је управо оно проблем. Истина је веома субјективан концепт. Оно што је истина за мене можда није истина за вас.
Дакле, да ли је ова идеја о максималној АИ која тражи истину чак и практична?
Зашто је изградња ТрутхГПТ-а велики изазов
Једном ти разумеју како функционишу велики језички модели као што је ГПТ, постаје јасно да је непрактично бити тачан у сваком тренутку. Обично обучени за велики скуп података са интернета, много тога ће, предвидљиво, бити лажне информације, а ЛЛМ немају инертан начин да разликују чињенице од фикције.
Најбоља интервенција је обично од људских тренера који покушавају да науче језички модел шта је добро, а шта лоше. Али људски тренери су пристрасни. Пристрасност се преноси на АИ моделе, поразивши целу сврху „максималне АИ која тражи истину“. Имајте на уму да не говоримо о отвореној пристрасности или предрасудама према неком народу или нечем другом. То је суптилнија пристрасност о томе како тумачите језик, ситуације, изазове и тако даље, која улази у процес. Људи су ипак људи.
Наравно, тачност се може решити и са стране алгоритма. Међутим, без обзира на алгоритам, двосмисленост језика и даље представља велики проблем за тачност АИ модела. Чак се и људи често боре да тачно протумаче значење реченице или фразе, што доводи до дезинформација. За АИ моделе, двосмисленост може довести до погрешних интерпретација које резултирају нетачностима.
Чини се да је за Маска ТрутхГПТ шанса да направи АИ модел који сматра прикладним да пренесе истину. Како би до тога дошло без уношења сопствених предрасуда је друго питање које нас у потпуности враћа на почетак разговора. Како се Мусково мишљење о томе шта је пристрасно или не разликује од оних који су обучавали и усмеравали ЦхатГПТ?
Да ли је ТрутхГПТ узбудљива могућност?
Планови Елона Маска за ТрутхГПТ делују племенито и похвално. Међутим, изградња АИ модела са занемарљивом учесталошћу нетачности је тежак задатак.
Иако бисмо очекивали да технолошки милијардер који је демистификовао ракетну науку може да изведе нешто овакве природе, неке ствари је лакше рећи него урадити.