ЛангЦхаин ЛЛМ је врућа прича у граду. Добијте преглед шта је то и како можете да почнете са тим.

Са увођењем великих језичких модела (ЛЛМ), обрада природног језика је била тема интернета. Нове апликације се свакодневно развијају захваљујући ЛЛМ-овима као што су ЦхатГПТ и ЛангЦхаин.

ЛангЦхаин је Питхон оквир отвореног кода који омогућава програмерима да развијају апликације засноване на великим језичким моделима. Његове апликације су цхатботови, сумирање, генеративно испитивање и одговарање и још много тога.

Овај чланак ће пружити увод у ЛангЦхаин ЛЛМ. Покриваће основне концепте, како се упоређује са другим језичким моделима и како да почнете са њим.

Разумевање ЛангЦхаин ЛЛМ

Пре него што објасните како ЛангЦхаин функционише, прво морате да разумете како функционишу велики језички модели. Велики језички модел је врста вештачке интелигенције (АИ) која користи дубоко учење да обучи моделе машинског учења на великим подацима који се састоје од текстуалних, нумеричких и кодних података.

Огромна количина података омогућава моделу да научи постојеће обрасце и односе између речи, фигура и симбола. Ова функција омогућава моделу да изврши низ задатака, као што су:

instagram viewer

  • Генерисање текста, превод на језик, писање креативног, техничког и академског садржаја и тачно и релевантно одговарање на питања.
  • Детекција објеката на сликама.
  • Резиме књига, чланака и истраживачких радова.

Најзначајније ограничење ЛЛМ-а је то што су модели веома општи. Ова карактеристика значи да упркос њиховој способности да ефикасно обављају неколико задатака, понекад могу да обезбеде општи одговори на питања или упутства која захтевају стручност и дубоко знање из домена уместо специфичних одговори.

Развијен од стране Харисон Цхасе-а крајем 2022. године, ЛангЦхаин оквир нуди иновативан приступ ЛЛМ. Процес почиње претходном обрадом текстова скупа података разбијањем на мање делове или резимеа. Сажеци се затим уграђују у векторски простор. Модел прима питање, претражује сажетке и даје одговарајући одговор.

ЛангЦхаин-ова метода препроцесирања је критична карактеристика која је неизбежна како ЛЛМ постају моћнији и интензивнији за податке. Овај метод се углавном користи у случајевима кода и семантичке претраге јер обезбеђује прикупљање у реалном времену и интеракцију са ЛЛМ-овима.

ЛангЦхаин ЛЛМ вс. Други језички модели

Следећи упоредни преглед има за циљ да истакне јединствене карактеристике и могућности које ЛангЦхаин ЛЛМ издвајају од других постојећих језичких модела на тржишту:

  • Меморија: Неколико ЛЛМ-ова има кратку меморију, што обично доводи до губитка контекста ако упити прелазе ограничење меморије. ЛангЦхаин, међутим, пружа претходне упите и одговоре за ћаскање, решавајући проблем ограничења меморије. Историја порука омогућава кориснику да понови претходне поруке ЛЛМ-у како би поновио претходни контекст.
  • ЛЛМ Свитцхинг: У поређењу са другим ЛЛМ-овима који закључавају ваш софтвер помоћу АПИ-ја једног модела, ЛангЦхаин пружа апстракцију која поједностављује пребацивање ЛЛМ-а или интеграцију више ЛЛМ-ова у вашу апликацију. Ово је корисно када желите да надоградите своје софтверске могућности помоћу компактног модела, као што је Стабилити АИ СтаблеЛМ, рецимо из ОпенАИ-овог ГПТ-3.5.
  • Интеграција: Интеграција ЛангЦхаин-а у вашу апликацију је лака у поређењу са другим ЛЛМ-овима. Обезбеђује проток посла кроз цевовод ланцима и агенти, што вам омогућава да брзо уградите ЛангЦхаин у своју апликацију. У смислу линеарних цевовода, ланци су објекти који у суштини повезују бројне делове. Агенти су напреднији, што вам омогућава да одаберете како компоненте треба да комуницирају користећи пословну логику. На пример, можда ћете желети да користите условну логику да одредите следећи ток акције на основу резултата ЛЛМ.
  • Дата Пассинг: Због опште текстуалне природе ЛЛМ-а, обично је тешко пренети податке у модел. ЛангЦхаин решава овај проблем коришћењем индекси. Индекси омогућавају апликацији да увози податке у променљивим форматима и складишти их на начин који омогућава да их сервира ред по ред у ЛЛМ.
  • Одговори: ЛангЦхаин пружа алате за анализу излаза за давање одговора у одговарајућем формату за разлику од других ЛЛМ-ова чији се одговор модела састоји од општег текста. Када користите АИ у апликацији, пожељно је да имате структурирани одговор на који можете програмирати.

Почетак рада са ЛангЦхаин ЛЛМ

Сада ћете научити како да примените ЛангЦхаин у стварном сценарију употребе да бисте разумели како функционише. Пре него што започнете развој, потребно је да подесите развојно окружење.

Подешавање вашег развојног окружења

Први, створити виртуелно окружење и инсталирајте зависности испод:

  • ОпенАИ: Да интегришете ГПТ-3 АПИ у вашу апликацију.
  • ЛангЦхаин: Да интегришете ЛангЦхаин у вашу апликацију.

Користећи пип, покрените наредбу испод да бисте инсталирали зависности:

 пипенв инсталл лангцхаин опенаи

Горња команда инсталира пакете и креира виртуелно окружење.

Увезите инсталиране зависности

Прво увезите потребне класе као нпр ЛЛМЦхаин, ОпенАИ, ЦонверсатионЦхаин, и ПромптТемплате од лангцхаин пакет.

из лангцхаин увоз ЦонверсатионЦхаин, ОпенАИ, ПромптТемплате, ЛЛМЦхаин
из лангцхаин.мемори увоз ЦонверсатионБуфферВиндовМемори

Класе ЛангЦхаин оцртавају и извршавају ланце језичких модела.

Приступите ОпенАИ АПИ кључу

Затим набавите ОпенАИ АПИ кључ. Да бисте приступили ОпенАИ-овом АПИ кључу, морате имати ОпенАИ налог, а затим пређите на ОпенАИ АПИ платформа.

На контролној табли кликните на икону Профил. Затим кликните на Погледајте АПИ кључеве дугме.

Затим кликните на Креирајте нови тајни кључ дугме да бисте добили нови АПИ кључ.

Унесите тражено име АПИ кључа.

Добићете а тајни кључ промпт.

Копирајте и сачувајте АПИ кључ на безбедном месту за будућу употребу.

Развој апликације помоћу ЛангЦхаин ЛЛМ

Сада ћете наставити са развојем једноставне апликације за ћаскање на следећи начин:

# Прилагодите ЛЛМ шаблон 
шаблон = Асистент је велики језички модел који је обучио ОпенАИ.
{историја}
Човек: {хуман_инпут}
помоћник:
промпт = ПромптТемплате (инпут_вариаблес=["историја", "хуман_инпут"], шаблон=шаблон)

Затим ћете учитати ЦхатГПТ ланац користећи АПИ кључ који сте раније сачували.

цхатгпт_цхаин = ЛЛМЦхаин(
 ллм=ОпенАИ(опенаи_апи_кеи=„ОПЕНАИ_АПИ_КЕИ“,температуре=0),
 промпт=промпт,
 вербосе=Истина,
 мемори=ЦонверсатионБуфферВиндовМемори (к=2),
 )
# Предвидите реченицу користећи ланац цхатгпт
излаз = цхатгпт_цхаин.предицт(
 људски_инпут=„Шта је МакеУсеОф?“
 )
# Прикажите одговор модела
штампа (излаз)

Овај код учитава ЛЛМ ланац са ОпенАИ АПИ кључем и шаблоном упита. Затим се даје кориснички унос, а његов излаз се приказује.

Изнад је очекивани излаз.

Све већи утицај ЛЛМ

Потрошња ЛЛМ-а брзо расте и мења начин на који људи комуницирају са машинама знања. Оквири као што је ЛангЦхаин су на челу пружања програмерима неометаног и једноставног начина да сервирају ЛЛМ апликације. Генеративни АИ модели као што су ЦхатГПТ, Бард и Хуггинг Фаце такође нису заостали у унапређењу ЛЛМ апликација.