LangChain

Материал из Документация Ключ-АСТРОМ

LangChain — это фреймворк, предназначенный для создания приложений, использующих большие языковые модели (LLM). Он предоставляет набор инструментов и компонентов, упрощающих интеграцию LLM в различные приложения, позволяя разработчикам создавать сложные рабочие процессы и функциональные возможности.

С помощью Ключ-АСТРОМ вы можете отслеживать каждый этап рабочих процессов, контролируя сообщения о подсказках и завершении, выявляя ошибки, отслеживая показатели производительности и многое другое.

Spans

Для GenAI Spans доступны следующие атрибуты.

Атрибут Тип Описание
gen_ai.completion.0.content string Полный ответ, полученный от модели GenAI.
gen_ai.completion.0.role string Роль, используемая моделью GenAI.
gen_ai.prompt.0.content string Полный текст запроса, отправленного модели GenAI.
gen_ai.prompt.0.role string Настройка роли для запроса GenAI.
gen_ai.request.model string Название модели GenAI, к которой направляется запрос.
gen_ai.response.model string Название модели, которая сгенерировала ответ.
gen_ai.system string Продукт GenAI, идентифицированный с помощью клиентского или серверного программного обеспечения.
llm.request.type string Тип выполняемой операции.
traceloop.entity.name string Название действия в цепочке.
traceloop.span.kind string Тип действия в цепочке.
traceloop.workflow.name string Название сети.

Метрики

Метрическая система Тип Единица Описание
http.client.duration histogram ms Длительность исходящего HTTP-запроса.