OpenAI

Отслеживая запросы OpenAI через Ключ-АСТРОМ, вы можете получать анализ затрат и прогнозные оценки с помощью ИИ, регистрировать запросы и их выполнение, отслеживать ошибки, просматривать показатели производительности ваших ИИ-сервисов и многое другое.

Spans

Для GenAI Spans доступны следующие атрибуты.

Атрибут	Тип	Описание
gen_ai.completion.0.content	string	Полный ответ, полученный от модели GenAI.
gen_ai.completion.0.content_filter_results	string	Результаты фильтрации ответа, полученного от модели GenAI.
gen_ai.completion.0.finish_reason	string	Причина, по которой модель GenAI перестала выпускать токены.
gen_ai.completion.0.role	string	Роль, используемая моделью GenAI.
gen_ai.openai.api_base	string	Адрес сервера GenAI.
gen_ai.openai.api_version	string	Версия API GenAI.
gen_ai.openai.system_fingerprint	string	Отпечаток пальца ответа, сгенерированного моделью GenAI.
gen_ai.prompt.0.content	string	Полный текст запроса, отправленного модели GenAI.
gen_ai.prompt.0.role	string	Настройка роли для запроса GenAI.
gen_ai.prompt.prompt_filter_results	string	Результаты фильтрации запроса, отправленного модели GenAI.
gen_ai.request.max_tokens	integer	Максимальное количество токенов, которое модель генерирует для запроса.
gen_ai.request.model	string	Название модели GenAI, к которой направляется запрос.
gen_ai.request.temperature	double	Температурный параметр для запроса GenAI.
gen_ai.request.top_p	double	Параметр выборки top_p для запроса GenAI.
gen_ai.response.model	string	Название модели, которая сгенерировала ответ.
gen_ai.system	string	Продукт GenAI, идентифицированный с помощью клиентского или серверного программного обеспечения.
gen_ai.usage.completion_tokens	integer	Количество токенов, использованных в ответе GenAI (завершение).
gen_ai.usage.prompt_tokens	integer	Количество токенов, использованных во входных данных GenAI (подсказке).
llm.request.type	string	Тип выполняемой операции.

Метрики

Метрическая система	Тип	Единица	Описание
gen_ai.client.generation.choices	counter	none	Количество вариантов выбора, возвращаемых в результате выполнения запроса на завершение чата.
gen_ai.client.operation.duration	histogram	s	Продолжительность работы GenAI.
gen_ai.client.token.usage	histogram	none	Количество используемых входных и выходных токенов.
llm.openai.embeddings.vector_size	counter	none	Размер возвращаемого вектора.