Просмотр кода страницы OpenAI

Отслеживая запросы '''OpenAI''' через Ключ-АСТРОМ, вы можете получать анализ затрат и прогнозные оценки с помощью '''ИИ''', регистрировать запросы и их выполнение, отслеживать ошибки, просматривать показатели производительности ваших ИИ-сервисов и многое другое.

== Spans ==
Для '''GenAI Spans''' доступны следующие атрибуты.
{| class="wikitable"
!Атрибут
!Тип
!Описание
|-
|<code>gen_ai.completion.0.content</code>
|string
|Полный ответ, полученный от модели GenAI.
|-
|<code>gen_ai.completion.0.content_filter_results</code>
|string
|Результаты фильтрации ответа, полученного от модели GenAI.
|-
|<code>gen_ai.completion.0.finish_reason</code>
|string
|Причина, по которой модель GenAI перестала выпускать токены.
|-
|<code>gen_ai.completion.0.role</code>
|string
|Роль, используемая моделью GenAI.
|-
|<code>gen_ai.openai.api_base</code>
|string
|Адрес сервера GenAI.
|-
|<code>gen_ai.openai.api_version</code>
|string
|Версия API GenAI.
|-
|<code>gen_ai.openai.system_fingerprint</code>
|string
|Отпечаток пальца ответа, сгенерированного моделью GenAI.
|-
|<code>gen_ai.prompt.0.content</code>
|string
|Полный текст запроса, отправленного модели GenAI.
|-
|<code>gen_ai.prompt.0.role</code>
|string
|Настройка роли для запроса GenAI.
|-
|<code>gen_ai.prompt.prompt_filter_results</code>
|string
|Результаты фильтрации запроса, отправленного модели GenAI.
|-
|<code>gen_ai.request.max_tokens</code>
|integer
|Максимальное количество токенов, которое модель генерирует для запроса.
|-
|<code>gen_ai.request.model</code>
|string
|Название модели GenAI, к которой направляется запрос.
|-
|<code>gen_ai.request.temperature</code>
|double
|Температурный параметр для запроса GenAI.
|-
|<code>gen_ai.request.top_p</code>
|double
|Параметр выборки top_p для запроса GenAI.
|-
|<code>gen_ai.response.model</code>
|string
|Название модели, которая сгенерировала ответ.
|-
|<code>gen_ai.system</code>
|string
|Продукт GenAI, идентифицированный с помощью клиентского или серверного программного обеспечения.
|-
|<code>gen_ai.usage.completion_tokens</code>
|integer
|Количество токенов, использованных в ответе GenAI (завершение).
|-
|<code>gen_ai.usage.prompt_tokens</code>
|integer
|Количество токенов, использованных во входных данных GenAI (подсказке).
|-
|<code>llm.request.type</code>
|string
|Тип выполняемой операции.
|}

== Метрики ==
{| class="wikitable"
!Метрическая система
!Тип
!Единица
!Описание
|-
|<code>gen_ai.client.generation.choices</code>
|counter
|<code>none</code>
|Количество вариантов выбора, возвращаемых в результате выполнения запроса на завершение чата.
|-
|<code>gen_ai.client.operation.duration</code>
|histogram
|<code>s</code>
|Продолжительность работы GenAI.
|-
|<code>gen_ai.client.token.usage</code>
|histogram
|<code>none</code>
|Количество используемых входных и выходных токенов.
|-
|<code>llm.openai.embeddings.vector_size</code>
|counter
|<code>none</code>
|Размер возвращаемого вектора.
|}