IKuznetsov: Новая страница: «Платформа мониторинга Ключ-АСТРОМ для всего стека технологий в сочетании с '''SDK OpenLLMetry Open...»

2026-01-29T08:15:58Z

Новая страница: «Платформа мониторинга Ключ-АСТРОМ для всего стека технологий в сочетании с '''SDK OpenLLMetry Open...»

Новая страница

Платформа мониторинга Ключ-АСТРОМ для всего стека технологий в сочетании с '''SDK OpenLLMetry OpenTelemetry''' от '''Traceloop''' позволяет беспрепятственно получать исчерпывающую информацию о больших языковых моделях ('''LLM''') в производственных средах. Наблюдая за моделями ИИ, компании могут принимать обоснованные решения, оптимизировать производительность и обеспечивать соответствие новым нормативным требованиям в области ИИ.

== Инструментация вашего приложения ==

# Создайте токен Ключ-АСТРОМ, чтобы OpenLLMetry мог передавать данные в ваш клиент Ключ-АСТРОМ.
## В Ключ-АСТРОМ перейдите в раздел '''Токены доступа'''. Чтобы найти '''Токены доступа''', нажмите '''Ctrl/Cmd+K''' для поиска и выберите '''Токены доступа'''.
## В разделе '''Токены доступа''' выберите '''Сгенерировать новый токен'''.
## Введите имя для вашего нового токена.
## Предоставьте своему новому токену следующие права доступа:
## Найдите и выберите все следующие области применения.
##* '''Метрики приема''' (<code>metrics.ingest</code>)
##* '''Логи загрузки''' (<code>logs.ingest</code>)
##* '''Приём трассировок OpenTelemetry''' (<code>openTelemetryTrace.ingest</code>)
## Выберите '''Сгенерировать токен'''.
## Скопируйте сгенерированный токен в буфер обмена. Сохраните токен в менеджере паролей для дальнейшего использования.
# Инициализируйте '''OpenLLMetry''' токеном для сбора всех соответствующих '''KPI'''.

Способ инициализации фреймворка зависит от языка программирования.
{| class="wikitable"
!Python
!Node.js
|-
|Бэкенд Ключ-АСТРОМ работает исключительно с дельта-значениями и требует соответствующей временной последовательности агрегации. Убедитесь, что ваш экспортер метрик настроен соответствующим образом <code>[https://opentelemetry.io/docs/specs/otel/metrics/sdk_exporters/otlp/ OTEL_EXPORTER_OTLP_METRICS_TEMPORALITY_PREFERENCE]</code>, или установите переменную среды в значение <code>DELTA</code>.

Мы можем использовать '''OpenTelemetry''' для автоматической инструментации, которая собирает трассировки и метрики ваших рабочих нагрузок ИИ, в частности [https://github.com/traceloop/openllmetry/tree/main OpenLLMetry], который можно установить с помощью следующей команды:
{| class="wikitable"
|pip install traceloop-sdk
|}
После этого добавьте следующий код в начало вашего основного файла.
{| class="wikitable"
|from traceloop.sdk import Traceloop

headers = { "Authorization": "Api-Token <YOUR_DT_API_TOKEN>" }

Traceloop.init(

app_name="<your-service>",

api_endpoint="https://<YOUR_ENV>.live.astromkey.com/api/v2/otlp", # or OpenTelemetry Collector URL

headers=headers

)
|}
|Мы можем использовать '''OpenTelemetry''' для автоматической инструментации, которая собирает трассировки и метрики ваших рабочих нагрузок ИИ, в частности [https://github.com/traceloop/openllmetry/tree/main OpenLLMetry], который можно установить с помощью следующей команды:
{| class="wikitable"
|npm i @opentelemetry/exporter-trace-otlp-proto @traceloop/node-server-sdk
|}
После этого добавьте следующий код в начало вашего основного файла.
{| class="wikitable"
|import {OTLPTraceExporter} from "@opentelemetry/exporter-trace-otlp-proto";

import * as traceloop from "@traceloop/node-server-sdk";

const exporter = new OTLPTraceExporter({

url: "https://<YOUR_ENV>.live.astromkey.com/api/v2/otlp", // or OpenTelemetry Collector URL

headers: { Authorization: "Api-Token <YOUR_DT_API_TOKEN>" },

});

traceloop.initialize({

appName: "<your-service>",

exporter: exporter

});
|}
В настоящее время '''OpenLLMetry''' для '''Node.js''' не поддерживает метрики.
|}

Начало работы с наблюдаемостью ИИ и LLM - История изменений

IKuznetsov: Новая страница: «Платформа мониторинга Ключ-АСТРОМ для всего стека технологий в сочетании с '''SDK OpenLLMetry Open...»