<?xml version="1.0"?>
<feed xmlns="http://www.w3.org/2005/Atom" xml:lang="ru">
	<id>https://doc.ruscomtech.ru/index.php?action=history&amp;feed=atom&amp;title=%D0%9E%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_OpenPipeline</id>
	<title>Ограничения OpenPipeline - История изменений</title>
	<link rel="self" type="application/atom+xml" href="https://doc.ruscomtech.ru/index.php?action=history&amp;feed=atom&amp;title=%D0%9E%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_OpenPipeline"/>
	<link rel="alternate" type="text/html" href="https://doc.ruscomtech.ru/index.php?title=%D0%9E%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_OpenPipeline&amp;action=history"/>
	<updated>2026-05-02T13:07:56Z</updated>
	<subtitle>История изменений этой страницы в вики</subtitle>
	<generator>MediaWiki 1.36.1</generator>
	<entry>
		<id>https://doc.ruscomtech.ru/index.php?title=%D0%9E%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_OpenPipeline&amp;diff=5648&amp;oldid=prev</id>
		<title>IKuznetsov: Новая страница: «На следующей странице перечислены ограничения Ключ-АСТРОМ '''OpenPipeline''' по умолчанию.  == Ог...»</title>
		<link rel="alternate" type="text/html" href="https://doc.ruscomtech.ru/index.php?title=%D0%9E%D0%B3%D1%80%D0%B0%D0%BD%D0%B8%D1%87%D0%B5%D0%BD%D0%B8%D1%8F_OpenPipeline&amp;diff=5648&amp;oldid=prev"/>
		<updated>2025-09-08T19:33:54Z</updated>

		<summary type="html">&lt;p&gt;Новая страница: «На следующей странице перечислены ограничения Ключ-АСТРОМ &amp;#039;&amp;#039;&amp;#039;OpenPipeline&amp;#039;&amp;#039;&amp;#039; по умолчанию.  == Ог...»&lt;/p&gt;
&lt;p&gt;&lt;b&gt;Новая страница&lt;/b&gt;&lt;/p&gt;&lt;div&gt;На следующей странице перечислены ограничения Ключ-АСТРОМ '''OpenPipeline''' по умолчанию.&lt;br /&gt;
&lt;br /&gt;
== Ограничения по типам данных ==&lt;br /&gt;
Ограничения, специфичные для типа данных, могут перекрывать общие ограничения '''OpenPipeline'''. Сведения об ограничениях, специфичных для типа данных, см.&lt;br /&gt;
&lt;br /&gt;
* [[Ограничения по умолчанию для управления логами и аналитики]], а также [[Ограничения по умолчанию для управления логами и аналитики|проверка схемы для логов]]&lt;br /&gt;
* [[Ограничения OpenPipeline|Поля с ограничениями для метрик (ниже)]]&lt;br /&gt;
* [[Ограничения OpenPipeline|Поля с ограничениями на диапазоны (ниже)]]&lt;br /&gt;
&lt;br /&gt;
== Ограничения, специфичные для полей ==&lt;br /&gt;
&lt;br /&gt;
=== Поля с ограничениями для всех типов данных ===&lt;br /&gt;
Следующие поля доступны только для просмотра; редактирование через '''OpenPipeline''' не поддерживается.&lt;br /&gt;
&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.ingest.*&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.openpipeline.*&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.retain.*&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.system.*&amp;lt;/code&amp;gt;&lt;br /&gt;
&lt;br /&gt;
=== Поля с ограничениями для метрик ===&lt;br /&gt;
Использование следующих полей для метрик в '''OpenPipeline''' ограничено.&lt;br /&gt;
&lt;br /&gt;
* Поля, исключенные из условий динамического сопоставления маршрута и на этапе обработки&lt;br /&gt;
** &amp;lt;code&amp;gt;dt.entity.*&amp;lt;/code&amp;gt;&lt;br /&gt;
* Поля, исключенные из этапа обработки&lt;br /&gt;
** &amp;lt;code&amp;gt;dt.system.monitoring_source&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;metric.key&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;metric.type&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;timestamp&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;value&amp;lt;/code&amp;gt;&lt;br /&gt;
&lt;br /&gt;
=== Поля с ограничениями на диапазоны ===&lt;br /&gt;
Использование следующих полей для интервалов в '''OpenPipeline''' ограничено.&lt;br /&gt;
&lt;br /&gt;
* Поля, исключенные из условий динамического сопоставления маршрута и на этапе обработки&lt;br /&gt;
** &amp;lt;code&amp;gt;dt.entity.service&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;endpoint.name&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;failure_detection.*&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;request.is_failed&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;request.is_root_span&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;service_mesh.is_proxy&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;service_mesh.is_failed&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;supportability.*&amp;lt;/code&amp;gt;&lt;br /&gt;
* Поля, исключенные из этапа обработки&lt;br /&gt;
** &amp;lt;code&amp;gt;dt.ingest.size&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;dt.retain.size&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;duration&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;end_time&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;span.id&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;start_time&amp;lt;/code&amp;gt;&lt;br /&gt;
** &amp;lt;code&amp;gt;trace.id&amp;lt;/code&amp;gt;&lt;br /&gt;
&lt;br /&gt;
=== Поля, связанные с сущностями ===&lt;br /&gt;
Следующие поля добавляются после этапа обработки, когда Ключ-АСТРОМ выполняет обнаружение сущностей. Поскольку они недоступны до этого, их нельзя использовать на этапах предварительной обработки, маршрутизации или обработки. Их можно использовать на этапах извлечения метрик, извлечения данных, разрешений и конвейера хранения.&lt;br /&gt;
&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.aws_lambda_function&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.cloud_application&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.cloud_application_instance&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.cloud_application_names&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.custom_device&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.&amp;lt;genericEntityType&amp;gt;&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.kubernetes_cluster&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.kubernetes_node&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.kubernetes_service&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.entity.service&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.env_vars.dt_tags&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.kubernetes.cluster.id&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.kubernetes.cluster.name&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.loadtest.custom_entity.enriched_custom_device_name&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.process.name&amp;lt;/code&amp;gt;&amp;lt;sup&amp;gt;1&amp;lt;/sup&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;dt.source_entity&amp;lt;/code&amp;gt;&lt;br /&gt;
* &amp;lt;code&amp;gt;k8s.cluster.name&amp;lt;/code&amp;gt;&amp;lt;sup&amp;gt;2&amp;lt;/sup&amp;gt;&lt;br /&gt;
&lt;br /&gt;
&amp;lt;sup&amp;gt;1&amp;lt;/sup&amp;gt; Для получения эквивалентных результатов до этапа обработки можно использовать &amp;lt;code&amp;gt;dt.process_group.detected_name&amp;lt;/code&amp;gt; вместо этого.&lt;br /&gt;
&lt;br /&gt;
&amp;lt;sup&amp;gt;2&amp;lt;/sup&amp;gt; &amp;lt;code&amp;gt;ЕдиныйАгент версии 1.309&amp;lt;/code&amp;gt; &amp;lt;code&amp;gt;Ключ-АСТРОМ Operator версии 1.4.2+&amp;lt;/code&amp;gt; Поле доступно до этапа обработки, если модуль логов ЕдиногоАгента работает в автономном режиме.&lt;br /&gt;
&lt;br /&gt;
== Внедрение ==&lt;br /&gt;
&lt;br /&gt;
=== Запись максимальной временной метки ===&lt;br /&gt;
Если временная метка находится более чем на 10 минут в будущем, она корректируется в соответствии со временем сервера приема плюс 10 минут.&lt;br /&gt;
&lt;br /&gt;
=== Минимальная временная метка записи ===&lt;br /&gt;
{| class=&amp;quot;wikitable&amp;quot;&lt;br /&gt;
!Элемент&lt;br /&gt;
!Самая ранняя временная метка&lt;br /&gt;
|-&lt;br /&gt;
|Логи, События, Бизнес-события, Системные события&lt;br /&gt;
|Время приема минус 24 часа&lt;br /&gt;
|-&lt;br /&gt;
|Метрики, извлеченные метрики и события ИИ&lt;br /&gt;
|Время приема минус 1 час&lt;br /&gt;
|}&lt;br /&gt;
Записи вне этих временных рамок отбрасываются.&lt;br /&gt;
&lt;br /&gt;
== API для приема ==&lt;br /&gt;
&lt;br /&gt;
=== Значение метки времени ===&lt;br /&gt;
Поддерживаются числовые и строковые значения временных меток. '''OpenPipeline''' анализирует временные метки следующим образом.&lt;br /&gt;
&lt;br /&gt;
* Числовые значения&lt;br /&gt;
** До &amp;lt;code&amp;gt;100_000_000_000&amp;lt;/code&amp;gt; анализируются как &amp;lt;code&amp;gt;SECONDS&amp;lt;/code&amp;gt;.&lt;br /&gt;
** До &amp;lt;code&amp;gt;100_000_000_000_000&amp;lt;/code&amp;gt; анализируются как &amp;lt;code&amp;gt;MILLISECONDS&amp;lt;/code&amp;gt;.&lt;br /&gt;
** До &amp;lt;code&amp;gt;9_999_999_999_999_999&amp;lt;/code&amp;gt; анализируются как &amp;lt;code&amp;gt;MICROSECONDS&amp;lt;/code&amp;gt;.&lt;br /&gt;
* Строковые значения анализируются либо как&lt;br /&gt;
** &amp;lt;code&amp;gt;UNIX epoch&amp;lt;/code&amp;gt; миллисекунды или секунды&lt;br /&gt;
** &amp;lt;code&amp;gt;RFC3339&amp;lt;/code&amp;gt; форматы&lt;br /&gt;
** &amp;lt;code&amp;gt;RFC3164&amp;lt;/code&amp;gt; форматы&lt;br /&gt;
* Для других значений, которые не могут быть проанализированы &amp;lt;code&amp;gt;timestamp&amp;lt;/code&amp;gt;, перезаписывается временем приема.&lt;br /&gt;
&lt;br /&gt;
Если в записи нет поля &amp;lt;code&amp;gt;timestamp&amp;lt;/code&amp;gt;, поле устанавливается на время загрузки &amp;lt;code&amp;gt;timestamp&amp;lt;/code&amp;gt;.&lt;br /&gt;
&lt;br /&gt;
== Обработка ==&lt;br /&gt;
&lt;br /&gt;
=== Размер рабочей памяти при обработке одной записи ===&lt;br /&gt;
Каждая запись может занимать максимум 16 МБ памяти. Каждое изменение записи (например, анализ поля) уменьшает доступную память. После исчерпания доступной памяти запись удаляется.&lt;br /&gt;
&lt;br /&gt;
=== Размер записи после обработки ===&lt;br /&gt;
Максимальный размер записи после обработки — 16 МБ.&lt;br /&gt;
&lt;br /&gt;
=== Размер извлеченных атрибутов логов ===&lt;br /&gt;
Размер атрибутов логов может достигать 32 КБ. При добавлении атрибутов логов в шаблон события размер каждого атрибута сокращается до 4096 байт.&lt;br /&gt;
&lt;br /&gt;
=== Количество извлечений для одной записи ===&lt;br /&gt;
Вы можете извлекать данные из одной записи максимум через пять различных конвейеров (&amp;lt;code&amp;gt;dt. open pipeline.pipelines&amp;lt;/code&amp;gt;). После превышения порогового значения извлечение данных из этой записи прекращается. Обработка и сохранение записи продолжается.&lt;br /&gt;
&lt;br /&gt;
=== Проверка схемы для логов ===&lt;br /&gt;
Обработанные логи сохраняются, если выполнены следующие условия.&lt;br /&gt;
{| class=&amp;quot;wikitable&amp;quot;&lt;br /&gt;
!Поле&lt;br /&gt;
!Существует&lt;br /&gt;
!Тип&lt;br /&gt;
!Ограничение&lt;br /&gt;
|-&lt;br /&gt;
|&amp;lt;code&amp;gt;timestamp&amp;lt;/code&amp;gt;&lt;br /&gt;
|Да&lt;br /&gt;
|&amp;lt;code&amp;gt;String&amp;lt;/code&amp;gt;,&amp;lt;code&amp;gt;Numerical&amp;lt;/code&amp;gt;&lt;br /&gt;
|В пределах диапазона приема&lt;br /&gt;
|-&lt;br /&gt;
|&amp;lt;code&amp;gt;content&amp;lt;/code&amp;gt;&lt;br /&gt;
|Да&lt;br /&gt;
|&amp;lt;code&amp;gt;String&amp;lt;/code&amp;gt;&lt;br /&gt;
|Не оценено&lt;br /&gt;
|}&lt;br /&gt;
Если схема недействительна, логи удаляются.&lt;br /&gt;
&lt;br /&gt;
== Конфигурация ==&lt;br /&gt;
{| class=&amp;quot;wikitable&amp;quot;&lt;br /&gt;
!Элемент&lt;br /&gt;
!Максимальный предел&lt;br /&gt;
|-&lt;br /&gt;
|Запрос размера полезной нагрузки&lt;br /&gt;
|10 МБ&lt;br /&gt;
|-&lt;br /&gt;
|Значение канала связи&lt;br /&gt;
|100&lt;br /&gt;
|-&lt;br /&gt;
|Размер этапа&lt;br /&gt;
|512 КБ на этап&lt;br /&gt;
|-&lt;br /&gt;
|Значение процессора&lt;br /&gt;
|1000 на этап&lt;br /&gt;
|-&lt;br /&gt;
|Значение конечной точки&lt;br /&gt;
|100 на тип данных&lt;br /&gt;
|-&lt;br /&gt;
|Динамическое количество маршрутов&lt;br /&gt;
|100 на тип данных&lt;br /&gt;
|-&lt;br /&gt;
|Длина условия соответствия&lt;br /&gt;
|1000 байтов в кодировке UTF-8 на условие&lt;br /&gt;
|-&lt;br /&gt;
|Длина скрипта процессора DQL&lt;br /&gt;
|8192 байта в кодировке UTF-8 на скрипт&lt;br /&gt;
|}&lt;br /&gt;
&lt;br /&gt;
=== Допустимые символы в пути конечной точки ===&lt;br /&gt;
Путь к конечной точке — это уникальное имя, начинающееся с литерала, определяющего конечную точку. Оно нечувствительно к регистру и поддерживает буквы, цифры и точку (&amp;lt;code&amp;gt;.&amp;lt;/code&amp;gt;). Например: &amp;lt;code&amp;gt;Endpoint.1&amp;lt;/code&amp;gt;.&lt;br /&gt;
&lt;br /&gt;
Путь конечной точки не поддерживает:&lt;br /&gt;
&lt;br /&gt;
* Точка (&amp;lt;code&amp;gt;.&amp;lt;/code&amp;gt;) как последний символ&lt;br /&gt;
* Пробелы&lt;br /&gt;
* Последовательные точки ( &amp;lt;code&amp;gt;..&amp;lt;/code&amp;gt;)&lt;br /&gt;
* &amp;lt;code&amp;gt;Null&amp;lt;/code&amp;gt; или пустой ввод&lt;/div&gt;</summary>
		<author><name>IKuznetsov</name></author>
	</entry>
</feed>