BI Consult Desktop Logo BI Consult Mobile Logo
  • Russian BI Исследование российских bi
  • Перейти на Fine BI
  • Контакты
  • +7 812 334-08-01
    +7 499 608-13-06
  • Отправить сообщение
  • Главная
  • Продукты Эксперт-BI
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Сельское хозяйство
    • Энергетика
    • FMCG
    • Девелоперы
    • Маркетплейсы
    • Пищевая промышленность
    • Фармацевтика
    • Построение Data Platform
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и FP&A
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • IBP
    • ИТ (CIO)
    • Закупки
  • Платформы
    • Системы бизнес-анализа (BI)
    • Интегрированное бизнес-планирование (IBP)
    • Хранилища данных (DWH / Lakehouse)
    • Каталоги данных (Data Catalog)
    • Системы ETL и ELT
    • AI / Исскуственный интеллект
    • Шина данных (ESB)
    • Система управления мастер-данными (MDM)
    • Семантический слой
  • Услуги
    • Переход на отечественные BI и DWH системы
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений и DWH
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Курсы
    • Учебный курс Информационная грамотность (Data Literacy)
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Greenplum
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt (Data Build Tool)
  • Компания
    • Руководство
    • Новости
    • Клиенты
    • Карьера
    • Скачать
    • Контакты

BI

  • FineBI
  • FineReport
  • FineDataLink
    • Краткий обзор способов развертывания платформы FineDataLink
    • Подготовка среды развертывания
    • Среда развертывания
    • Развертывание с использованием Tomcat
    • Как установить и настроить Nginx на Linux
    • Добавление новых пользователей и настройка прав доступа
    • Планирование выполнения задач
  • FineChatBI (FineAI)
  • Коннекторы данных из 1С в BI
  • Airflow / Nifi
  • Visiology
  • PIX BI
  • Modus BI
  • Yandex.DataLens
  • Open-source BI: Superset/Metabase
  • Luxms BI
  • AW BI + Alpha BI
  • FlyBI + Форсайт. Аналитическая Платформа
  • Loginom
  • Триафлай
  • AI / Исскуственный интеллект
  • Optimacros
  • Навигатор BI
  • Семантический слой

СУБД

  • Arenadata
  • ClickHouse
  • Greenplum
  • Postgres Professional
  • TData

Другое

  • Построение Data Platform
    • Аналитическое хранилище данных
    • Data Lake и Data Engineering
    • Подробнее про Data Lake
    • Внедрение Lakehouse
      • Apache Doris
      • StarRocks
      • Trino
    • Миграция витрин из пропиетарных DWH на новый стек
    • Учебный курс "Современная архитектура хранилища данных"
Главная » Российские платформы современного стека хранения, обработки и анализа данных » Системы бизнес-анализа (BI) » FineDataLink – что это? » FineDataLink: Краткий обзор способов развертывания платформы FineDataLink

FineDataLink: Краткий обзор способов развертывания платформы FineDataLink

Введение

В зависимости от потребностей клиентов, работающих в различных отраслях, существует несколько способов развертывания FineDataLink, включая независимое развертывание, кластерное развертывание и контейнерное развертывание.

 

В этой статье мы поговорим о различиях, преимуществах и недостатках нескольких способов развертывания данной платформы.

 

Кластер и машина

NB: Развертывание кластера FineDataLink возможно только при независимом развертывании.

 

Что такое кластер и машина?

Машина – это развернутый проект

 

Кластер -  это совокупность нескольких одинаковых проектов, предоставляющих одну и ту же услугу. Эти отдельные проекты являются узлами кластера.

Основываясь на горизонтальной масштабируемости кластера, пользователи могут увеличить количество узлов, за счет чего конкурентность (concurrency)  будет расти линейно.

В то же время несколько проектов могут быть использованы для резервного копирования, что позволяет избежать убытков (например,  потери данных), вызванных остановкой системы из-за недоступности одной машины. Благодаря этому обеспечивается стабильная работа системы 24/7.

 

Преимущества кластеризации

Главными преимуществами кластера FineDataLink является высокая доступность, высокая производительность, простота управления, масштабируемость и безопасность:

Преимущество

Расшифровка

Доступность

Система оснащена функцией аварийного восстановления и горячего резервирования

 

Функционирование коластера Fanruan основано на нескольких компонентов, таких как узлы кластера, балансировщики нагрузки и серверы состояния, при этом несколько узлов разделяют между собой нагрузку по обработке запросов.

 

При использовании продуктов FineDataLink, в случае возникновения нештатных ситуаций, которые могут привести к простою системы, сама система оснащена функцией аварийного восстановления, которая обеспечивает непрерывную и бесперебойную синхронизацию и обработку данных, а также помогает справиться с потенциальными проблемами простоя и отключения локальных узлов.

Высокая конкурентность

Улучшенные возможности одновременного выполнения задач

 

Кластер Fanruan позволяет параллельно обрабатывать несколько временных и конвейерных задач, реализует распределенную обработку задач через несколько узлов, а также рассредоточивает определенные API с более высокой частотой запросов при использовании нескольких сервисов данных.

 

При использовании продуктов FineDataLink, когда есть много задач обработки, возможность одновременного выполнения задач может быть улучшена путем увеличения количества узлов.

 

NB: Наименьшей единицей выполнения запланированного задания является узел. При выполнении задачи генерируется экземпляр задачи, который содержит несколько узлов, подлежащих выполнению.

 

Наименьшей единицей выполнения конвейерной задачи является экземпляр конвейерной задачи. Когда задача выполняется, генерируется экземпляр задачи, который не подлежит дальнейшему разделению.

 

Логика высокого параллелизма заключается в равномерном распределении узлов для запуска кластеров для выполнения задач, а порядок выполнения задач основан на проекте внутри задачи.

Простота управления

Кластер Fanruan предоставляет мощную платформу управления, включая функции мониторинга, настройки, развертывания и автоматического устранения неисправностей узлов кластера, что позволяет значительно снизить риски, связанные с обслуживанием и эксплуатации кластера, а также помогает предприятиям управлять и поддерживать систему наиболее оптимальным способом.

 

Простая визуальная настройка, 80% конфигурации может быть выполнено на платформе.

  • Поддерживает функцию горячего развертывания. Для добавления или удаления узлов не нужно перезапускать весь кластер, достаточно скопировать файлы узлов.
  • Мониторинг рабочего состояния каждого узла в режиме реального времени, своевременное напоминание о простое узла, несоответствии времени работы узлов и т. д.
  • Изменения и обновления информации о конфигурации платформы, а также файлов ресурсов между узлами могут быть синхронизированы в режиме реального времени.
  • Если между узлами имеются несоответствия в пакетах JAR, система обнаружит их автоматически.

Масштабируемость

Имея продуманную до мелочей архитектуру, веб-кластер обладает хорошей горизонтальной масштабируемостью. Кластер Fanruan может быстро увеличить количество узлов кластер, чтобы справиться с пиковыми значениями и колебаниями трафика, достигая высокой масштабируемости и эффективности системы.

 

Функции компонента кластера

При создании кластера, Вы должны понимать, что это непростая задача.

Для того, чтобы обеспечить бесперебойное обслуживание, необходимо повысить качество услуг и создать оптимизированный парк.

Создание продуманного парка – это задача, которую должна решить архитектура кластера.

Компоненты

Расшифровка

Узел проекта

Узлами кластера условно являются такси.

Когда такси ломается, на его место автоматически подбираются другие такси, что обеспечивает  работоспособность всего парка.

Проект кластера Fanruan позволяет использует первый узел, присоединившийся к кластеру, в качестве контрольного узла. Каждый узел предоставляет услуги и выполняет операции управления в равной степени.

Каждый узел - это независимо работающий проект, отвечающий за обработку запросов пользователей, выполнение задач и управление работой других компонентов. Узлы кластера взаимодействуют и сотрудничают с помощью ряда сетевых протоколов и сервисов.

Балансировка нагрузки

Балансировщик нагрузки можно сравнить с диспетчерским центром для таксопарка, координирующий и распределяющий работу такси.

 

При приеме клиентов балансировка нагрузки служит единым входом и отвечает за связь с клиентами, избавляя их от необходимости обращаться к водителям.

 

В кластере балансировка нагрузки используется для распределения задач между различными узлами для повышения эффективности их работы.

Балансировщик нагрузки распределяет нагрузку между всеми узлами, гарантируя, что каждый узел получает достаточно задач для выполнения веб-запросов и остается занятым.

Реестр служб

Обеспечение высокой доступности и высокого параллелизма планирования, то есть планирования выполнения узлов в запланированных задачах и конвейерных задачах.

 

Когда один инженерный узел выходит из строя, задача планирования узла передается другим работающим узлам; в то же время экземпляр задачи равномерно распределяется по каждому узлу кластера, что обеспечивает нормальное выполнение нескольких задач планирования.

Внешняя БД

Библиотека конфигурации, то есть внешняя база данных FineDB, похожа на офис управления транспортными средствами в таксопарке.

В ней хранится и поддерживается информация обо всех автомобилях и водителях, расценках, маршрутах поездок и т. д., чтобы каждый автомобиль мог обеспечить клиентам одинаковые условия поездки.

В кластере библиотека конфигурации используется для хранения и поддержки информации о конфигурации и параметрах всех узлов. Чтобы узлы кластера работали согласованно, эти параметры должны быть заданы разумно.

Сервер

статуса

Запросы пользователей равномерно распределяются на каждый узел для обеспечения параллелизма на стороне веб-сайта. Запросы могут быть следующими:

  • пользовательские запросы на использование платформы
  • API-запросы к сервисам данных

Файловый сервер

Файловый сервер можно сравнить с архивом таксопарка.

В нем хранятся все документы, относящиеся к автопарку, включая записи о техническом обслуживании автомобилей, страховые полисы, данные о местонахождении автомобилей и т. д.

В кластере файловый сервер используется для хранения и совместного использования файлов и ресурсов данных, необходимых в кластере, чтобы каждый узел мог получить к ним доступ и использовать их.

 

Архитектура кластера Fanruan очень гибкая и может быть настроена в соответствии с различными потребностями компании. Для запуска кластера соблюдение следующих условий:

  • Существует более одного узла проекта
  • Узел настроен на внешнюю базу данных
  • Узел настроен на сервер состояния
  • Если существует более 2 узлов проекта, необходимо настроить файловый сервер
  • Узел настроен на центр регистрации услуг Nacos

 

Возможности:

  • Версия FineDataLink 4.0.27 и новее поддерживают возможность разработки данных с использованием кластеров;
  • Версия FineDataLink 4.0.30 и новее работают с конвейерами данных и сервисами данных с использованием кластеров;
  • Поддерживает независимо развернутые проекты FineDataLink в качестве узлов проекта в кластере; не поддерживает кластеризацию с проектами FineReport и FineBI в качестве узлов.

 

Контейнеразация vs. традиционное развертывание

Что такое контейнерезация и традиционное развертывание?

Традиционное развертывание:

Пользователи могут подготовить пакеты развертывания самостоятельно и собрать наиболее популярную архитектуру проекта, а именно "проект FineDataLink + среда jdk + промежуточное ПО tomcat".

 

Контейнерезация:

Процесс "контейнеризации" приложения заключается в том, что оно запускается в контейнере Docker или аналогичной технологии, которая может заключать в себе окружение операционной системы и приложение вместе (полный образ системы).

Поскольку контейнеры могут предоставлять приложениям среду, близкую к полной системе, это дает возможность модернизировать развертывание приложений без их модификации или модифицировать приложение с минимальными усилиями. Это также является основой для того, чтобы архитектура приложений оставалась "облачной".

 

Преимущества контейнерезации

По сравнению с традиционным методом развертывания контейнерное развертывание позволяет значительно сократить расходы на обслуживание и используемые ресурсы.

 

  1. низкие эксплуатационные расходы
  • Среда каждого проекта изолирована друг от друга, поэтому при возникновении каких-либо проблем  диапазон воздействия не велик невелик.
  • Удобство обновление, аварийного восстановления и отката системы.

 

  1. низкая стоимость используемых ресурсов
  • Управление несколькими кластерами, поддержка нескольких пользователей, использование микросервисов, оптимизация использования ресурсов.
  • Гибкое масштабирование ресурсов.

 

Разница между контейнерезацией и традиционным развертыванием

Основные преимущества контейнеров на протяжении всего жизненного цикла приложения: изоляция, мобильность, гибкость, масштабируемость и эффективный мониторинг.

Самое важное преимущество - это изоляция разработки от операционной деятельности.

Аспект

Традиционное развертывание

Контейнерезация

Настройка JVM

Изменение файла конфигурации Tomcat или других соответствующих файлов конфигурации контейнера осуществляется вручную

 

Большинство пользователей не могут настроить конфигурацию должным образом, что приводит к нежелательным последствиям и простоям

Основные параметры JVM установлены заранее.

 

Ограничение памяти Xmx может быть настроено отдельно в yaml-файле

Настройка балансировки

Для настройки переадресации необходимо вручную установить Nginx или другое аналогичное ПО.

Некоторые пользователи могут столкнуться с проблемой доступности всех необходимых настроек, что чревато сбоями в работе жизненно важных служб (при необходимости Вы можете настроить keepalived+nginx)

При развертывании nginx автоматически устанавливается и настраивается одним щелчком мыши (другие нагрузки не поддерживаются).

Требования, предъявляемые к аппаратному обеспечению

Рекомендовано, но не обязательно

Соблюдение требований к дисковому пространству и памяти на всех узлах обязательно!

Крайне важно предотвратить развертывание проектов в неподходящих аппаратных средах обязательны

Требования, предъявляемые к компонентам

Без ограничений, можно настроить все компоненты, поддерживаемые продуктом

Без ограничений, можно настроить  все компоненты, поддерживаемые продуктом.

Поддерживает возможность одновременного развертывания MySQL, Redis и Minio

Требования, предъявляемые к ОС

Можно использовать любую ОС

Linux amd64

CentOS 7.3 и более ранние версии не поддерживаются

Ubuntu 18 и более ранние версии не поддерживаются

Требования, предъявляемые к Firewall

Соответствующий сервер должен открыть используемый порт

Порты, используемые всеми компонентами всех узлов, должны быть открыты.

Развертывание на одном компьютере

Можно приступить к работе, загрузив пакет развертывания без настройки внешних библиотек и других компонентов.

В противном случае необходимо отдельно настроить внешние библиотеки и компоненты, а также необходимое окружение, например jdk

Локальный пользователь root может развернуть систему одним щелчком мыши.

Поддержка развертывания после конфигурирования соответствующей информации об узлах и компонентах в yaml-файлах

Поддерживает настройку исходных компонентов пользователя через yaml-файлы

Требования, предъявляемые к правам доступа

Необходимо обеспечить права доступа к файлам

Обычным пользователям нужно предоставить  привилегии sudo (если установлен docker и пользователь входит в группу пользователей docker, привилегии не требуются).

cp

tar

rm

groupadd

gpasswd

группы

dockerd

systemctl (требуется для автоматического запуска службы docker,опционно)

Настройка веб-контейнера

Измените файл конфигурации в каталоге tomcat и перезапустите tomcat

Изменения front-end части могут быть реализованы через платформу эксплуатации и технического обслуживания

Изменение параметра jvm

Просто измените соответствующий файл

Модификации могут быть реализованы через платформу эксплуатации и технического обслуживания

Влияние на среду

Влияние на  различные среды, такие как jdk, glibc, системные шрифты, системный язык, системное время и т. д.

Приложения FineDataLink развертываются с помощью контейнеров Docker. До тех пор, пока можно поддерживать развертывание, оно не будет оказывать существенного влияния на среду.

 

Узнать стоимость решенияЗапросить видео презентацию

← Предыдущая статья
FineDataLink: Добавление новых пользователей и настройка прав доступа
Следующая статья →
FineDataLink: Подготовка среды развертывания

Решения

Анализировать ФинансыУвеличивайте ПродажиОптимальный Склад и ЛогистикаМаркетинговые Метрики

Клиенты
  • KazanExpress — торговая площадка, на которой представлены товары с бесплатной доставкой за один день в более, чем 70 городах России. Аналитическое решение на базе платформы данных Yandex Cloud позволило компании обеспечить демократизацию данных. Результат — принятие обоснованных решений на всех уровнях, увеличение лояльности партнеров и повышение прозрачности бизнеса.

    Мониторинг ключевых метрик в реальном времени минимизировал недополученную прибыль и обеспечил рост прибыльных направлений, а возможности геоаналитики сервиса Yandex DataLens помогли за короткое время проанализировать локации для открытия более 90 ПВЗ в 25 городах России и заложить основу для роста компании.

  • Компания "Норникель" - лидер горно-металлургической отрасли в России и мире. Она производит металлы, необходимые для развития экологичной экономики и транспорта.

  • ООО «Ай Пи Ти Групп» (IPT Group) — многопрофильный консалтинговый холдинг, специализирующийся на юридическом и финансовом сопровождении бизнеса. IPT Group занимает высокие позиции в профессиональных рейтингах, входит в ТОП-30 лучших юридических компаний России по версии «Право.ru-300», Global Law Experts и др.

  • Ситилинк

    Электронный дискаунтер «Ситилинк» — один из крупнейших онлайн‑ритейлеров России (3‑е место по объему онлайн‑продаж в рейтинге Data Insight и Ruward 2016 года E‑commerce Index TOP‑100, 8 место в рейтинге Forbes «20 самых дорогих компаний Рунета — 2017»). На рынке работает 9 лет.

    В ассортименте дискаунтера более 50 000 наименований компьютерной цифровой, бытовой и садовой техники, офисной мебели и других товарных категорий. Более 700 мировых брендов в портфеле. Около 4 000 сотрудников по всей России

  • Решения
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Энергетика
    • Фармацевтика
  • Услуги
    • Переход на отечественные BI и DWH
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Техническая поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Платформы
    • FineBI
    • FineReport
    • FineDataLink
    • Коннекторы данных из 1С в BI
    • Airflow + NiFi
    • Visiology
    • Luxms BI
    • Modus BI
    • PIX BI
    • Arenadata
    • ClickHouse
    • Greenplum
    • Postgres Professional
    • Open-source BI: Superset/Metabase
    • Loginom
    • Yandex.DataLens
    • AI / Исскуственный интеллект
    • Optimacros
    • Шины данных
  • Курсы
    • Учебный курс Информационная грамотность
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt
  • Функциональные решения
    • Создание Data Lake
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и прогнозная аналитика
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • Сквозная аналитика
  • Компания
    • О нас
    • Руководство
    • Новости
    • Клиенты
    • Скачать
    • Контакты
    • Политика конфиденциальности
RutubeVkontakteLinkedInYouTube
ООО "Би Ай Консалт",
ИНН: 7811437757,
ОГРН: 1097847154184
199178, Россия,
Санкт-Петербург,
6-ая линия В.О., Д. 63, 4 этаж
Тел: +7 (812) 334-08-01
Тел: +7 (499) 608-13-06
E-mail: info@biconsult.ru

 

 

 

 

 

×

Пользуясь сайтом, вы соглашаетесь с использованием cookies и политикой конфиденциальности.