BI Consult Desktop Logo BI Consult Mobile Logo
  • Russian BI Исследование российских bi
  • Перейти на Fine BI
  • Контакты
  • +7 812 334-08-01
    +7 499 608-13-06
  • Отправить сообщение
  • Главная
  • Продукты Эксперт-BI
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Сельское хозяйство
    • Энергетика
    • FMCG
    • Девелоперы
    • Маркетплейсы
    • Пищевая промышленность
    • Фармацевтика
    • Построение Data Platform
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и FP&A
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • IBP
    • ИТ (CIO)
    • Закупки
  • Платформы
    • Системы бизнес-анализа (BI)
    • Интегрированное бизнес-планирование (IBP)
    • Хранилища данных (DWH / Lakehouse)
    • Каталоги данных (Data Catalog)
    • Системы ETL и ELT
    • AI / Исскуственный интеллект
    • Шина данных (ESB)
    • Система управления мастер-данными (MDM)
    • Семантический слой
  • Услуги
    • Переход на отечественные BI и DWH системы
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений и DWH
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Курсы
    • Учебный курс Информационная грамотность (Data Literacy)
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Greenplum
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt (Data Build Tool)
  • Компания
    • Руководство
    • Новости
    • Клиенты
    • Карьера
    • Скачать
    • Контакты

BI

  • FineBI
  • FineReport
  • FineDataLink
  • FineChatBI (FineAI)
  • Коннекторы данных из 1С в BI
  • Airflow / Nifi
  • Visiology
  • PIX BI
  • Modus BI
  • Yandex.DataLens
  • Open-source BI: Superset/Metabase
  • Luxms BI
  • AW BI + Alpha BI
  • FlyBI + Форсайт. Аналитическая Платформа
  • Loginom
  • Триафлай
  • AI / Исскуственный интеллект
  • Optimacros
  • Навигатор BI
  • Семантический слой

СУБД

  • Arenadata
  • ClickHouse
  • Greenplum
  • Postgres Professional
  • TData

Другое

  • Построение Data Platform
    • Аналитическое хранилище данных
    • Data Lake и Data Engineering
    • Подробнее про Data Lake
    • Внедрение Lakehouse
      • Apache Doris
      • StarRocks
      • Trino
    • Миграция витрин из пропиетарных DWH на новый стек
    • Учебный курс "Современная архитектура хранилища данных"
Главная » Российские платформы современного стека хранения, обработки и анализа данных » Системы ETL и ELT » Коннекторы данных из 1С в BI » АТК BiView (1C Коннектор для всех BI-систем) » Документация ATK BiView » Инкрементальная загрузка BI-приложения

Инкрементальная загрузка BI-приложения

BI-приложение инкрементальной загрузки состоит из четырех частей:

1) Код загрузки номера версии последнего изменения в переменную vLastVer.

За хранение и присвоение новых значений переменной vLastVer отвечает BI-приложение.

Переменная vLastVer хранит максимальный номер версии последних изменений загруженных и обработанных в прошлый раз.

При первоначальном запуске отслеживания изменений переменная vLastVer должна иметь значение -1

2) Код загрузки с SQL сервера номера версии последнего изменения в базе данных 1С в переменную vNextVer. Переменная vNextVer хранит номер версии последних изменений на текущий момент времени.

3) Список SELECT-скриптов для отбора изменений. Каждый скрипт содержит переменную vLastVer, для фильтрации отбираемых данных по номеру версии изменения

4) Код присвоения нового значения переменной vLastVer. В качестве нового значения используется значение переменной vNextVer.

Далее BI-приложение сохраняет vLastVer для использования при следующем прогоне.

BI-приложение может использовать любой способ сохранения и загрузки переменной vNextVer — для этого можно использовать текстовый файл, Qvd-файл и др.

Далее, на пример QlikView/QlikSense, в схематичном виде приведен пример приложения инкрементальной загрузки.

В примере ниже для хранения переменной vLastVer используется тестовый файл CT_VER.txt

Первоначальное содержимое файла CT_VER.txt хранит значение vNextVer = -1

//—————— Cоединение с БД 1С

OLEDB CONNECT TO [Provider=SQLOLEDB.1;Integrated Security=SSPI……………

LET PATH =left(DocumentPath(), index(DocumentPath(), ‘\’, -1)); //—- путь к файлу CT_VER.txt

//—————— 1) получить текущую Версия vLastVer — хранится приложением

CT_LAST:

LOAD @1 AS LAST_VER_CT FROM [$(PATH)CT_VER.txt]

(txt,codepage is 1251, no labels, no quotes, header is 1 lines);

LET vLastVer = NUM(peek(‘LAST_VER_CT’, 0, ‘CT_LAST’));

DROP TABLE CT_LAST;

//—————— 2) получить от SQL-сервера Следующую Версия=ю vNextVer

CT_NEXT:

SELECT CHANGE_TRACKING_CURRENT_VERSION() as NEXT_VER_CT;

LET vNextVer = NUM(peek(‘NEXT_VER_CT’,0,’CT_NEXT’));

DROP TABLE CT_NEXT;

//—————— 3) загрузка изменений

Документы.ABCКлассификацияПокупателей:

SELECT

CT.SYS_CHANGE_VERSION

,CT.SYS_CHANGE_OPERATION

,CT._IDRRef [ABCКлассификацияПокупателей ID]

FROM

CHANGETABLE(CHANGES «UT83».[dbo].[_Document57], $(vLastVer) ) AS CT // эта переменная управляет отбором

LEFT OUTER JOIN «UT83».[dbo].[_Document57] AS T ON T.[_IDRRef] = CT.[_IDRRef];

/***** Здесь должен быть Код Алгоритма инкрементальной загрузки

ЭТОТ РАЗДЕЛ НЕ ЗАВЕРШЕН И БУДЕТ РАСШИРЯТЬСЯ В ВЛЕЖУЮЩИХ ВЫПУСКАХ

******/

//—————— 4) установка и сохранения нового значения CT-версии для следующей загрузки

CT_VER:

LOAD ‘$(vNextVer)’ as [LAST_VER_CT] AutoGenerate 1;

STORE LAST_VER_CT FROM CT_VER INTO [$(PATH)\CT_VER.txt] (txt);

DROP TABLE CT_VER;

 

Форма запроса ключа регистрации

← Предыдущая статья
DictionaryTabType.csv
Следующая статья →
Общие принципы инкрементальной загрузки
Запросить видео презентацию Запросить доступ к демо стенду online Узнать стоимость лицензий

Задать вопрос

loading...

Решения

Анализировать ФинансыУвеличивайте ПродажиОптимальный Склад и ЛогистикаМаркетинговые Метрики

Клиенты
  • В 2003 году Мерсико и пятью микрокредитными агентствами Мерсико было принято историческое решение о консолидации активов по всей территории Кыргызстана в целях образования национального финансового института по развитию сообществ - Компаньона. В октябре 2004 года Компаньон был зарегистрирован Национальным банком Кыргызской Республики.

  • Торгово-производственному холдингу ТБМ, специализирующемуся на поставке комплектующих и фурнитуры для производства окон, дверей, стеклопакетов и мебели, был необходим аналитический инструмент для выявления узким мест и поиска зон роста бизнеса и, как результат, оптимизации процессов. Добиться этого можно было, только внедрив data-driven подход.

  • Компания «Бизон-Трейд» является официальным дилером ведущих мировых производителей сельскохозяйственной техники (Fendt, Valtra, Lemken и др.) на Юге России. Входит в состав агрохолдинга «Бизон», основанного в 1994 году. Имеет 8 филиалов в Краснодарском и Ставропольском краях, Ростовской области.

  • «Балтийский лизинг» — первая компания в России, получившая лицензию № 0001 от Министерства экономики РФ на лизинговую деятельность, лицензия зарегистрирована 2 сентября 1996 года. «Балтийский лизинг» работает на российском рынке 33 года: компания представлена 79 филиалами по всей стране, сегодня в штате более 1300 сотрудников. За последние десять лет компания профинансировала имущество для 80 000 клиентов.

  • Решения
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Энергетика
    • Фармацевтика
  • Услуги
    • Переход на отечественные BI и DWH
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Техническая поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Платформы
    • FineBI
    • FineReport
    • FineDataLink
    • Коннекторы данных из 1С в BI
    • Airflow + NiFi
    • Visiology
    • Luxms BI
    • Modus BI
    • PIX BI
    • Arenadata
    • ClickHouse
    • Greenplum
    • Postgres Professional
    • Open-source BI: Superset/Metabase
    • Loginom
    • Yandex.DataLens
    • AI / Исскуственный интеллект
    • Optimacros
    • Шины данных
  • Курсы
    • Учебный курс Информационная грамотность
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt
  • Функциональные решения
    • Создание Data Lake
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и прогнозная аналитика
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • Сквозная аналитика
  • Компания
    • О нас
    • Руководство
    • Новости
    • Клиенты
    • Скачать
    • Контакты
    • Политика конфиденциальности
RutubeVkontakteLinkedInYouTube
ООО "Би Ай Консалт",
ИНН: 7811437757,
ОГРН: 1097847154184
199178, Россия,
Санкт-Петербург,
6-ая линия В.О., Д. 63, 4 этаж
Тел: +7 (812) 334-08-01
Тел: +7 (499) 608-13-06
E-mail: info@biconsult.ru

 

 

 

 

 

×

Пользуясь сайтом, вы соглашаетесь с использованием cookies и политикой конфиденциальности.