BI Consult Desktop Logo BI Consult Mobile Logo
  • Russian BI Исследование российских bi
  • Перейти на Fine BI
  • Контакты
  • +7 812 334-08-01
    +7 499 608-13-06
  • Отправить сообщение
  • Главная
  • Продукты Эксперт-BI
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Сельское хозяйство
    • Энергетика
    • FMCG
    • Девелоперы
    • Маркетплейсы
    • Пищевая промышленность
    • Фармацевтика
    • Построение Data Platform
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и FP&A
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • IBP
    • ИТ (CIO)
    • Закупки
  • Платформы
    • Системы бизнес-анализа (BI)
    • Интегрированное бизнес-планирование (IBP)
    • Хранилища данных (DWH / Lakehouse)
    • Каталоги данных (Data Catalog)
    • Системы ETL и ELT
    • AI / Исскуственный интеллект
    • Шина данных (ESB)
    • Система управления мастер-данными (MDM)
    • Семантический слой
  • Услуги
    • Переход на отечественные BI и DWH системы
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений и DWH
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Курсы
    • Учебный курс Информационная грамотность (Data Literacy)
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Greenplum
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt (Data Build Tool)
  • Компания
    • Руководство
    • Новости
    • Клиенты
    • Карьера
    • Скачать
    • Контакты

BI

  • FineBI
  • FineReport
  • FineDataLink
  • FineChatBI (FineAI)
  • Коннекторы данных из 1С в BI
  • Airflow / Nifi
  • Visiology
  • PIX BI
  • Modus BI
  • Yandex.DataLens
  • Open-source BI: Superset/Metabase
  • Luxms BI
  • AW BI + Alpha BI
  • FlyBI + Форсайт. Аналитическая Платформа
  • Loginom
  • Триафлай
  • AI / Исскуственный интеллект
  • Optimacros
  • Навигатор BI
  • Семантический слой

СУБД

  • Arenadata
  • ClickHouse
  • Greenplum
  • Postgres Professional
  • TData

Другое

  • Построение Data Platform
    • Аналитическое хранилище данных
    • Data Lake и Data Engineering
    • Подробнее про Data Lake
    • Внедрение Lakehouse
      • Apache Doris
      • StarRocks
      • Trino
    • Миграция витрин из пропиетарных DWH на новый стек
    • Учебный курс "Современная архитектура хранилища данных"
Главная » Курсы по системам бизнес-анализа и методологии » Учебный курс по PostgreSQL » Как устроен PostgreSQL » Concurrent VACUUM PostgreSQL

Concurrent VACUUM PostgreSQL

VACUUM выполняет следующие задачи:

  1. Удаление “мертвых” кортежей:
  2. Выполнение агрессивной “заморозки” кортежей;
  3. Другие задачи (обновление карт свободного пространства или FSM, а также карт видимости (VM): обновление статистики, например, pg_stat_all_tables и т.д.).

 

Предполагается, что читатели уже знакомы с такими терминами, как “мертвые” кортежи, FSM и CLOG; Если Вы еще не знакомы с данными понятиями, вернитесь к разделу 5. Информация о VM представлена в подразделе 6.2.

Следующий псевдокод описывает процесс VACUUM:

(1)    FOR each table
(2)      Acquire a ShareUpdateExclusiveLock lock for the target table

         /* The first block */
(3)      Scan all pages to get all dead tuples, and freeze old tuples if necessary
(4)      Remove the index tuples that point to the respective dead tuples if exists
 
         /* The second block */
(5)      FOR each page of the table
(6)         Remove the dead tuples, and Reallocate the live tuples in the page
(7)         Update FSM and VM
         END FOR
 
         /* The third block */
(8)      Clean up indexes
(9)      Truncate the last page if possible
(10)     Update both the statistics and system catalogs of the target table
            Release the ShareUpdateExclusiveLock lock
      END FOR
 
      /* Post-processing */
(11)  Update statistics and system catalogs
(12)  Remove both unnecessary files and pages of the clog if possible

 

  • (1) Получите каждую таблицу из указанных таблиц;
  • (2) Осуществите блокировку ShareUpdateExclusiveLock для таблицы;
  • (3) Просканируйте все страницы, чтобы получить все “мертвые” кортежи, при необходимости “заморозьте” старые кортежи;
  • (4) Удалите индексs, указывающие на соответствующие “мертвые” кортежи, если они существуют;
  • (5) Выполните шаги (6) и (7) для каждой страницы таблицы;
  • (6) Удалите “мертвые” кортежи и перераспределите “живые” кортежи по странице;
  • (7) Обновите FSM и VM целевой таблицы;
  • (8) Очистите индексы с помощью функции index_vacuum_cleanup()@indexam.c;
  • (9) Удалите последнюю страницу, если она не содержит ни одного кортежа;
  • (10) Обновите статистику и системные каталоги, связанные с процессом VACUUM по отношению к целевой таблицы;
  • (11) Обновите статистику и системных каталоги, связанные с процессом VACUUM;
  • (12) По возможности удалите ненужные файлы и страницы CLOG.

 

Псевдокод состоит из двух частей: цикла для каждой таблицы и постобработки. Внутренний цикл можно разделить на три блока, каждый из которых выполняет определенные задачи.

Примечание: Параллельный VACUUM

В версии 13 была реализована совершено новая возможность, а именно выполнение очистки в параллельном режиме. Сама таблица по-прежнему очищается одним (ведущим) процессом, но для очистки индексов он теперь может запускать фоновые рабочие процессы, по одному на каждый индекс. В ручном режиме это позволяет ускорить очистку больших таблиц с несколькими индексами; автоматическая очистка пока не использует эту возможность.

Обратите внимание на то, что данную возможность можно реализовать только лишь в рамках операции VACUUM , AUTOVACUUM не поддерживает данную функцию.

 

Первый блок

Этот блок выполняет операцию заморозки и удаляет индексы, указывающие на “мертвые” кортежи.

Для того, чтобы составить список “мертвых” кортежей и по возможности заморозить старые кортежи PostgreSQL сканирует целевую таблицу. Полученный список хранится в локальной памяти под названием maintenance_work_mem. Описание процесса заморозки Вы найдете в подразделе  6.3.

После сканирования PostgreSQL удаляет индексные кортежи, обращаясь к списку “мертвых” кортежей. Этот процесс носит название "стадия очистки" или “cleanup stage”. Это достаточно дорогостоящий процесс, который был оптимизирован в 11 версии PostgreSQL.

В версиях 10 и более ранних версиях этап очистки выполняется всегда. В версиях 11 и новее, если индексом является B-дерево, выполнение (или невыполнение) данной стадии определяется конфигурационным параметром под названием vacuum_cleanup_index_scale_factor.

Подробное описание данного параметра доступно по ссылке.

Если параметр память maintenance_work_mem заполнен, а сканирование не завершено, PostgreSQL переходит к шагам (4) - (7) и затем возвращается к шагу (3), после чего продолжает сканирование.

 

Второй блок

Этот блок удаляет “мертвые” кортежи и обновляет FSM и VM для каждой таблицы:

Предположим, что таблица содержит три страницы. Сосредоточимся на 0-й странице (т. е. первой). Эта страница содержит три кортежа. Tuple_2 является “мертвым” кортежем (рис. 69 (1)). В этом случае PostgreSQL удаляет Tuple 2 и переупорядочивает оставшиеся кортежи для того, чтобы устранить фрагментацию. Затем он обновляет FSM и VM этой страницы (рис. 69(2)). PostgreSQL продолжает этот процесс до перехода к последней странице.

Обратите внимание на то, что ненужные указатели строк не удаляются. Они будут повторно использованы в будущем. Это связано с тем, что при удалении линейных указателей все кортежи связанных с ними индексов должны быть обновлены.

 

Третий блок

Третий блок выполняет очистку, а также обновляет статистику и системные каталоги, связанные с вакуумной обработкой, для каждой целевой таблицы.

Кроме того, если последняя страница не содержит кортежей, она удаляется из файла таблицы.

 

Постобработка

Когда вакуумная обработка завершена, PostgreSQL обновляет всю статистику и системные каталоги, связанные с вакуумной обработкой. Кроме того, по возможности удаляются ненужные части CLOG (Раздел 6.4).

Примечание: Ring Buffer

Вакуумная обработка использует структуру ring buffer, описанную в разделе  8.5. Поэтому обработанные страницы не кэшируются в общих буферах.

 

 

Узнать стоимость решенияЗапросить видео презентацию

← Предыдущая статья
Необходимые поддерживающие процессы PostgreSQL
Следующая статья →
Карта видимости PostgreSQL

Решения

Анализировать ФинансыУвеличивайте ПродажиОптимальный Склад и ЛогистикаМаркетинговые Метрики

Клиенты
  • Нашей компанией был реализован проект автоматизации конвейера данных на базе СПО ETL-инструмента Apache NiFi для клиента ООО «Императорский Монетный Двор» в части актуализации данных, передаваемых из Системы Oracle в Anaplan.

  • ООО "Интернэшнл Ресторант Брэндс" – это крупнейший франчайзинговый партнер компании Yum! Brands Russia & CIS в России, отвечающий за рост и развитие бренда KFC на территории РФ. На сегодняшний день у компании более 350 ресторанов. Ежедневно в рестораны приходит 200 000+ гостей.

  • Группа компаний «Невский кондитер» основана в 1996 году в Санкт-Петербурге и на сегодняшний день является одним из крупнейших производителей кондитерских изделий в России.

     

  • Российский филиал одного их ведущих мировых производителей и дистрибьютеров косметики Estee Lauder Companies Inc. выбрал аналитическую платформу Loginom для предиктивной аналитики продаж как в офлайн-, так и в онлайн-канале.

  • Решения
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Энергетика
    • Фармацевтика
  • Услуги
    • Переход на отечественные BI и DWH
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Техническая поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Платформы
    • FineBI
    • FineReport
    • FineDataLink
    • Коннекторы данных из 1С в BI
    • Airflow + NiFi
    • Visiology
    • Luxms BI
    • Modus BI
    • PIX BI
    • Arenadata
    • ClickHouse
    • Greenplum
    • Postgres Professional
    • Open-source BI: Superset/Metabase
    • Loginom
    • Yandex.DataLens
    • AI / Исскуственный интеллект
    • Optimacros
    • Шины данных
  • Курсы
    • Учебный курс Информационная грамотность
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt
  • Функциональные решения
    • Создание Data Lake
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и прогнозная аналитика
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • Сквозная аналитика
  • Компания
    • О нас
    • Руководство
    • Новости
    • Клиенты
    • Скачать
    • Контакты
    • Политика конфиденциальности
RutubeVkontakteLinkedInYouTube
ООО "Би Ай Консалт",
ИНН: 7811437757,
ОГРН: 1097847154184
199178, Россия,
Санкт-Петербург,
6-ая линия В.О., Д. 63, 4 этаж
Тел: +7 (812) 334-08-01
Тел: +7 (499) 608-13-06
E-mail: info@biconsult.ru

 

 

 

 

 

×

Пользуясь сайтом, вы соглашаетесь с использованием cookies и политикой конфиденциальности.