BI Consult Desktop Logo BI Consult Mobile Logo
  • Russian BI Исследование российских bi
  • Перейти на Fine BI
  • Контакты
  • +7 812 334-08-01
    +7 499 608-13-06
  • Отправить сообщение
  • Главная
  • Продукты Эксперт-BI
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Сельское хозяйство
    • Энергетика
    • FMCG
    • Девелоперы
    • Маркетплейсы
    • Пищевая промышленность
    • Фармацевтика
    • Построение Data Platform
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и FP&A
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • IBP
    • ИТ (CIO)
    • Закупки
  • Платформы
    • Системы бизнес-анализа (BI)
    • Интегрированное бизнес-планирование (IBP)
    • Хранилища данных (DWH / Lakehouse)
    • Каталоги данных (Data Catalog)
    • Системы ETL и ELT
    • AI / Исскуственный интеллект
    • Шина данных (ESB)
    • Система управления мастер-данными (MDM)
    • Семантический слой
  • Услуги
    • Переход на отечественные BI и DWH системы
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений и DWH
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Курсы
    • Учебный курс Информационная грамотность (Data Literacy)
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Greenplum
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt (Data Build Tool)
  • Компания
    • Руководство
    • Новости
    • Клиенты
    • Карьера
    • Скачать
    • Контакты

BI

  • FineBI
  • FineReport
  • FineDataLink
  • FineChatBI (FineAI)
  • Коннекторы данных из 1С в BI
  • Airflow / Nifi
  • Visiology
  • PIX BI
  • Modus BI
  • Yandex.DataLens
  • Open-source BI: Superset/Metabase
  • Luxms BI
  • AW BI + Alpha BI
  • FlyBI + Форсайт. Аналитическая Платформа
  • Loginom
  • Триафлай
  • AI / Исскуственный интеллект
  • Optimacros
  • Навигатор BI
  • Семантический слой

СУБД

  • Arenadata
  • ClickHouse
  • Greenplum
  • Postgres Professional
  • TData

Другое

  • Построение Data Platform
    • Аналитическое хранилище данных
    • Data Lake и Data Engineering
    • Подробнее про Data Lake
    • Внедрение Lakehouse
      • Apache Doris
      • StarRocks
      • Trino
    • Миграция витрин из пропиетарных DWH на новый стек
    • Учебный курс "Современная архитектура хранилища данных"
Главная » Курсы по системам бизнес-анализа и методологии » Учебный курс Современная архитектура хранилища данных » Межрегиональная репликация AWS S3

Межрегиональная репликация AWS S3

 

Amazon Simple Storage Service (S3) - это масштабируемая служба хранения объектов, которая позволяет хранить и извлекать любые объемы данных. В этом руководстве мы рассмотрим настройку межрегиональной репликации (CRR) и совместное использование объектов через предварительно подписанные URL-адреса.

Сначала давайте создадим бакет S3 и добавим объект.

aws s3api create-bucket --bucket your-unique-bucket-name --region us-east-1
 echo "Hello, S3!" > hello.txt
 aws s3 cp hello.txt s3://your-unique-bucket-name/

 

Это создаст простой текстовый файл с именем hello.txt и загрузит его в бакет S3.

Далее давайте включим публичный доступ и версионирование бакета. Для этого перейдите в консоль AWS S3, выберите бакет и перейдите на вкладку «Permissions». Отредактируйте политику бакета, используя следующий пример JSON:

{
    "Version": "2012-10-17",
    "Statement": [
        {             "Effect": "Allow",
            "Principal": "*",
            "Action": "s3:GetObject",
            "Resource": "arn:aws:s3:::your-unique-bucket-name/*"
        }     ] }

 

Это позволит получить публичный доступ на чтение к объектам в бакете.

 

 

Включите версионирование с помощью AWS CLI:

aws s3api put-bucket-versioning --bucket your-unique-bucket-name --versioning-configuration Status=Enabled

 

Версионирование помогает отслеживать изменения в объектах с течением времени, включая удаленные объекты.

 

Репликация CRR

Cross-Region Replication (CRR) - это важная функция AWS S3, которая позволяет реплицировать объекты в разных регионах AWS. Это повышает долговечность и доступность данных, обеспечивая надежное решение для аварийного восстановления и соблюдения нормативных требований.

 

Шаг 1:

Перед настройкой CRR необходимо создать роль IAM, которая будет предоставлять разрешения, необходимые для репликации. Выполните следующую команду, чтобы создать роль IAM с именем CrossRegionReplicationRole с политикой доверия, указанной в файле crr-trust-policy.json:

aws iam create-role --role-name CrossRegionReplicationRole --assume-role-policy-document file://crr-trust-policy.json
 

Ниже приведен пример файла crr-trust-policy.json, содержащего политику доверия для роли IAM, используемой в CRR в AWS S3:

{
  "Version": "2012-10-17",
  "Statement": [
    {       "Effect": "Allow",
      "Principal": {
        "Service": "s3.amazonaws.com"
      },       "Action": "sts:AssumeRole"
    }   ] }

 

Шаг  2:

Создайте файл с именем crr-policy.json и укажите политику IAM, предоставляющую разрешения для межрегиональной репликации. Эта политика включает в себя разрешения на получение конфигураций репликации, список бакетов, получение версий объектов, репликацию объектов и репликацию удалений.

{
    "Version": "2012-10-17",
    "Statement": [
        {             "Effect": "Allow",
            "Action": [
                "s3:GetReplicationConfiguration",
                "s3:ListBucket",
                "s3:GetObjectVersion",
                "s3:GetObject"
            ],             "Resource": [
                "arn:aws:s3:::your-source-bucket",
                "arn:aws:s3:::your-source-bucket/*"
            ]         },         {             "Effect": "Allow",
            "Action": [
                "s3:ReplicateObject",
                "s3:ReplicateDelete"
            ],             "Resource": "arn:aws:s3:::your-destination-bucket/*"
        }     ] }

 

Шаг 3:

Прикрепите роль IAM к исходному бакету с помощью следующей команды:

aws s3api put-bucket-replication --bucket your-source-bucket --replication-configuration file://crr-configuration.json
 

Ниже приведен пример файла crr-configuration.json для CRR в AWS S3. Обратите внимание, что Вам нужно заменить значения placeholder, такие как your-source-bucket, your-destination-bucket и arn:aws:iam::123456789012:role/CrossRegionReplicationRole на реальные имена бакетов и ARN роли IAM. 

{
  "Role": "arn:aws:iam::123456789012:role/CrossRegionReplicationRole",
  "Rules": [
    {       "ID": "Rule1",
      "Prefix": "",
      "Status": "Enabled",
      "SourceSelectionCriteria": {
        "SseKmsEncryptedObjects": {
          "Status": "Enabled"
        }       },       "Destination": {
        "Bucket": "arn:aws:s3:::your-destination-bucket",
        "StorageClass": "STANDARD_IA",
        "BucketAccountId": "123456789012"
      }     }   ] }

 

Ссылка, которой можно поделиться с другими пользователями

После настройки межрегиональной репликации Вам может потребоваться безопасный обмен объектами с другими пользователями. AWS предоставляет функцию, называемую предварительно подписанными URL-адресами, которые представляют собой ограниченные по времени URL-адреса, предоставляющие временный доступ к объектам S3. Для генерации предварительно подписанного URL для определенного объекта в бакете используйте следующую команду:

aws s3 presign s3://your-unique-bucket-name/hello.txt --expires-in 3600

 

Флаг --expires-in задает время действия URL в секундах. В данном примере URL действует в течение одного часа (3600 секунд). Сгенерированный URL-адрес можно передать другим пользователям. Любой человек с таким URL может получить доступ к связанному объекту S3 в течение указанного времени.

 

Очистка

Убедитесь, что Вы удалили следующие ресурсы:

aws s3 rb s3://your-unique-bucket-name --force
 aws iam delete-role --role-name CrossRegionReplicationRole

 

Заключение

В этой статье мы погрузились в тонкости работы Amazon Simple Storage Service (S3) на AWS, изучили ключевые особенности и функциональные возможности, которые позволяют  эффективно управлять данными и обеспечивать их безопасность. Будьте осторожны при работе с общедоступными и конфиденциальными данными! Регулярно пересматривайте и обновляйте политики бакета для обеспечения его безопасности.

 

Узнать стоимость решенияЗапросить видео презентацию

← Предыдущая статья
Python — Работа с AWS S3 с помощью Boto3 от Python
Следующая статья →
CI/CD и инциденты в аналитике

Решения

Анализировать ФинансыУвеличивайте ПродажиОптимальный Склад и ЛогистикаМаркетинговые Метрики

Клиенты
  • Novikov group – первый российский ресторанный холдинг, основанный в 1991 году. Это команда профессионалов под управлением Аркадия Новикова, реализующая широкий спектр услуг в сфере гостеприимства: от проведения event-мероприятия до управления рестораном, от установления стандартов сервиса до контроля качества готовой продукции, от построения бизнес-плана проекта до реализации франшизы.

  • «Синтека» — ведущий разработчик инновационных сервисов для строительной отрасли, который решает ключевые задачи автоматизации службы снабжения строительных компаний.

  • Группа компаний «Галакс» ведет свою деятельность с 2005 года, являясь в те годы дистрибьютором известных международных марок в ряде крупнейших торговых сетей России в сегменте аудио и видео аксессуаров. Активно работая в этом направлении и приобретая ценный опыт, начали создавать собственные торговые марки «GAL» и «VIXTER»

  • В 2003 году Мерсико и пятью микрокредитными агентствами Мерсико было принято историческое решение о консолидации активов по всей территории Кыргызстана в целях образования национального финансового института по развитию сообществ - Компаньона. В октябре 2004 года Компаньон был зарегистрирован Национальным банком Кыргызской Республики.

  • Решения
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Энергетика
    • Фармацевтика
  • Услуги
    • Переход на отечественные BI и DWH
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Техническая поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Платформы
    • FineBI
    • FineReport
    • FineDataLink
    • Коннекторы данных из 1С в BI
    • Airflow + NiFi
    • Visiology
    • Luxms BI
    • Modus BI
    • PIX BI
    • Arenadata
    • ClickHouse
    • Greenplum
    • Postgres Professional
    • Open-source BI: Superset/Metabase
    • Loginom
    • Yandex.DataLens
    • AI / Исскуственный интеллект
    • Optimacros
    • Шины данных
  • Курсы
    • Учебный курс Информационная грамотность
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt
  • Функциональные решения
    • Создание Data Lake
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и прогнозная аналитика
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • Сквозная аналитика
  • Компания
    • О нас
    • Руководство
    • Новости
    • Клиенты
    • Скачать
    • Контакты
    • Политика конфиденциальности
RutubeVkontakteLinkedInYouTube
ООО "Би Ай Консалт",
ИНН: 7811437757,
ОГРН: 1097847154184
199178, Россия,
Санкт-Петербург,
6-ая линия В.О., Д. 63, 4 этаж
Тел: +7 (812) 334-08-01
Тел: +7 (499) 608-13-06
E-mail: info@biconsult.ru

 

 

 

 

 

×

Пользуясь сайтом, вы соглашаетесь с использованием cookies и политикой конфиденциальности.