BI Consult Desktop Logo BI Consult Mobile Logo
  • Russian BI Исследование российских bi
  • Перейти на Fine BI
  • Контакты
  • +7 812 334-08-01
    +7 499 608-13-06
  • Отправить сообщение
  • Главная
  • Продукты Эксперт-BI
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Сельское хозяйство
    • Энергетика
    • FMCG
    • Девелоперы
    • Маркетплейсы
    • Пищевая промышленность
    • Фармацевтика
    • Построение Data Platform
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и FP&A
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • IBP
    • ИТ (CIO)
    • Закупки
  • Платформы
    • Системы бизнес-анализа (BI)
    • Интегрированное бизнес-планирование (IBP)
    • Хранилища данных (DWH / Lakehouse)
    • Каталоги данных (Data Catalog)
    • Системы ETL и ELT
    • AI / Исскуственный интеллект
    • Шина данных (ESB)
    • Система управления мастер-данными (MDM)
    • Семантический слой
  • Услуги
    • Переход на отечественные BI и DWH системы
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений и DWH
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Курсы
    • Учебный курс Информационная грамотность (Data Literacy)
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Greenplum
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt (Data Build Tool)
  • Компания
    • Руководство
    • Новости
    • Клиенты
    • Карьера
    • Скачать
    • Контакты

BI

  • FineBI
  • FineReport
  • FineDataLink
  • FineChatBI (FineAI)
  • Коннекторы данных из 1С в BI
  • Airflow / Nifi
  • Visiology
  • PIX BI
  • Modus BI
  • Yandex.DataLens
  • Open-source BI: Superset/Metabase
  • Luxms BI
  • AW BI + Alpha BI
  • FlyBI + Форсайт. Аналитическая Платформа
  • Loginom
  • Триафлай
  • AI / Исскуственный интеллект
  • Optimacros
  • Навигатор BI
  • Семантический слой

СУБД

  • Arenadata
  • ClickHouse
  • Greenplum
  • Postgres Professional
  • TData

Другое

  • Построение Data Platform
    • Аналитическое хранилище данных
    • Data Lake и Data Engineering
    • Подробнее про Data Lake
    • Внедрение Lakehouse
      • Apache Doris
      • StarRocks
      • Trino
    • Миграция витрин из пропиетарных DWH на новый стек
    • Учебный курс "Современная архитектура хранилища данных"
Главная » Курсы по системам бизнес-анализа и методологии » Учебный курс Современная архитектура хранилища данных » Как пустой бакет S3 может разорить Вас

Как пустой бакет S3 может разорить Вас

Представьте, что Вы создаете пустой частный бакет AWS S3 в выбранном Вами регионе. Как думаете, каким будет Ваш счет за услуги AWS на следующее утро?

Несколько недель назад я начал работать над PoC системы индексирования документов для своего клиента. Я создал один бакет S3 в регионе eu-west-1 и загрузил туда сразу несколько файлов. Два дня спустя я проверил свою страницу AWS, прежде всего для того, чтобы убедиться в том, что то, что я делаю, укладывается в рамки free-tier. Очевидно, что это было не так. Мой счет составил более 1300 долларов, а схема биллинга показала почти 100 000 000 запросов S3 PUT, выполненных всего за один день!

 

Откуда поступали эти запросы?

По умолчанию AWS не ведет журнал запросов, выполняемых к бакетам S3. Однако такие журналы можно включить с помощью AWS CloudTrail или S3 Server Access Logging. Включив журнал CloudTrail, я сразу же обнаружил тысячи запросов на запись, исходящих из нескольких учетных записей, то есть не из AWS.

 

Но зачем каким-то третьим лицам бомбардировать мой бакет S3 несанкционированными запросами?

Была ли это какая-то DDoS-атака на мой аккаунт? Против AWS? Как выяснилось, один из самых популярных инструментов с открытым исходным кодом по умолчанию хранил свои резервные копии в S3. А в качестве имени бакета они использовали...внимание… то же самое имя, которое я использовал для своего бакета. Это означало, что каждое развертывание этого инструмента со значениями конфигурации по умолчанию пыталось хранить свои резервные копии в моем бакете S3!

Примечание: я не могу раскрыть название инструмента, о котором я говорю, так как это подвергнет пострадавшие компании риску утечки корпоративных данных.

Итак, орда неправильно настроенных систем пытается хранить свои данные в моем личном бакете S3. Но почему именно я должен платить за эту ошибку? А вот почему:

 

S3 взимает плату за несанкционированные входящие запросы

Это было подтверждено в ходе моего общения со службой поддержки AWS. Они написали следующее:

Да, S3 взимает плату за неавторизованные запросы (4xx)[1]. Это ожидаемо.

Итак, если я сейчас открою терминал и наберу:

aws s3 cp ./file.txt s3://your-buck​et-name/random_key

 

Я получу ошибку AccessDenied, но платить за этот запрос будете Вы. И для этого мне даже не нужна своя учетная запись AWS.

Еще один вопрос не давал мне покоя: почему более половины моего счета приходило из региона us-east-1? Ведь там у меня не было ни одного бакета! Ответ на этот вопрос заключается в том, что запросы S3 без указанного региона по умолчанию направляются в us-east-1 и перенаправляются по мере необходимости. А за этот перенаправленный запрос платит владелец бакета…

 

Аспект безопасности

Теперь мы понимаем, почему мой бакет S3 был атакован миллионами запросов и почему в итоге я получил огромный счет за S3. В этот момент у меня возникла еще одна идея, которую я захотел проверить. Если все эти неправильно настроенные системы пытались создать резервные копии своих данных в моем бакете S3, то почему бы мне просто не позволить им это сделать? Я открыл свой бакет для публичной записи и собрал более 10 ГБ данных менее чем за 30 секунд. Конечно, я не могу раскрыть, чьи это были данные. Но я был поражен тем, как всего лишь одна на первый взгляд невинная оплошность в настройках может привести к утечке данных!

 

Какие уроки я вынес из этой ситуации?

Урок 1: Любой, кто знает имя любого из Ваших бакетов S3, может взвинтить Ваш счет за AWS по своему усмотрению.

Все, что Вы можете сделать это удалить Ваш бакет. Вы не можете защитить его с помощью таких сервисов, как CloudFront или WAF, если доступ к нему осуществляется напрямую через S3 API. Стандартные запросы S3 PUT стоят 0.005 долларов за 1 000 шт, одна машина может легко выполнять тысячи таких запросов в секунду.

 

Урок 2: Добавление суффикса к именам бакетов может повысить их безопасность

Такая практика снижает уязвимость системы перед неверно настроенными программами или преднамеренными атаками. Избегайте использования коротких и общих имен бакетов S3.

 

Урок 3: При выполнении большого количества запросов к S3 не забудьте указать регион AWS.

Так Вы сможете избежать дополнительных расходов на перенаправление S3 API.

 

Послесловие:

  1. Я сообщил о своих выводах разработчикам уязвимого open-source инструмента. Они быстро исправили конфигурацию по умолчанию.
  2. Я уведомил команду безопасности AWS. Я предложил им ограничить использование злополучного имени бакета S3, чтобы защитить своих клиентов от непредвиденных расходов, а пострадавшие компании - от утечки данных. Но они не захотели устранять ошибки в конфигурации сторонних продуктов.
  3. Я сообщил об этой проблеме двум компаниям, чьи данные я обнаружил в своем бакете. Они не ответили на мои письма, возможно, посчитав их спамом.
  4. AWS была достаточно любезна, чтобы аннулировать мой счет за S3. Однако они подчеркнули, что это было сделано в виде исключения.

 

Узнать стоимость решенияЗапросить видео презентацию

← Предыдущая статья
Как проверить файл AWS S3 на наличие каких-либо угроз в Nodejs
Следующая статья →
Python — управление бакетами S3 с помощью Python

Решения

Анализировать ФинансыУвеличивайте ПродажиОптимальный Склад и ЛогистикаМаркетинговые Метрики

Клиенты
  • Банк "Санкт-Петербург" - это универсальный коммерческий банк, предоставляющий полный спектр финансовых услуг для частных и корпоративных клиентов. Банк основан в 1990 году и имеет генеральную лицензию Банка России на осуществление банковских операций. Сеть банка включает более 170 офисов и отделений, а также свыше 1000 банкоматов и терминалов в Санкт-Петербурге, Москве и других регионах.

  • MoneyCare — кредитная платформа и сервис для ПОС-кредитования в магазинах, установленная в более чем 18 тысячах трейдинговых точек и сотрудничающая с 11 главными банками России.

  • В 2003 году Мерсико и пятью микрокредитными агентствами Мерсико было принято историческое решение о консолидации активов по всей территории Кыргызстана в целях образования национального финансового института по развитию сообществ - Компаньона. В октябре 2004 года Компаньон был зарегистрирован Национальным банком Кыргызской Республики.

  • ПАО «Банк Уралсиб» (Публичное акционерное общество «Банк Уралсиб») — российский коммерческий банк. В 2020 году входил в топ-20 банков РФ по размеру активов (рэнкинг рейтингового агентства Эксперт РА), в 2021 году — в топ-25 крупнейших банков страны по расчётам агрегатора Банки.ру

  • Решения
    • Дистрибуция
    • Розничная торговля
    • Производство
    • Операторы связи
    • Страхование
    • Банки
    • Лизинг
    • Логистика
    • Нефтегазовый сектор
    • Медицина
    • Сеть ресторанов
    • E-Commerce
    • Энергетика
    • Фармацевтика
  • Услуги
    • Переход на отечественные BI и DWH
    • Консалтинг
    • Пилотный проект
    • Обучение и сертификация
    • Бесплатное обучение
    • Техническая поддержка
    • Технические задания
    • Сбор требований для проекта внедрения BI-системы
    • CI/CD для DWH
    • Аудит BI приложений
    • Выделенная команда
    • Настойка и поддержка баз данных
    • Разработка BI Стратегии
    • Styleguide для BI-системы
    • Как выбрать BI-систему
  • Платформы
    • FineBI
    • FineReport
    • FineDataLink
    • Коннекторы данных из 1С в BI
    • Airflow + NiFi
    • Visiology
    • Luxms BI
    • Modus BI
    • PIX BI
    • Arenadata
    • ClickHouse
    • Greenplum
    • Postgres Professional
    • Open-source BI: Superset/Metabase
    • Loginom
    • Yandex.DataLens
    • AI / Исскуственный интеллект
    • Optimacros
    • Шины данных
  • Курсы
    • Учебный курс Информационная грамотность
    • Учебный курс для бизнес-аналитиков
    • Учебный курс для системных аналитиков
    • Учебный курс по Data Governance
    • Учебный курс Как стать CDO
    • Учебный курс Современная архитектура хранилища данных
    • Учебный курс по Fine BI
    • Учебный курс по FineReport
    • Учебный курс по DWH
    • Учебный курс по Data Science (ML, AI)
    • Учебный курс по PostgreSQL
    • Учебный курс по Apache Airflow и NiFi
    • Учебный курс по Open-source BI
    • Учебный курс по ClickHouse
    • Учебный курс по DataLens
    • Учебный курс по Loginom
    • Учебный курс по Modus BI и ETL
    • Учебный курс по Visiology
    • Учебный курс по dbt
  • Функциональные решения
    • Создание Data Lake
    • Цифровая трансформация
    • Управление по KPI
    • Финансы
    • Продажи
    • Склад
    • HR
    • Маркетинг
    • Внутренний аудит
    • Категорийный менеджмент
    • S&OP и прогнозная аналитика
    • Геоаналитика
    • Цепочки поставок (SCM)
    • AutoML
    • Process Mining
    • Сквозная аналитика
  • Компания
    • О нас
    • Руководство
    • Новости
    • Клиенты
    • Скачать
    • Контакты
    • Политика конфиденциальности
RutubeVkontakteLinkedInYouTube
ООО "Би Ай Консалт",
ИНН: 7811437757,
ОГРН: 1097847154184
199178, Россия,
Санкт-Петербург,
6-ая линия В.О., Д. 63, 4 этаж
Тел: +7 (812) 334-08-01
Тел: +7 (499) 608-13-06
E-mail: info@biconsult.ru

 

 

 

 

 

×

Пользуясь сайтом, вы соглашаетесь с использованием cookies и политикой конфиденциальности.