Создание генеративного ИИ
Руководителям компаний, понимающих всю ценность данных, стоит обратить свое внимание на 7 шагов, которые позволят их организациям значительно продвинуться в направлении к генеративному ИИ.
Если Ваши данные не готовы к генеративному ИИ, это значит, что и Ваш бизнес еще не созрел для генеративного ИИ.
Согласно последним исследованиям, генеративный ИИ может принести экономическую выгоду в размере от 2,6 до 4,4 триллиона долларов в год (!). Если потянуть за ниточку, то эти цифры приведут к корпоративным данным. Именно Ваши данные являются базой для реализации всех возможностей генеративного ИИ.
72 % крупных организаций уверены в том, что управление корпоративными данными является одной из основных задач, на которых стоит сконцентрировать свои усилия. Современные CDO и руководители служб по обработке данных должны сосредоточиться на изменениях и преобразованиях, которые могут позволить генеративному ИИ создать максимальную ценность для бизнеса.
Однозначного решения, касающегося наиболее оптимальных и результативных способов проведения таких изменений, не существует. Однако в ходе нашей работы над масштабными программами генеративного ИИ, а также совещаний с руководителями отделов данных в крупных компаниях и собственных экспериментов по изменению конфигурации данных мы определили семь шагов, которые руководителям отделов данных рекомендовано взять на вооружение:
- Пусть ценность будет Вашим ориентиром. CDO должны четко понимать, что такое ценность, в чем она заключается и какие данные необходимы для ее достижения;
- Встраивать в существующую архитектуру данных расширенные возможности и передовые технологии. Встраивание таких решений, как векторные базы данных и конвейеры предварительной и последующей обработки данных в существующую архитектуру данных, позволят Вам достичь невероятных результатов;
- Сосредоточиться на ключевых этапах жизненного цикла данных для обеспечения их высокого качества. Предусмотрите меры по оптимизации всех этапов жизненного этапа данных, чтобы обеспечить высокое качество данных, в том числе неструктурированных;
- Защищать конфиденциальные данные. Сосредоточьтесь на обеспечении безопасности корпоративных и персональных данных, внимательно следите за изменениями в нормативной среде;
- Взращивать профессионалов в области обработки данных. Сосредоточьтесь на формировании узкого круга профессионалов, способных внести ощутимый вклад в реализацию Вашей программы по работе с данными, сфокусируйтесь на дата - инженерах и сократите штат специалистов по работе с данными;
- Использовать генеративный ИИ для эффективного управления корпоративными данными. Генеративный ИИ может заметно ускорить выполнение поставленных задач и добиться впечатляющих результатов на всех этапах цепочки создания ценности данных;
- Внимательно отслеживать показатели производительности и при необходимости незамедлительно предпринимать меры по их улучшению. Инвестируйте в способы точного измерения производительности и финансовых показателей, внимательно следите за их внедрением для обеспечения высокого качества данных.
Рассмотрим каждый из перечисленных шагов более подробно.
1. Пусть ценность будет Вашим ориентиром
При определении стратегии данных в области внедрения генеративного ИИ CDO могут руководствоваться цитатой президента Джона Ф. Кеннеди: "Не спрашивайте, что Ваш бизнес может сделать для генеративного ИИ; лучше спросите, что генеративный ИИ может сделать для Вашего бизнеса". Ориентация на ценность - основной принцип работы CDO. Чтобы обеспечить фокус на ценности, CDO должны четко понимать, какую именно ценность для бизнеса может представлять внедрение генеративного ИИ, который может быть реализован в одном из трех архетипах:
- Получатель (Taker): бизнес, который использует уже существующие модели посредством API. В этом случае CDO стоит сосредоточиться на предоставлении качественных данных для генеративных моделей ИИ и последующей проверке полученных результатов;
- Составитель (Shaper): бизнес, который настраивает существующие модели в соответствии со своими потребностями. В данном случае CDO должен определиться с тем, какие именно изменения в существующей архитектуре данных обеспечат достижение желаемых результатов;
- Создатель (Maker): бизнес, разрабатывающий свои собственные модели. В этом случае CDO придется разработать сложную стратегию маркировки и тегирования данных, а также обеспечить значительные инвестиции в развитие собственных моделей.
В ходе реализации подхода «Составитель» центральную роль отводят деятельности CDO, поскольку именно он должен курировать адаптацию моделей под нужды своей компании. Подход «Создатель» могут позволить себе только крупные компании, готовые инвестировать крупные суммы в развитие собственных моделей. Подход «Получатель» могут позволить себе компании любого размера. Во всех указанных случаях именно CDO должен определять приоритеты инициатив, которые могут принести бизнеса максимальную пользу.
Когда CDO помогают сформировать подход бизнеса к генеративному ИИ, важно придерживаться всеобъемлющего взгляда на формирование ценности. Каким бы перспективным ни был генеративный ИИ, он является лишь одной из составляющих портфеля возможностей (Рис. 1). Большую часть потенциальной ценности для бизнеса представляют традиционный ИИ, бизнес-аналитика и машинное обучение (ML). Если руководители CDO считают, что 90 % своего времени необходимо тратить исключительно на инициативы, связанные с генеративным ИИ, то знайте, что ни к чему хорошему это не приведет.
2. Встраивать в существующую архитектуру данных расширенные возможности и передовые технологии
Главное изменение в работе с данными заключается в том, чтобы использовать возможности генеративного ИИ работать с неструктурированными данными, такими как чаты, видео и код. Это значительный шаг вперед, поскольку организации, занимающиеся обработкой данных, традиционно имели возможность работать только со структурированными данными (например, с данными, содержащимися в таблицах). Для получения новых возможностей совершенно необязательно перестраивать существующую архитектуру данных, но если CDO хочет выйти за рамки базового архетипа «Получатель», ему придется сфокусироваться на двух приоритетных направлениях.
Первое, что необходимо сделать, это исправить основы архитектуры данных. Узкие места в системе, с которыми компания могла справляться раньше, могут стать станут серьезными проблемами при внедрении генеративного ИИ. Многие преимущества генеративного ИИ попросту недоступны в случае отсутствия прочного фундамента данных. Для того, чтобы идентифицировать элементы архитектуры данных, которые необходимо исправить, CDO следует определиться с преобразованиями, которые способны обеспечить максимальную пользу. В качестве примера можно привести протоколы обработки данных для личной информации (PII), поскольку любой вариант использования генеративного ИИ, ориентированный на конкретного клиента, будет нуждаться в такой возможности.
Второй приоритет заключается в определении преобразований, позволяющих эффективно управлять и масштабировать интеграцию данных и информации, обеспечивающей бесперебойную работу генеративного ИИ. Если Вы этого не сделаете, то рискуете перегрузить систему массивными вычислениями данных или заставить команды выполнять разовые интеграции, что увеличивает сложность операций и приводит к формированию технического долга. Для определения затрат на вычисления, сеть и использование сервисов CDO должен тесно сотрудничать с ИТ-руководством.
В целом CDO необходимо определить приоритетность реализации пяти ключевых компонентов архитектуры данных как основной части технологического стека предприятия (Рис. 2):
- Хранилище неструктурированных данных: В большинстве случаев большие языковые модели (LLM) работают именно с неструктурированными данными. Руководителям служб обработки данных необходимо составить карту всех источников неструктурированных данных и установить стандарты маркировки метаданных для того, чтобы модели могли эффективно обрабатывать данные, а команды – быстро находить нужные им данные;
- Предварительная обработка данных: Для того, чтобы генеративный ИИ мог использовать данные, они должны быть подготовлены, в частности, необходимо преобразовать форматы файлов, провести очистку данных в целях обеспечения их высокого качества, а также обеспечить конфиденциальность данных. Предварительно обработанные данные чаще всего используются для создания подсказок для генеративных моделей ИИ. Чтобы повысить производительность системы, CDO необходимо стандартизировать работу со структурированными и неструктурированными данными (например, утвердить способы доступа к базовым системам;
- Векторные базы данных: Векторные базы данных позволяют моделям генеративного ИИ получать доступ только к релевантной информации. Например, вместо того чтобы предоставлять PDF-файл на тысячу страниц, векторная база данных предоставляет только самые важные страницы. Во многих случаях компаниям не нужно создавать векторные базы данных для того, чтобы начать работать с генеративным ИИ, для начала они вполне могут использовать только существующие базы данных NoSQL;
- Интеграция LLM: Более сложные виды генеративного ИИ требуют взаимодействия с несколькими системами, что создает значительные трудности при подключении LLM. Несколько фреймворков, многие из которых являются open-source решениями, могут значительно облегчить такую интеграцию (например, LangChain, Semantic Kernel для Azure, Bedrock для AWS или Vertex AI для Google Cloud). CDO необходимо четко описать рекомендации по выбору фреймворков, определить шаблоны промтов и создать шаблоны для взаимодействия LLM с системами исходных данных;
- Prompt engineering: Эффективный prompt engineering (система принципов составления правильных текстовых запросов для искусственного интеллекта) опирается на контекст. Контекст может быть определен только на основе существующих данных и информации из структурированных и неструктурированных источников. Для получения положительных результатов CDO придется управлять интеграцией графов знаний или моделей данных и онтологий в оперативную информацию. Кроме того, CDO должны установить стандарты и провести предварительную валидацию источников для того, чтобы убедиться в том, что данные, поступающие в модели, полностью соответствуют определенным протоколам.
3. Сосредоточиться на ключевых этапах жизненного цикла данных для обеспечения их высокого качества
Качество данных всегда было одним из приоритетов работы CDO. Но масштабы и объем данных, на которые опираются модели генеративного ИИ, сделали общеизвестную истину “garbage in/garbage out” гораздо более значимой и дорогой, поскольку обучение одного LLM может стоить миллионы долларов.Одна из причин, по которой выявить проблемы с качеством данных в моделях генеративного ИИ гораздо сложнее, чем в классических ML-моделях, заключается в том, что используемых данных гораздо больше и большая их часть неструктурирована, что затрудняет использование существующих инструментов отслеживания.
Для того, чтобы обеспечить высокое качество данных, CDO должны сделать две вещи: 1. расширить программы мониторинга данных для приложений генеративного ИИ (например, установить минимальные пороги для неструктурированного контента, который может быть включен в приложения генеративного ИИ) и 2. разработать мероприятия в рамках жизненного цикла данных для устранения проблем в четырех областях:
- Исходные данные: Обеспечьте высокое качество метаданных и меток для структурированных и неструктурированных данных, а также обязательно регулируйте доступ к конфиденциальным данным;
- Предварительная обработка: Обеспечьте согласованность и стандартизацию данных, а также строгое соблюдение онтологий и установленных моделей данных. Выявите отклонения и примените нормализацию данных. Автоматизируйте управление данными PII и разработайте рекомендации по хранению, редактированию, удалению или синтезу данных;
- Промты: Оценивайте, измеряйте и отслеживайте качество промтов. Включите в них высококачественные метаданные и обеспечьте прозрачность происхождения структурированных и неструктурированных данных;
- LLM: Разработайте процедуры для выявления и своевременного устранения некорректных результатов, а также используйте технологию "Human-in-the-Loop". Выделите наиболее перспективных сотрудников и обучите их критически оценивать выходные данные модели, а также следить за качеством исходных данных. Дополните систему автоматизированным мониторингом и оповещением для выявления неправомерных действий.
4. Защищать конфиденциальные данные
Около 71 % ИТ-руководителей высшего звена уверены в том, что технология генеративного ИИ сопряжена с рисками для безопасности корпоративных данных. О безопасности и рисках, связанных с генеративным ИИ, написано много; резюмируя содержание всех проведенных исследований, рекомендуем CDO сделать следующее:
- Выявить риски безопасности для корпоративных данных. Руководителям CDO необходимо оценить риски, связанные с раскрытием корпоративных данных, такие как раскрытие коммерческой тайны при передаче конфиденциального кода моделям генеративного ИИ. В целях устранения специфических рисков генеративного ИИ можно расширить существующие системы защиты данных - например, путем добавления всплывающих напоминаний, когда инженер хочет поделиться данными с моделью;
- Контролировать доступ к PII данным. CDO должны регулировать способы обнаружения и обработки данных в контексте генеративного ИИ. Им необходимо создать системы, включающие средства защиты для того, чтобы своевременно удалить PII-данные в процессе предварительной обработки данных и до их использования в LLM;
- Внимательно следить за изменениями в области комплаенс. Генеративный ИИ послужил катализатором принятия новых нормативных актов, таких как Закон об искусственном интеллекте, который устанавливает новые стандарты, такие как требование к компаниям публиковать резюме защищенных авторским правом данных, используемых для обучения LLM. Для того, чтобы понимать новые нормативные акты и их последствия для стратегии работы с данными, CDO должны тесно сотрудничать со специалистами по рискам.
5. Взращивать профессионалов в области обработки данных
По мере того как предприятия все активнее внедряют генеративный ИИ, руководителям компаний придется обратить внимание на квалификацию своих сотрудников. Некоторые задачи по кодированию будут выполняться инструментами генеративного ИИ - 41 % кода, опубликованного на GitHub, написан ИИ.6 Это требует специальных знаний в области работы с Copilot - недавнее исследование McKinsey показало, что старшие инженеры работают с Copilot более продуктивно, чем младшие инженеры. Академии данных и ИИ должны обеспечивать обучение генеративному ИИ, адаптированное к текущему уровню квалификации сотрудников.
CDO также должны четко понимать, какие именно навыки необходимы для эффективной работы с генеративным ИИ. Компаниям нужны люди, которые могут интегрировать наборы данных (например, писать API, соединяющие модели с источниками данных), составлять последовательности и цепочки промтов, обрабатывать большие объемы данных, применять LLM и работать с параметрами моделей. Это означает, что CDO должны уделять больше внимания поиску дата-инженеров и архитекторов данных.
В ближайшей перспективе настоящих профессионалов будет не хватать, поэтому CDO просто обязаны разрабатывать свои собственные обучающие программы.
6. Использовать генеративный ИИ для эффективного управления корпоративными данными
У руководителей компаний есть уникальная возможность использовать генеративный ИИ для развития своего бизнеса. По результатам нашего исследования было выявлен, что генеративный ИИ может как ускорить выполнение существующих задач, так и оптимизировать методы их выполнения.
Многие поставщики выпускают свои продукты, и CDO должны отчетливо понимать, в каких случаях можно положиться на поставщиков, а в каких необходимо разработать собственное решение. Одно из эмпирических правил гласит, что для эффективного управления данными лучше создать свой собственный инструмент. Обратите внимание, что многие инструменты только-только появились на рынке и могут хорошо работать в экспериментальных средах, но не в масштабах компании.
7. Внимательно отслеживать показатели производительности и при необходимости незамедлительно предпринимать меры по их улучшению
Сегодня в мире генеративного ИИ больше неизвестного, чем известного. Поэтому для CDO крайне важно создать системы активного отслеживания и управления прогрессом в реализации инициатив в области генеративного ИИ и понять, насколько эффективно данные помогают достигать поставленных бизнес-целей.
Как правило, эффективные метрики состоят из набора KPI, которые помогают руководителям отслеживать прогресс и выявлять узкие места.
Основной набор KPI должен включать в себя следующее:
- стоимость дополнительных компонентов, таких как векторные базы данных и использование LLM;
- дополнительный доход, обеспечиваемый за счет интеграции источников данных с рабочими процессами приложений генеративного ИИ;
- время выхода на рынок при разработке генеративного приложения на основе ИИ, требующего доступа к внутренним данным;
- степень удовлетворенности конечных пользователей тем, как данные улучшили производительность и качество работы приложения
Операционные KPI должны включать отслеживание того, какие данные используются чаще всего, как работают модели, где качество данных оставляет желать лучшего, сколько запросов делается к определенному набору данных и какие сценарии использования генерируют наибольшую активность и ценность.
Эта информация крайне важна, поскольку позволяет руководству не только отслеживать прогресс, но и оперативно вносить коррективы O. Например, зная, какие источники данных чаще всего используются для создания дорогостоящих моделей, CDO может определить приоритетность инвестиций в повышение качества данных в этих источниках.
Эффективность инвестиций, бюджетирования и перераспределения средств будет зависеть от того, насколько эффективно CDO разработают систему управления всей новой структурой затрат, формирующейся вокруг генеративного ИИ. CDO должны отслеживать новый спектр затрат, включая количество запросов к моделям генеративного ИИ, плату за использование API от поставщиков, а также плату за вычисления и хранение данных от облачных провайдеров. Обладая этой информацией, CDO сможет определить, как лучше оптимизировать расходы, например, перенести определенные данные в облако, что позволит сократить расходы на сетевое взаимодействие.
CDO необходимо определить показатели производительности данных и протоколы для принятия быстрых решений. Эффективные программы data governance должны оставаться в силе, но при этом быть расширены для того, чтобы включать в себя решения, связанные с генеративным ИИ.
Данные нельзя рассматривать как второстепенный элемент генеративного ИИ. Напротив, они являются основным топливом, обеспечивающим способность бизнеса извлекать максимальную выгоду из генеративного ИИ. В данном случае CDO должны не просто управлять данными, а еще и хорошо разбираться в том, как лучше всего использовать эти данные для достижения поставленных бизнес-целей.
