Для чего современные компании могут использовать генеративный ИИ?
Начинаете изучать LLM? Представляем Вашему вниманию 5 наиболее популярных приложений, которыми пользуются в OpenAI, Vimeo и других крупных компаниях
Генеративный ИИ становится все более и более популярным, команды по работе с данными все чаще сталкиваются с этим сравнительно новым явлением.
Руководители компаний, работающих в самых разных отраслях, требуют от своих главных специалистов по работе с данными создать собственные продукты на основе ИИ, которые позволят сэкономить драгоценное время, увеличить прибыль или гарантируют новые конкурентные преимущества.
Такие технологические гиганты, как OpenAI, Google, Amazon и Microsoft обогатили рынок инновационными продуктами, основанными на больших языковых моделях (LLM) и диффузных моделях, главная задача которых состоит в том, чтобы помочь компаниям более эффективно анализировать большие объемы данных, обобщать и синтезировать информацию, генерировать привлекательный контент и т.д.
Возникает вопрос - С чего начать внедрение генеративного ИИ? Какие способы использования генеративного ИИ эффективны и способны окупить инвестиции в максимально сжатые сроки? Мы изучили стратегии пионеров в данной области и узнали, как именно передовые компании применяют эту технологию сегодня, и что требуется для успешного внедрения генеративного ИИ.
1.Оптимизируйте работу высококвалифицированных специалистов
Прогрессивные компании используют генеративный ИИ для того, чтобы облегчить работу своим работникам.
Учитывая способность LLM понимать и извлекать полезные инсайты из неструктурированных данных, компании с легкостью анализируют, ищут и извлекают полезную информацию из больших объемов данных.
Какие компании в основном прибегают к генеративному ИИ?
Юридические компании
- В юридической сфере системы на базе искусственного интеллекта оптимизируют следующие процессы:
- Автоматизация мониторинга нормативно-правовой базы;
- Составление и анализ стандартных документов, таких как завещания и договоры;
- Проведение комплексной юридической экспертизы путем анализа большого объема документов для выявления потенциальных рисков и проблем;
- Анализ контрактов с целью выявления пунктов, противоречащих целям компании, и внесения предложений по их пересмотру;
- Изучение и анализ уставов, журналов, нормативно-правовых актов и других важных юридических публикаций.
Техническое решение: юридические компании используют специализированные решения, основанные либо на собственных моделях данных, либо на LLM, «заточенных» на правовую систему, включая CoCounsel (на базе GPT-4), Harvey и Thomson Reuters.
Пример: лондонская юридическая компания Macfarlanes использует Harvey для анализа юридических документов, создания черновиков электронных писем и служебных записок, а также для других целей. Работу Harvey проверяют юристы.
Финансовые компании
Еще в начале 2023 года такие финансовые учреждения, как Goldman Sachs и Citigroup, запретили использование ChatGPT ввиду опасений касательно конфиденциальности данных. Несмотря на эти "анти-ИИ" заявления финансовая индустрия все же использует машинное обучение. Именно оно служит основой алгоритмов обнаружения мошенничества.
По оценкам Databricks, в 80 % случаев генеративный ИИ в финансовой сфере используется для оптимизацию процессов с целью экономии времени и ресурсов:
- Финансовые чат-боты, которые могут использовать внутреннюю документацию в качестве базы знаний;
- Автоматизация основных бухгалтерских операций, таких как сбор и обработка счетов-фактур;
- Анализ таких документов, как годовые отчеты, договоры страхования и запись звонков.
Кроме того, лидеры отрасли считают, что возможности ИИ по обнаружению и пресечению финансовых преступлений и мошенничества практически безграничны.
Техническое решение: Начинают появляться индивидуальные решения, в том числе BloombergGPT, большая языковая модель с 50 млрд параметров, созданная специально для финансового рынка.
Пример: В сентябре 2023 года компания Morgan Stanley запустила помощника на базе ИИ для поддержки финансовых консультантов, благодаря которому они получили неограниченный доступ к внутренней базе данных, отчетов и документов.
Отдел продаж
Отдел продаж и отдел маркетинга используют генеративный ИИ в следующих целях:
- Написание черновиков электронных писем, постов, а также другого контента;
- Персонализация контента для индивидуальной работы с клиентами на основе данных CRM;
- Анализ техник продаж и их результатов для обучения специалистов;
- Подведение итогов встреч и видео - конференций
Техническое решение: платформы продаж, такие как Gong, используют свои собственные модели для того, чтобы подвести итоги совещаний с клиентами и определения дальнейших шагов по стимулированию продаж, а Einstein Copilot от Salesforce автоматически генерирует ответы на электронные письма, основываясь на контексте общения с клиентом.
Пример: платформа для привлечения клиентов 6sense использует решение по оптимизации переписки с потенциальными клиентами на основе ИИ, благодаря которому достаточно эффективно стимулирует свои продажи.
Автоматизируйте инжиниринг и обработку данных
Автоматизируя повторяющиеся процессы кодирования и работы с данными, генеративный ИИ оптимизирует рабочие процессы и повышает производительность труда инженеров по программному обеспечению, а также data-инженеров.
Так, эти специалисты используют генеративный ИИ в следующих целях:
- Автоматическое создание фрагментов кода и проверка кода на наличие ошибок
- Автоматическая корректировка/ устранение незначительных ошибок или прогнозирование мест их возникновения;
- Генерация больших объемов синтетических данных для того, чтобы инженеры могли тестировать модели, не беспокоясь о конфиденциальности используемых данных;
- Автоматическое создание подробной документации по коду и проектам;
- Оперативное обновление устаревшего ПО, использующего такие языки, как COBOL (язык программирования, широко распространенный в финансовом секторе, требующий значительных вложений) на современные ПО.
В решения для разработчиков также активно внедряются большие языковые модели. Например, в платформе Monte Carlo для поддержки двух функций - Fix with AI и Generate with AI - мы используем API OpenAI для облегчения процесса наблюдаемости данных. Fix with AI использует большие языковые модели для выявления ошибок при проверке качества данных, а функция Generate with AI использует их в целях генерации предложений по внедрению новых способов проверки качества данных.
Даже в самой OpenAI большие языковые модели используют для поддержки DevOps. Янив Марковски, руководитель отдела ИИ, рассказал нам о том, что его подчиненные активно использует модели GPT для агрегирования и перевода журналов сервера или событий в социальных сетях, что помогает им лучше понять ощущения и мысли клиентов при использовании их продукции.
Техническое решение: в качестве помощников по работе с кодом на основе ИИ команды инженеров используют такие инструменты, как GitHub Copilot или CodeWhisperer . Разработчики могут вводить промпты на естественном языке и получать фрагменты кода на таких языках, как Python, JavaScript, Ruby и т.д.
Пример: команда data-инженеров одного из крупнейших медиа-холдингов использует большие языковые модели для классификации запросов в рабочих процессах dbt для запуска различных команд сборки.
3.Расширьте доступ к данным в рамках компании
Успех использования генеративного ИИ в рамках компании основан на расширении доступа к данным для нетехнических специалистов. Большие языковые модели предоставляют сотрудникам организации возможность вводить подсказки на естественном языке для оперативного получения ответов на сложные вопросы на сложные вопросы.
Именно этот вариант использования ИИ по мнению Адама Конвейя, вице-президента по продуктам компании Databricks, является самым важным первым шагом для внедрения генеративного ИИ в рамках компании.
"Я видел множество компаний, оперирующих огромными объемами документов, которые стремятся предоставить своим работникам возможность оперативно получать искомую информацию, содержащуюся в десятках тысяч страниц записей. Я считаю, что это правильный подход. В Databricks у нас есть внутренний чат-бот, который помогает сотрудникам быстрее разобраться в сложной ситуации и оперативно получить необходимые данные, не тратя на их поиск несколько часов. Мы считаем, что это действительно полезно и эффективно".
Техническое решение: Платформы вроде Databricks постоянно работают над расширением своего функционала. Так, совсем недавно они объявили о выпуске своего собственного LakehouseIQ, интуитивно понятного языкового интерфейса на основе генеративного ИИ. Этот гениальный инструмент понимает специфический язык компании и обучает ИИ предоставлять правильные, специфические для данного бизнеса, ответы.
Пока эти технологии находятся в стадии становления, команды разработчиков могут доработать свои модели данных, используя внутреннюю документацию или базу знаний, что позволит им создать специфическое решение именно для их компании.
Пример: социальная торговая площадка Whatnot настоятельно рекомендует каждому своему сотруднику знать SQL для того, чтобы они могли запрашивать данные, создавать дашборды и строить собственные dbt-модели. Это касается отдела маркетинга, финансовой службы и других нетехнических функциональных подразделений. При этом генеративный ИИ играет важную роль в обучении сотрудников.
Как сказал директор службы инжиниринга Эммануэль Фуэнтес, "это помогает людям лучше освоиться на новом месте. Если они приходят в компанию, не имея опыта работы с SQL, это помогает им быстрее вникнуть в особенности функционирования компании, что не может не радовать".
4.Оптимизируйте работу службы поддержки клиентов
Службы поддержки клиентов заслуживают отдельного внимания, так как это просто «идеальный» отдел для внедрения больших языковых моделей. Включив семантический поиск в чат-боты и рабочие процессы, команды по работе с данными могут предоставить сотрудникам службы поддержки доступ к корпоративной информации, что даст последним возможность обрабатывать запросы клиентов гораздо быстрее.
Техническое решение: некоторые CX-решения уже включают в себя возможности ИИ. Например, Fusion Cloud CX от Oracle использует большие языковые модели, которые ссылаются на внутренние корпоративные данные, что позволяет сотрудникам компании генерировать мгновенные ответы на запросы клиентов с учетом истории взаимодействия с ними, а также пополнять внутреннюю базу прецедентов решения возникающих проблем.
Пример: инженеры Vimeo использовали генеративный ИИ для создания прототипа своего чата службы поддержки. Инструмент индексирует справочники компании, размещенные на Zendesk и соединяет это ПО с провайдером больших языковых моделей. Когда у клиента не получается получить удовлетворяющий его ответ с помощью внешнего чат-бота, стенограмма разговора с ним отправляется в большую языковую модель, которая переформулирует проблему в один вопрос, ищет статью с соответствующим вопросу содержанием и получает необходимую информацию. Затем большая языковая модель генерирует финальный вариант ответ для клиента и выдает его.
5.Автоматизируйте перевод документов и контента
Наконец, генеративный ИИ позволяет автоматизировать перевод документов и контента в организациях, которые ежегодно тратят около 60 миллиардов долларов на лингвистические услуги — но данные модели переводят лишь небольшую часть создаваемых медиа-продуктов. Такие модели, как GPT-4, способны помочь с обслуживанием клиентов по всему миру и оптимизацией контента в зависимости от их местоположения.
Техническое решение: В настоящее время большинству языковых моделей не хватает обучающих данных для работы с менее распространенными языками, а также для восприятия просторечий и специфических терминов, что обуславливает необходимость в их доработке для получения достоверных результатов. В данный момент Google работает над созданием универсальной речевой модели (USM), обученной на более чем на 400 языках.
Пример: Компания Vital, специализирующаяся на медицинских технологиях, запустила переводчик на основе ИИ, предназначенный как для врачей, так и пациентов, с помощью которого можно быстро перевести техническую медицинскую терминологию.
Три ключевых момента, которые необходимо учесть при начале работы с ИИ
При освоении практически безграничных просторов ИИ следует помнить о трех ключевых моментах
1. Дополните Ваш технологический стек
Наличие правильного технологического стека обязательно для эффективного использования ИИ. Стандартные компоненты современного стека данных необходимо дополнить следующим:
- Векторные базы данных
Векторные базы данных - один из наиболее эффективных способов создания масштабируемых приложений с помощью языковых моделей от OpenAI. Эти базы данных позволяют встраивать векторы, которые несут в себе семантическую информацию, помогающую ИИ лучше понять взаимосвязи и закономерности в Ваших данных.
Отличным примером бессерверных векторных баз данных являются Pinecone и Zilliz.
- Fine-tuning моделей
Для команд с более специфическими потребностями следующим шагом, скорее всего, станет тонкая настройка моделей или дополнительное обучение уже обученной модели на основе данных, соответствующим именно Вашим потребностям. Такие инструменты, как Tensorflow и HuggingFace позволят Вам с легкостью осуществить тонкую настройку Ваших моделей.
- Обработка неструктурированных данных или потоковая обработка данных
Генеративный ИИ отлично подходит для извлечения искомой информации из большого объема неструктурированных данных. Если Вы решили подключить потоковую обработку данных и при этом еще не предусмотрели обработку неструктурированных данных, обратите свое внимание на такие инструменты, как Spark или Kafka.
2. Сформируйте команду настоящих профессионалов и выделите необходимые ресурсы
Создание пилотного проекта ИИ требует времени и ресурсов. Несмотря на то, что у Вас может быть энергичный генеральный директор, который не пожалеет средств на внедрение ИИ в Ваш продукт или услугу, очень важно иметь реалистичное представление о том, сколько времени на это уйдет и сколько это будет стоить.
- Сформируйте команду
Скорее всего, для создания прототипов или проверки концепции ИИ Вы будете переквалифицировать уже имеющихся сотрудников, а не нанимать опытных разработчиков ИИ (отчасти потому, что это совершенно новая область, поэтому опытных разработчиков ИИ просто не существует). Эти «тигровые команды», как правило, состоят из data-инженеров с опытом работы в области машинного обучения.
Другими словами, некоторым из Ваших ценных сотрудников придется переключиться с их непосредственной работы, приносящей компании прибыль, на экспериментальный проект ИИ, который может оказаться нерентабельным. Учитывайте присущие альтернативные издержки и включите их в общее планирование, а также пригласите в команду бизнес-коуча, который будет отстаивать необходимость таких изменений.
- Учитывайте затраты на оборудование и обучение
Если Вы планируете доработать свою модель и являетесь новичком в MLOps, постарайтесь определить затраты на соответствующее обучение. Имейте в виду, что общее количество часов потраченных на обучение, может увеличиться.
3. Поставьте качество данных во главу угла
Каким бы ни был Ваш технологический стек или выбранная модель ИИ, помните, что самое главное – это высокое качество входных и выходных данных. Если Вы не будете обращать внимание на данный аспект, Вы рискуете предоставить некачественные данные большому количеству сотрудников, что совершенно точно не приведет Вашу компанию к успеху.
Генеративный ИИ может вознести любой бизнес на невиданные высоты, но при этом помните, что он сопряжен с большим количеством рисков и, как любой проект, имеет свои подводные камни. Тестирование и мониторинг данных, управление ИИ и наблюдаемость данных помогут Вам раскрыть весь потенциал генеративного ИИ и не превратить его в катастрофу для Вашей организации.
