Операции машинного обучения (MLOps)
Возможности Машинного обучения Azure, которые автоматизируют и сокращают цикл машинного обучения
MLOps помогает быстрее внедрять инновации
MLOps, или DevOps для машинного обучения, позволяет командам специалистов по обработке и анализу данных и ИТ-специалистов сотрудничать, а также увеличивать темпы разработки и развертывания моделей с помощью мониторинга, проверки и системы управления для моделей машинного обучения.
Воспроизводимость обучения благодаря расширенному отслеживанию наборов данных, кода, экспериментов и сред в обширном реестре моделей.
Автоматическое масштабирование, мощные управляемые вычисления, развертывание без кода и средства для простого обучения и развертывания моделей.
Эффективные рабочие процессы с возможностями планирования и управления для сборки и развертывания с использованием непрерывной интеграции и непрерывного развертывания (CI/CD).
Расширенные возможности для достижения целей системы управления и контроля и обеспечения прозрачности и равномерного распределения модели.
Центр ресурсов
Изучите пошаговое руководство по всему процессу MLOps.
Получите доступ к видео и соответствующим записным книжкам, примерам кода и документации.
Обзор возможностей MLOps. Управление ресурсами, артефактами и кодом
Обзор возможностей MLOps. Создание рабочих процессов машинного обучения на основе событий — видео от Microsoft Channel 9
Обзор возможностей MLOps. Использование CI/CD с GitHub Actions — видео от Microsoft Channel 9
Дополнительные ресурсы
MLOPs на GitHub
Документация по MLOps
Оцените работу MLOps
Создание конвейеров машинного обучения для проектирования, развертывания рабочих процессов модели и управления ими
Создание конвейеров машинного обучения для проектирования, развертывания рабочих процессов модели и управления ими
Как автоматизировать конвейер машинного обучения
Сэм — это специалист по анализу и обработке данных, работающий в интернет-магазине модной одежды. Недавно там начали использовать машинное обучение для предоставления своевременных и точных рекомендаций, чтобы повысить уровень удовлетворенности клиентов и продаж.
После последнего обновления каталога Сэм получил запрос на обновление модели рекомендаций торговой марки. Но это вызвало проблему: нет точных сведений, откуда поступила предложенная модель, поэтому все нужно будет делать заново.
Чтобы создать воспроизводимый и прослеживаемый рабочий процесс, он использует Azure ML.
Сэм — специалист по обработке и анализу данных в интернет-магазине, и ему поручено обновить модель рекомендаций после последнего обновления каталога. Сэм ищет конвейер модели, но никто не знает, откуда поступила модель.
Сэм использует Azure ML, чтобы создать прослеживаемый рабочий процесс модели.
Интеграция Azure ML в существующие средства машинного обучения
Сэм использует пакет SDK для Azure ML, чтобы перенести работу, которую он ведет в ресурсах записной книжки Jupyter, в Azure ML. Это позволяет ему использовать преимущества масштабирования и возможности совместной работы в Azure ML. Его обучающий код, независимо от используемой платформы ML, наряду с его обучающими наборами данных может быть версионным и связан с отслеживаемым экспериментом.
Сбор метрик из каждого запуска эксперимента
Каждый раз, когда Сэм выполняет запуск, Azure ML отслеживает метрики и регистрирует их для проверки. Практически это моментальные снимки входных данных, таких как наборы данных, код и параметры, а также выходных данных, таких как журналы, метрики и модели для оценки и сравнения.
Использование рабочей области Azure ML для просмотра моделей и экспериментов
Несмотря на то, что Сэм работает в среде своей записной книжки, его группа (как сейчас, так и в будущем) может использовать студию Машинного обучения Azure для выполнения простой обратной трассировки от окончательной модели в реестре моделей до каждого ресурса и шага, использованного для его создания.
Создание повторно используемого конвейера для повышения эффективности и согласованности
С помощью конвейеров Azure ML Сэм создает повторно используемый конвейер машинного обучения для доставки рабочего процесса по обучению модели и активирует его автоматически при изменении исходных данных. Это также эффективно, так как можно повторно использовать результаты действий с неизмененными входными данными.
Создание воспроизводимых конвейеров машинного обучения
С помощью Azure ML Сэм создал воспроизводимый и отслеживаемый рабочий процесс. Каждая модель, созданная командой, теперь привязана к запуску эксперимента, что дает возможность просматривать и выполнять итерации. С помощью воспроизводимого конвейера Сэм может позволить Azure ML автоматизировать повторное обучение. При этом он может сконцентрироваться на другом важном деле.
Azure ML помогает создавать конвейеры машинного обучения корпоративного уровня благодаря воспроизводимости и возможности трассировки. Это приводит к более стабильной доставке модели с низкой изменчивостью и повышенной отказоустойчивостью.
С помощью Azure ML Сэм создал воспроизводимый и отслеживаемый рабочий процесс. Каждая модель, созданная командой, теперь привязана к запуску эксперимента, что дает возможность просматривать и выполнять итерации. С помощью воспроизводимого конвейера Сэм может позволить Azure ML автоматизировать повторное обучение. При этом он может сконцентрироваться на другом важном деле.
Azure ML помогает создавать конвейеры машинного обучения корпоративного уровня благодаря воспроизводимости и возможности трассировки. Это приводит к более стабильной доставке модели с низкой изменчивостью и повышенной отказоустойчивостью.
Быстрое и надежное развертывание с использованием автоматически масштабируемых, управляемых и распределенных кластеров вывода
Быстрое и надежное развертывание с использованием автоматически масштабируемых, управляемых и распределенных кластеров вывода
Как развернуть конечную точку веб-службы для модели
Сэм, специалист по анализу и обработке данных, работающий в интернет-магазине модной одежды, недавно добавил Azure ML в свой рабочий процесс, чтобы создавать более эффективные модели. Его автоматизированный конвейер только что зарегистрировал окончательную модель, дополненную прилагаемыми экспериментальными результатами, демонстрирующими улучшенную производительность.
Однако команда веб-разработчиков не так оптимистична. Они не знают, как внедрить модель машинного обучения в веб-приложение, и запросили вместо этого веб-службу. Сэм не является экспертом по веб-службам, поэтому он использует Azure ML, чтобы с помощью этого решения добавить конечную точку веб-службы в модель.
Сэм, специалист по анализу и обработке данных в интернет-магазине, использовал Azure ML для создания и регистрации модели. Его команда веб-разработчиков теперь попросила его создать конечную веб-точку для вызова модели и вывода данных. Сэм использует Azure ML для создания конечной точки веб-службы.
Получение последней модели и ее профилирование для рабочей среды
Сэм может использовать Azure ML для развертывания конечных точек веб-службы и управления ими. Сначала он извлекает последнюю модель из реестра и профилирует ее, чтобы узнать, какие ресурсы могут потребоваться в рабочей среде.
Отправка модели в Экземпляр контейнера Azure
Имея под рукой данные профилирования, Сэм использует Azure ML, чтобы упаковать модель в контейнер и развернуть ее в Экземпляре контейнера Azure для формирования выводов в режиме реального времени или для пакетного вывода. Azure ML обеспечивает автоматическое создание схемы и мониторинг модели после развертывания.
Развертывание в разнообразных масштабируемых конечных точках и реализация тестирования A/B
Служба "Машинное обучение Azure" упрощает развертывание моделей в любом нужном расположении, от облака до пограничных устройств. Она может использовать любые вычислительные ресурсы, такие как ЦП, GPU или ППВМ. С помощью всего лишь нескольких строк кода Сэм может переместить ту же модель в более масштабируемый экземпляр Службы Azure Kubernetes и даже использовать расширенные возможности тестирования A/B для проверки новой модели.
Предоставление группе веб-разработчиков возможности использовать развернутую модель
После развертывания модели в экземпляре Службы Kubernetes Azure команда веб-разработчиков может получить доступ к конечной точке веб-службы для вызова из своего приложения для формирования выводов в режиме реального времени и пакетного вывода. Конечная точка модели по-прежнему отслеживает смещение данных и другие метрики, которые можно проверить по мере необходимости.
Azure ML позволяет публиковать модели везде, где это необходимо
В Azure ML Сэм использует модель с открытым исходным кодом. Он быстро превратил ее в готовую к работе веб-службу, которую может использовать его группа разработчиков. Как специалист по анализу и обработке данных, он смог сосредоточиться на разработке моделей, а не на улучшении навыков работы с многочисленными технологиями, необходимыми для размещения служб (включая Kubernetes, Flask или Swagger).
Azure ML помогает специалистам по обработке и анализу данных легко переносить созданные модели в готовые и полнофункциональные веб-службы, что позволяет быстро внедрять их в приложения.
Развертывание моделей с помощью Azure ML Репозиторий GitHub для этого ролика
В Azure ML Сэм использует модель с открытым исходным кодом. Он быстро превратил ее в готовую к работе веб-службу, которую может использовать его группа разработчиков. Как специалист по анализу и обработке данных, он смог сосредоточиться на разработке моделей, а не на улучшении навыков работы с многочисленными технологиями, необходимыми для размещения служб (включая Kubernetes, Flask или Swagger).
Azure ML помогает специалистам по обработке и анализу данных легко переносить созданные модели в готовые и полнофункциональные веб-службы, что позволяет быстро внедрять их в приложения.
Развертывание моделей с помощью Azure ML Репозиторий GitHub для этого ролика
Интеграция с действиями Azure DevOps и GitHub для автоматизации рабочих процессов ML
Интеграция с действиями Azure DevOps и GitHub для автоматизации рабочих процессов ML
Как выполнить интеграцию с рабочим процессом DevOps
Сэм, специалист по анализу и обработке данных, работающий в интернет-магазине модной одежды, использует Azure ML для создания и развертывания моделей. Он недавно выпустил модель в рабочем экземпляре Службы Azure Kubernetes. Веб-команда интегрировала ее в свое веб-приложение с перспективными результатами.
Так как теперь это ключевая часть веб-приложения, Ребекка как участник оперативной команды хочет убедиться, что создание и развертывание модели является частью их рабочих процессов DevOps. Сэм не вполне уверен, что это получится. Он знакомит Ребекку с принципами работы Azure ML, чтобы определить, может ли служба удовлетворить их требованиям.
Сэм, специалист по анализу и обработке данных, недавно использовал Azure ML для создания и развертывания моделей. Он только что выпустил модель для рабочего экземпляра AKS. Ребекка хочет интегрировать ее с рабочими процессами DevOps. Сэм показывает ей Azure ML.
Создание выпуска с помощью Azure Pipelines
Ребекка создает конвейер Azure для автоматизации процесса развертывания. Первый шаг конвейера выполняет такие задачи, как создание модели со всеми зависимостями и проверка на наличие ошибок. Чтобы автоматически активировать этот конвейер, Ребекка подключает его к реестру модели Azure ML. Это гарантирует, что он может запускаться при регистрации новой модели или новой версии модели.
Публикация модели для проверки
Ребекка добавляет задачу для публикации модели в Экземпляре контейнера Azure, чтобы выполнить проверку до перехода в рабочую среду. Ребекка использует Azure CLI для взаимодействия с Azure ML. Это дает ей доступ к тем же функциям в ее средствах, которые есть и в записной книжке Сэма. Этот шаг имитирует интеграционные тесты в процессе DevOps приложений.
Перемещение модели в рабочую среду при надлежащей проверке
Ребекка добавляет задачу конвейера выпуска для развертывания модели в рабочей среде с помощью Службы Kubernetes Azure. Перед активацией этой задачи Ребекка настраивает шлюз, который должен одобрить ведущий сотрудник или менеджер, прежде чем продолжить. Это гарантирует, что конвейер не будет вызывать значительных нарушений, которые не были перехвачены в сценариях проверки.
Настройка обнаружения смещения данных для запуска повторного обучения
Пока Ребекка настраивает автоматизированный конвейер для развертывания моделей, Сэм включил мониторинг смещения данных с помощью Azure ML. Отслеживая использование служб, он может увидеть, что запросы на вывод в рабочей среде начинают отклоняться от набора данных для обучения, что указывает на необходимость повторного обучения.
Мониторинг стабильности и производительности службы
С помощью интеграции Azure App Insights Ребекка также может отслеживать различные аспекты операций службы, такие как количество запросов, нагрузка на кластер AKS, задержка ответов и т. д., в то время как Сэм отслеживает производительность модели и определяет, следует ли ее оптимизировать.
Мониторинг стабильности и производительности службы
Служба машинного обучения Azure ML тесно интегрирована в существующий рабочий процесс DevOps Ребекки, начиная с автоматизации выпуска и заканчивая мониторингом рабочей среды, а также собственными интеграциями в существующие средства, такие как Azure DevOps и Azure App Insights. В то время как Ребекка продолжает наблюдать за операциями служб, Azure ML предоставляет Сэму инструменты для мониторинга и управления производительностью модели и оптимизации по мере необходимости.
Служба Azure ML помогает специалистам по обработке и анализу данных становиться первоклассными сотрудниками по работе с существующим процессом DevOps в вашей организации, что повышает надежность проектов в машинном обучении.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Служба машинного обучения Azure ML тесно интегрирована в существующий рабочий процесс DevOps Ребекки, начиная с автоматизации выпуска и заканчивая мониторингом рабочей среды, а также собственными интеграциями в существующие средства, такие как Azure DevOps и Azure App Insights. В то время как Ребекка продолжает наблюдать за операциями служб, Azure ML предоставляет Сэму инструменты для мониторинга и управления производительностью модели и оптимизации по мере необходимости.
Служба Azure ML помогает специалистам по обработке и анализу данных становиться первоклассными сотрудниками по работе с существующим процессом DevOps в вашей организации, что повышает надежность проектов в машинном обучении.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Повышение эффективности управления и контроля затрат в проектах машинного обучения
Повышение эффективности управления и контроля затрат в проектах машинного обучения
Как включить систему управления на основе модели машинного обучения
Фил, ИТ-менеджер интернет-магазина модной одежды, с энтузиазмом относится к работе, которую специалисты по обработке и анализу данных и эксплуатации проделали с помощью Azure ML, чтобы обеспечить надежное и воспроизводимое машинное обучение.
У Фила есть проблема — он отвечает за ИТ-инфраструктуру, но не совсем ориентируется в том, что происходит в рабочей среде, у кого есть к ней доступ и сколько это все будет стоить. Он использует Azure ML, чтобы упростить реализацию этих ключевых обязанностей по управлению.
Фил, ИТ-менеджер интернет-магазина, доволен работой Сэма и Ребекки. Но Фил отвечает за ИТ-инфраструктуру и не знает, как управлять проектом машинного обучения. Он полагается на Azure ML.
Проверка моделей в рабочей среде
Azure ML позволяет Филу выполнять аудит конечных точек в рабочей среде. Он может вернуться к базовым моделям и экспериментам, наряду с выходными данными описаний модели и анализа объективности. Это гарантирует, что Фил может выполнить трассировку каждого шага в процессе создания модели и включить аудит моделей для любого смещения.
Проверка журналов аудита для получения подробного журнала модели
В Azure он может получить доступ к журналам аудита Azure ML. Эта возможность дополняет собой прослеживаемость, обнаруженную в моделях и экспериментах, благодаря подробному журналу, отображающему каждое действие, отслеживаемое с помощью отметки даты и времени и соответствующего пользователя. Эти журналы помогают Филу отслеживать действия, инициированные внутри службы Azure ML или с ее помощью, для создания отчетности во всей организации.
Защита рабочей области с помощью стандартной службы Azure IAM
Фил может использовать Azure IAM для управления доступом к рабочей области Azure ML. В Azure ML предусмотрен ряд готовых ролей. Также можно создавать пользовательские роли. Эти роли можно связать с конкретными задачами, которые пользователи могут выполнять и контролировать, чтобы получить доступ к ресурсам, а также передавать задания и т. д.
Обеспечение отчетности с помощью ресурсов Azure
Наряду с функциями управления затратами в Azure, в Azure ML предусмотрена система отчетности по квотам ресурсов с поддержкой настраиваемых ограничений на уровне рабочей области. Это помогает Филу управлять затратами и обеспечивать равнозначное выделение ресурсов между командами. Кроме того, это способствует созданию отчетности, предоставляемой соответствующими группами проектов для управления выделенными ресурсами.
Обеспечение управления и соответствия требованиям моделей проектов ML
Фил рад, что Azure ML не только поддерживает команды обработки и анализа данных, а также команды по разработке, но и предоставляет возможности корпоративного управления, необходимые ему для выполнения своих обязанностей. Он может точно определить, что происходит в рабочей среде, а также обеспечивать соответствие требованиям организации с помощью аудита, управления доступом на основе ролей и управления квотами.
Azure ML предоставляет средства управления доступном организации, необходимые для успешного и безопасного создания проектов машинного обучения.
Мониторинг Azure ML Планирование и управление затратами для Azure ML Репозиторий GitHub для этого ролика
Фил рад, что Azure ML не только поддерживает команды обработки и анализа данных, а также команды по разработке, но и предоставляет возможности корпоративного управления, необходимые ему для выполнения своих обязанностей. Он может точно определить, что происходит в рабочей среде, а также обеспечивать соответствие требованиям организации с помощью аудита, управления доступом на основе ролей и управления квотами.
Azure ML предоставляет средства управления доступном организации, необходимые для успешного и безопасного создания проектов машинного обучения.
Мониторинг Azure ML Планирование и управление затратами для Azure ML Репозиторий GitHub для этого ролика
Узнайте, как клиенты повышают рентабельность с помощью MLOps
Се-Вон Нг (Sze-Wan Ng), директор по аналитике и разработке, TransLink"With MLOps capabilities in Azure Machine Learning, we've improved bus departure predictions by 74 percent, and riders spend 50 percent less time waiting."
Виджайя Секхар Ченнупати (Vijaya Sekhar Chennupati), специалист по обработке и анализу прикладных данных, Johnson Controls"Using the MLOps capabilities in Azure Machine Learning, we were able to increase productivity and enhance operations, going to production in a timely fashion and creating a repeatable process."
