Операции машинного обучения (MLOps)
Ускорьте автоматизацию, совместную работу и воспроизводимость рабочих процессов машинного обучения
Оптимизированное развертывание и управление тысячами моделей в производственных средах, от локальных до периферийных
Полностью управляемые конечные точки для пакетного прогнозирования и прогнозирования в реальном времени с целью ускоренного развертывания и оценки моделей
Повторяемые конвейеры для автоматизации рабочих процессов машинного обучения с целью непрерывной интеграции доставки (CI/CD)
Непрерывное отслеживание показателей производительности модели, обнаружение смещения данных и инициирование переобучения для повышения производительности модели
Ускорьте внедрение инноваций
MLOps — операции машинного обучения или DevOps для машинного обучения — это объединение людей, процессов и платформы для обеспечения коммерческой ценности машинного обучения. Они упрощают разработку и развертывание за счет мониторинга, проверки и управления моделями машинного обучения.
Создание рабочих процессов и моделей машинного обучения
Используйте наборы данных и расширенные реестры моделей для отслеживания ресурсов. Включите улучшенную трассировку с отслеживанием кода, данных и метрик в журнале выполнения. Создавайте конвейеры машинного обучения для разработки, развертывания и администрирования воспроизводимых рабочих процессов модели для согласованной доставки моделей.
Легко развертывайте модели высокой точности в любом месте
Выполняйте развертывание быстро и уверенно. Используйте конечные точки, управляемые онлайн, для развертывания моделей на мощных машинах с ЦП и ГП без управления базовой инфраструктурой. Быстро упаковывайте модели и обеспечивайте высокое качество на каждом этапе с помощью инструментов профилирования и проверки моделей. Используйте контролируемое развертывание для запуска моделей в производство.
Эффективно управляйте всем жизненным циклом машинного обучения
Воспользуйтесь преимуществами встроенной интеграции с помощью Azure DevOps и GitHub Actions для упрощения администрирования и автоматизации рабочих процессов. Оптимизируйте конвейеры обучения и развертывания моделей, выполняйте сборку для CI/CD, чтобы упростить повторное обучение, и легко включайте машинное обучение в существующие процессы выпуска. Используйте расширенный анализ смещения данных для повышения производительности модели с течением времени.
Обеспечьте управление активами
Отслеживайте журнал версий модели и происхождение данных с целью аудита. Задайте квоты вычислений для ресурсов и примените политики, чтобы обеспечить соблюдение стандартов безопасности, конфиденциальности и соответствия требованиям. Используйте расширенные возможности для обеспечения соответствия целям управления и контроля, а также для повышения прозрачности и справедливости модели.
Получите преимущества от взаимодействия с MLflow
Создавайте гибкие и безопасные комплексные рабочие процессы машинного обучения с помощью MLflow и Машинного обучения Azure. Легко переносите существующие рабочие нагрузки из локальной среды в интеллектуальное облако и пограничную среду. Сохраняйте эксперименты MLflow, запускайте метрики, параметры и артефакты модели в централизованной рабочей области Машинного обучения Azure.
Ускорение совместного использования MLOps в рабочих областях
Упростите совместную работу между рабочими пространствами и MLOps с помощью реестров. Размещайте ресурсы машинного обучения в центральном местоположении, обеспечивая их доступность для всех рабочих областей в организации. Продвигайте, делитесь и изучайте модели, среды, компоненты и наборы данных в разных командах. Повторно используйте каналы и развертывайте модели, созданные командами в других рабочих областях, сохраняя при этом журнал преобразований и возможность отслеживания.
Центр ресурсов
Просмотр операций машинного обучения в действии
Создание конвейеров машинного обучения для разработки и развертывания рабочих процессов модели, а также управления ими
Создание конвейеров машинного обучения для разработки и развертывания рабочих процессов модели, а также управления ими
Автоматизация конвейера машинного обучения
Сэм — специалист по обработке и анализу данных в интернет-магазине модной одежды. Недавно его компания начала использовать машинное обучение для предоставления своевременных и точных рекомендаций, чтобы увеличить продажи и повысить удовлетворенность клиентов.
После обновления каталога Сэма попросили обновить модель рекомендаций бренда, но никто не смог сказать, как появилась текущая модель. Сэм обращается к Машинному обучению Azure, чтобы создать воспроизводимый и отслеживаемый рабочий процесс.
Сэм — специалист по обработке и анализу данных в интернет-магазине, и ему поручено обновить модель рекомендаций после последнего обновления каталога. Сэм ищет конвейер модели, но никто не знает, откуда поступила модель.
Сэм использует Azure ML, чтобы создать прослеживаемый рабочий процесс модели.
Используйте Машинное обучение Azure вместе с существующими инструментами
Сэм использует пакет SDK Машинного обучения Azure для перемещения результатов своей работы на основе записной книжки Jupyter в Машинное обучение Azure, используя возможности масштабирования и совместной работы. С помощью выбранной платформы он добавляет код обучения и наборы данных в систему управления версиями и связывает их с отслеживаемым экспериментом.
Сбор метрик из каждого запуска эксперимента
Каждый раз, когда Сэм выполняет запуск, Машинное обучение Azure отслеживает метрики и записывание их в журнал для проверки. При этом фиксируются входные данные (например, наборы данных, код и параметры) и выходные данные (таких как журналы, метрики и модели) для последующей оценки и сравнения.
Просматривайте модели и эксперименты в рабочей области
Пока Сэм продолжает работать в среде записной книжки, его команда использует Студию машинного обучения Azure для удобного просмотра всех ресурсов и шагов, которые были использованы для создания конечной модели в реестре моделей.
Создайте повторно используемые конвейеры для повышения эффективности и согласованности
Сэм создает повторно используемый конвейер машинного обучения для предоставления рабочего процесса обучения модели и для автоматической активации этого процесса при изменении исходных данных. При необходимости он может повторно использовать результаты шагов, не изменяя входные данные.
Создание воспроизводимых конвейеров машинного обучения
Сэм разработал воспроизводимый и отслеживаемый рабочий процесс с использованием Машинного обучения Azure. Теперь каждая модель, которую создает команда, привязана к запуску эксперимента для проверки и итерации. Благодаря воспроизводимому конвейеру Сэм может автоматизировать повторное обучение с помощью Машинного обучения Azure и сосредоточиться на следующей важной задаче.
Машинное обучение Azure помогает создавать конвейеры машинного обучения корпоративного уровня благодаря воспроизводимости и отслеживаемости. Это позволяет сделать предоставление моделей более согласованным, уменьшить изменчивость и повысить отказоустойчивость.
Дополнительные сведения о конвейерах машинного обучения Просмотрите репозиторий GitHub для этого демонстрационного примера
С помощью Azure ML Сэм создал воспроизводимый и отслеживаемый рабочий процесс. Каждая модель, созданная командой, теперь привязана к запуску эксперимента, что дает возможность просматривать и выполнять итерации. С помощью воспроизводимого конвейера Сэм может позволить Azure ML автоматизировать повторное обучение. При этом он может сконцентрироваться на другом важном деле.
Azure ML помогает создавать конвейеры машинного обучения корпоративного уровня благодаря воспроизводимости и возможности трассировки. Это приводит к более стабильной доставке модели с низкой изменчивостью и повышенной отказоустойчивостью.
Дополнительные сведения о конвейерах машинного обучения Просмотрите репозиторий GitHub для этого демонстрационного примера
Уверенное быстрое развертывание с использованием автомасштабирования и управляемых распределенных кластеров вывода
Уверенное быстрое развертывание с использованием автомасштабирования и управляемых распределенных кластеров вывода
Разверните конечную точку веб-службы для модели
Сэм, специалист по обработке и анализу данных в интернет-магазине модной одежды, добавил в свой рабочий процесс Машинное обучение Azure для улучшения создаваемых моделей. Его автоматизированный конвейер только что зарегистрировал окончательную модель с прикрепленными экспериментальными результатами, которая демонстрирует улучшенную производительность.
Команда веб-разработчиков не знает, как встроить модель машинного обучения в веб-приложение, и попросила реализовать веб-службу вместо встраивания модели. Сэм обращается к Машинному обучению Azure, чтобы добавить конечную точку веб-службы в свою модель.
Сэм, специалист по обработке и анализу данных в онлайн-магазине, использовал Машинное обучение Azure, чтобы создать и зарегистрировать модель. Его команда веб-разработки теперь запрашивает у него конечную точку веб-службы для вызова его модели с целью вывода. Сэм использует Машинное обучение Azure для создания этой конечной точки веб-службы.
Получение последней модели и ее профилирование для рабочей среды
Сэм извлекает последнюю модель из реестра и профилирует ее, чтобы узнать, какие ресурсы могут потребоваться в рабочей среде.
Отправка модели в Экземпляры контейнеров Azure
Получив данные профилирования, Сэм использует Машинное обучение Azure для упаковки модели в контейнер и для развертывания контейнера в Экземплярах контейнеров Azure с целью последующего вывода в режиме реального времени или в пакетном режиме. После развертывания Сэм использует функции автоматического создания схемы и мониторинга в Машинном обучении Azure.
Развертывание в разнообразных масштабируемых конечных точках и реализация тестирования A/B
С помощью всего нескольких строк кода Сэм отправляет ту же модель в более масштабируемый экземпляр Службы Azure Kubernetes (AKS) и реализует расширенные возможности A/B-тестирования для проверки новой модели. Теперь он может развертывать модели везде, где они необходимы, от облака до пограничной среды, с использованием различных вариантов вычислений, включая ЦП, GPU и ППВМ.
Предоставление группе веб-разработчиков возможности использовать развернутую модель
После развертывания модели в экземпляре AKS команда веб-разработчиков обращается к конечной точке веб-службы и вызывает ее из своего приложения для выполнения вывода в режиме реального времени или в пакетном режиме. Сэм отслеживает конечную точку модели для обнаружения смещения данных и выполнения аудита других метрик при необходимости.
Публикуйте модели там, где они необходимы
Сэм превратил свою модель с открытым исходным кодом в веб-службу, готовую к использованию в рабочей среде, для команды разработчиков. Он сосредоточил свои усилия на разработке модели, а не на изучении множества технологий, необходимых для размещения службы, включая Kubernetes, Flask и Swagger.
Машинное обучение Azure помогает легко преобразовать модели в полноценные веб-службы, которые можно быстро внедрить в приложения.
Узнайте, как развертывать модели с помощью Машинного обучения Azure
В Azure ML Сэм использует модель с открытым исходным кодом. Он быстро превратил ее в готовую к работе веб-службу, которую может использовать его группа разработчиков. Как специалист по анализу и обработке данных, он смог сосредоточиться на разработке моделей, а не на улучшении навыков работы с многочисленными технологиями, необходимыми для размещения служб (включая Kubernetes, Flask или Swagger).
Azure ML помогает специалистам по обработке и анализу данных легко переносить созданные модели в готовые и полнофункциональные веб-службы, что позволяет быстро внедрять их в приложения.
Узнайте, как развертывать модели с помощью Машинного обучения Azure
Обеспечьте взаимодействие с Azure DevOps и GitHub Actions для автоматизации рабочих процессов машинного обучения
Обеспечьте взаимодействие с Azure DevOps и GitHub Actions для автоматизации рабочих процессов машинного обучения
Интеграция с рабочим процессом DevOps
Сэм, специалист по обработке и анализу данных в интернет-магазине модной одежды, использует Машинное обучение Azure для сборки и развертывания моделей. Недавно он выпустил модель в экземпляре службы Azure Kubernetes (AKS), находящемся в рабочей среде, и команда веб-разработчиков интегрировала эту модель в веб-приложение, добившись впечатляющих результатов.
Ребекка, входящая в состав операционной команды, хочет включить сборку и развертывание модели в рабочие процессы DevOps. Сэм не знает, как это сделать, и помогает Ребекке освоить Машинное обучение Azure, чтобы получить результат, удовлетворяющий их совместным требованиям.
Сэм, специалист по обработке и анализу данных, недавно использовал Машинное обучение Azure для создания и развертывания моделей. Он только что выпустил модель для своего рабочего экземпляра AKS. Ребекка хочет интегрировать его со своими рабочими процессами DevOps. Сэм направляет ее в Машинное обучение Azure.
Создание выпуска с помощью Azure Pipelines
Ребекка создает конвейер в Azure Pipelines для автоматизации процесса развертывания. Первый этап конвейера выполняет такие задачи, как построение модели со всеми зависимостями и проверка на наличие ошибок. Чтобы автоматически активировать этот конвейер, Ребекка подключает его к реестру моделей, гарантируя, что он будет запущен при регистрации новой модели или новой версии модели.
Публикация модели для проверки
Ребекка добавляет задачу для публикации модели в Экземпляры контейнеров Azure для проверки модели перед ее переносом в рабочую среду. Она использует Azure CLI для взаимодействия с Машинным обучением Azure. Это предоставляет ей доступ к тем же инструментам, которые есть у Сэма в записной книжке. Этот шаг имитирует тесты интеграция в процессе DevOps приложения.
Переместите модель в рабочую среду после проверки
Ребекка добавляет задачу конвейера выпуска для развертывания модели в рабочей среде с помощью AKS. Перед активацией этой задачи Ребекка настраивает шлюз, требующий оценки и утверждения со стороны руководителя или менеджера перед продолжением работы. Это гарантирует, что конвейер не приведет к существенным нарушениям работы, если проблема не была обнаружена в результате проверок в скриптах.
Настройка обнаружения смещения данных для активации повторного обучения
По мере настройки Ребеккой автоматического конвейера для развертывания моделей Сэм включает отслеживание смещения данных с помощью Машинного обучения Azure. Благодаря отслеживанию использования службы он может узнать, что запросы вывода в рабочей среде начинают отклоняться от учебного набора данных, что указывает на необходимость повторного обучения.
Мониторинг стабильности и производительности службы
При использовании Application Insights, функции Azure Monitor, Ребекка отслеживает параметры работы службы, такие как количество запросов, загрузка в кластере AKS и задержка ответов, а Сэм отслеживает производительность модели, чтобы определить, следует ли выполнять оптимизацию.
Создайте оптимизированный рабочий процесс модели
Ребекка включила Машинное обучение Azure в свой рабочий процесс DevOps от автоматизации выпуска до мониторинга рабочей среды. Пока Ребекка отслеживает работу служб, Сэм наблюдает за производительностью модели и оптимизирует модель по мере необходимости.
Машинное обучение Azure помогает повысить уровень обработки данных в рамках процесса DevOps вашей организации, что повышает надежность проектов машинного обучения.
Обнаружение смещения данных (предварительная версия) в наборах данных
Служба машинного обучения Azure ML тесно интегрирована в существующий рабочий процесс DevOps Ребекки, начиная с автоматизации выпуска и заканчивая мониторингом рабочей среды, а также собственными интеграциями в существующие средства, такие как Azure DevOps и Azure App Insights. В то время как Ребекка продолжает наблюдать за операциями служб, Azure ML предоставляет Сэму инструменты для мониторинга и управления производительностью модели и оптимизации по мере необходимости.
Служба Azure ML помогает специалистам по обработке и анализу данных становиться первоклассными сотрудниками по работе с существующим процессом DevOps в вашей организации, что повышает надежность проектов в машинном обучении.
Обнаружение смещения данных (предварительная версия) в наборах данных
Улучшите руководство и управление затратами в проектах машинного обучения
Улучшите руководство и управление затратами в проектах машинного обучения
Включение управления моделями машинного обучения
Фил, ИТ-менеджер интернет-магазина модной одежды, с большим энтузиазмом относится к действиям команд по обработке и анализу данных и операционных команд с использованием Машинного обучения Azure.
Хотя Фил отвечает за ИТ-инфраструктуру компании, он не знает, что находится в рабочей среде, у каких пользователей есть доступ и какими будут затраты. Он решает использовать Машинное обучение Azure для выполнения своих обязанностей по управлению.
Фил, ИТ-руководитель в онлайн-магазине, доволен работой Сэма и Ребекки. Но Фил отвечает за ИТ-инфраструктуру и не знаете, как обеспечить управление проектом машинного обучения. Он обращается к Машинному обучению Azure за помощью.
Просмотр моделей в рабочей среде
Фил использует Машинное обучение Azure для аудита конечных точек в рабочей среде. Он может возвращаться к моделям и экспериментам, а также к выходным данным объяснений модели и анализа справедливости. Это гарантирует, что он сможет отслеживать каждый этап процесса создания модели и выполнять аудит модели для определения любых отклонений.
Проверка журналов аудита для получения подробного журнала модели
Фил обращается к журналам аудита Машинного обучения Azure. Они дополняют трассировку, обнаруженную в моделях и экспериментах, подробными данными, содержащими все действия (с указанием даты, времени и пользователя). Эти журналы помогают Филу отслеживать действия, инициированные внутри службы или самой службой, для обеспечения подотчетности на уровне организации.
Защитите рабочую область с помощью управления удостоверениями и доступом Azure
Фил использует управление удостоверениями и доступом Azure для управления доступом к рабочей области Машинного обучения Azure. Он использует как встроенные, так и настраиваемые роли для ограничения задач, которые могут выполнять пользователи, и для управления доступом к ресурсам.
Обеспечение отчетности с помощью ресурсов Azure
Фил использует функцию квот для настройки ограничений ресурсов и общего доступа. Это помогает ему управлять расходами, контролировать затраты и обеспечивать справедливое распределение ресурсов между командами. Это также позволяет улучшить подотчетность для соответствующих команд проекта.
Обеспечение управления моделями и соответствия требованиям
Теперь Фил видит, что происходит в рабочей среде, и может обеспечить соответствие требованиям для организации с помощью аудита, управления доступом на основе ролей и управления квотами. Ему нравится, что Машинное обучение Azure не только поддерживает операционные команды и команды по обработке и анализу данных, но предоставляет необходимые ему возможности управления на уровне предприятия.
Машинное обучение Azure предоставляет средства контроля на уровне организации, необходимые для успешной реализации и дополнительной защиты проектов машинного обучения.
Отслеживание Машинного обучения Azure Планирование затрат на Машинное обучение Azure и управление ими
Фил рад, что Azure ML не только поддерживает команды обработки и анализа данных, а также команды по разработке, но и предоставляет возможности корпоративного управления, необходимые ему для выполнения своих обязанностей. Он может точно определить, что происходит в рабочей среде, а также обеспечивать соответствие требованиям организации с помощью аудита, управления доступом на основе ролей и управления квотами.
Azure ML предоставляет средства управления доступном организации, необходимые для успешного и безопасного создания проектов машинного обучения.
Отслеживание Машинного обучения Azure Планирование затрат на Машинное обучение Azure и управление ими
Комплексные встроенные средства обеспечения безопасности и соответствия требованиям
-
Корпорация Майкрософт ежегодно инвестирует более USD 1 млрд долларов США в научные исследования и разработку решений для обеспечения кибербезопасности.
-
У нас работает более 3,500 специалистов по обеспечению безопасности и конфиденциальности данных.
-
У Azure больше сертификатов, чем у любого другого поставщика облачных служб. Просмотрите полный список.
Начало работы с бесплатной учетной записью Azure
Начать бесплатно. Получите кредит на сумму $200 для использования в течение 30 дней. В течение срока действия кредита вы получите возможность бесплатно использовать многие популярные службы. Кроме того, вы сможете использовать более 40 других служб, которые всегда бесплатны.
Использовав кредит, перейдите на оплату по мере использования, чтобы продолжить работу с помощью тех же бесплатных служб. Оплата потребуется только в том случае, если вы используете больше бесплатных ежемесячных объемов.
По истечении 12 месяцев у вас сохранится доступ к 40+ бесплатным службам, и вы по-прежнему будете платить только за то, что используете за пределами бесплатных ежемесячных лимитов.
Узнайте, как клиенты обеспечивают преимущества с помощью операций машинного обучения
FedEx
Бикрам Вирк (Bikram Virk), менеджер по продукции, подразделение ИИ и машинного обучения, FedEx"Customers expect timely and accurate information on their packages and a data-based delivery experience. We're helping FedEx stay on the leading edge with Azure Machine Learning, and we're building expertise for future projects."
BRF
Александр Биазен (Alexandre Biazin), исполнительный директор по технологиям, BRF"We're scaling with automated machine learning in Azure and MLOps capabilities in Azure Machine Learning so that our 15 analysts can focus on more strategic tasks instead of the mechanics of merging spreadsheets and running analyses."
Nestle
Игнаси Паредес-Олива (Ignasi Paredes-Oliva), ведущий специалист по обработке и анализу данных, Nestlé Global Security Operations Center"MLOps is at the core of our product. Because of its reproducible ML pipelines, ...registered models, and automatic model scoring, we're definitely detecting things that we missed before. Which, in terms of risk management, is really, really important."
PepsiCo
Майкл Кливингер (Michael Cleavinger), старший директор по обработке и анализу данных покупателей и расширенной аналитике, PepsiCo"We've used the MLOps capabilities in Azure Machine Learning to simplify the whole machine learning process. That allows us to focus more on data science and let Azure Machine Learning take care of end-to-end operationalization."
Дополнительные ресурсы MLOps
Начало работы
Репозиторий
Обучение
Сквозная схема обучения MLOpsБлог
- Объединение MLOps в Майкрософт
- Концепции модели зрелости MLOps
- Машинное обучение Azure оптимально подходит для предприятий
- Искусство тестирования систем машинного обучения
- Проверка надежности систем машинного обучения
- Проверка масштабируемости систем машинного обучения
- Проверка безопасности систем машинного обучения