机器学习操作 (MLOps)
Azure 机器学习功能，可自动执行并加速机器学习生命周期
MLOps 可帮助你更快地进行创新
MLOps 或用于机器学习的 DevOps 使数据科学和 IT 团队能够通过监视、验证和管理机器学习模型，来进行协作并提高模型开发和部署的速度。
通过在丰富的模型注册表中对数据集、代码、试验和环境进行高级跟踪，训练可再现性。
自动缩放、功能强大的托管计算、无代码部署以及简化模型训练和部署的工具。
具有计划和管理功能的有效工作流，可通过持续集成/持续部署 (CI/CD) 来生成和部署。
用于实现管理和控制目标并促进模型透明度和公平的高级功能。
资源中心
分步演示端到端 MLOps 流程。
访问视频和随附的笔记本、代码示例和文档。
查看 MLOps 发挥的作用
构建 ML 管道来设计、部署和管理模型工作流
构建 ML 管道来设计、部署和管理模型工作流
如何自动执行机器学习管道
Sam 是一位数据科学家，为线上时尚零售商工作。他们最近开始使用机器学习来提供及时准确的建议，同时提高客户满意度和销售额。
最近的目录更新后，Sam 被要求更新其品牌推荐模型。但有一个问题，就是不能确定当前模型的来源，因此一切都需要重做。
他借助 Azure ML 来构建一个可重复和可跟踪的工作流。
Sam 是一家线上零售商的数据科学家，负责在最近的目录更新后更新他们的推荐模型。Sam 正在寻找模型管道，但没有人知道模型的来源。
他借助 Azure ML 来构建一个可跟踪的模型工作流。
将 Azure ML 集成到现有的机器学习工具中
Sam 利用 Azure ML SDK 将他现有的基于 Jupyter 笔记本的工作引入 Azure ML。这样他便能够利用 Azure ML 中的缩放和协作功能。不管使用什么 ML 框架，他的训练代码和训练数据集都可以进行版本控制并链接到可跟踪的试验。
从每次试验运行中捕获指标
每次 Sam 执行一次运行时，Azure ML 都会跟踪其指标并将其记录下来以供审查。这实际上是输入（如数据集、代码和参数）和输出（如用于评估和比较的日志、指标和模型）的快照。
使用 Azure ML 工作区查看模型和试验
当 Sam 继续在他的笔记本环境中工作时，他的团队（现在和将来）可以使用 Azure 机器学习工作室轻松地从模型注册表中的最终模型追溯到用于创建它的每个资产和步骤。
创建可重用的管道，提高效率并确保一致性
使用 Azure ML 管道，Sam 创建了一个可重用的 ML 管道，以交付模型训练工作流，并在源数据更改时自动触发该工作流。它还通过在不改变输入的情况下重用步骤的结果来提高效率。
构建可重复的机器学习管道
通过利用 Azure ML，Sam 构建了一个可重复和可跟踪的工作流。团队构建的每个模型现在都绑定到试验运行，从而使团队能够查看和循环访问。使用可重复的管道，Sam 可以让 Azure ML 自动重新训练，而让自己重点关注下一个重大事务。
Azure ML 通过可重复性和可跟踪性帮助你构建企业级的机器学习管道。这使得模型交付更加一致，可变性更小，容错性更强。
通过利用 Azure ML，Sam 构建了一个可重复和可跟踪的工作流。团队构建的每个模型现在都绑定到试验运行，从而使团队能够查看和循环访问。使用可重复的管道，Sam 可以让 Azure ML 自动重新训练，而让自己重点关注下一个重大事务。
Azure ML 通过可重复性和可跟踪性帮助你构建企业级的机器学习管道。这使得模型交付更加一致，可变性更小，容错性更强。
使用自动缩放和托管的分布式推理群集，可靠地快速进行部署
使用自动缩放和托管的分布式推理群集，可靠地快速进行部署
如何部署模型的 Web 服务终结点
Sam 是一家线上时尚零售商的数据科学家，他最近将 Azure ML 添加到了他的工作流中，以构建更好的模型。他的自动化管道刚刚注册了最终模型，附带的试验结果显示性能有所提高。
不过，Web 开发团队并没有那么兴奋。他们不确定如何在他们的 Web 应用程序中嵌入机器学习模型，并且已改为要求 Web 服务。Sam 不是 Web 服务专家，所以他借助 Azure ML 来将 Web 服务终结点添加到模型中。
Sam 是一家线上零售商的数据科学家，他使用 Azure ML 创建并注册了一个模型。他的 Web 开发团队现在要求他提供一个 Web 终结点来调用其模型，以便进行推理。Sam 使用 Azure ML 创建此 Web 服务终结点。
获取最新模型并对其进行配置以用于生产
Sam 可以使用 Azure ML 部署和管理 Web 服务终结点。首先，他需要从注册表中获取最新的模型并对其进行配置，以查看该模型在生产中可能需要的资源类型。
将模型推送到 Azure 容器实例
使用手头的分析数据，Sam 通过 Azure ML 将模型打包到容器中，并将其部署到 Azure 容器实例，以进行实时或批处理推理。Azure ML 提供自动的模式生成并在模型部署后自动进行监视。
部署到可缩放的多样化终结点并实现 A/B 测试
借助 Azure ML，你可以轻松地在任何需要的地方（从云到边缘）部署模型。它可以利用任何计算选项，如 CPU、GPU 和 FPGA。只需几行代码，Sam 就可以将同一个模型推送到一个更加可缩放的 Azure Kubernetes 服务实例，甚至可以为新模型验证使用高级 A/B 测试功能。
使 Web 开发团队能够使用部署的模型
将模型部署到 Azure Kubernetes 服务实例后，Web 开发团队就可以访问 Web 服务终结点，以便从其应用程序调用以满足实时或批处理推理需求。模型终结点仍然受到监视，以获得数据偏移和其他可以根据需要进行审核的指标。
Azure ML 允许模型在任何需要它们的地方进行发布
在 Azure ML 中，Sam 采用了其开放源代码模型，并很快将其转变为一个可供开发团队使用的生产就绪 Web 服务。作为一名数据科学家，他能够将精力集中在模型开发上，而不必在服务托管所需的许多技术（包括 Kubernetes、Flask 和/或 Swagger）进行技能提升。
Azure ML 帮助数据科学家无缝地将其模型转换为成熟且功能齐全的 Web 服务，使其能够快速地应用于应用程序中。
在 Azure ML 中，Sam 采用了其开放源代码模型，并很快将其转变为一个可供开发团队使用的生产就绪 Web 服务。作为一名数据科学家，他能够将精力集中在模型开发上，而不必在服务托管所需的许多技术（包括 Kubernetes、Flask 和/或 Swagger）进行技能提升。
Azure ML 帮助数据科学家无缝地将其模型转换为成熟且功能齐全的 Web 服务，使其能够快速地应用于应用程序中。
与 Azure DevOps 和 GitHub 操作集成，以自动执行 ML 工作流
与 Azure DevOps 和 GitHub 操作集成，以自动执行 ML 工作流
如何与 DevOps 工作流集成
Sam 是一位数据科学家，为线上时尚零售商工作，他已经采用 Azure ML 来构建和部署他的模型。他最近将其模型发布到了 Azure Kubernetes 服务的生产实例中。Web 团队已经将其集成到 Web 应用中，并取得了很好的效果。
由于该模型现在是 Web 应用的关键部分，作为操作团队的一员，Rebecca 希望确保模型构建和部署是 DevOps 工作流的一部分。Sam 并不完全确定如何实现这一点。他向 Rebecca 推荐了 Azure ML，以确定其需求。
数据科学家 Sam 最近使用 Azure ML 来构建和部署模型。他刚刚向其生产 AKS 实例发布了一个模型。Rebecca 想要将其与 DevOps 工作流集成。Sam 向她推荐了 Azure ML。
使用 Azure Pipelines 创建新的发布管道
Rebecca 创建了新的 Azure 管道来自动执行部署过程。管道的第一步完成的任务包括使用所有依赖项构建模型和检查错误。为了自动触发此管道，Rebecca 将它连接到 Azure ML 模型注册表。这可确保它可以在注册新模型或模型的新版本时启动。
发布用于验证的模型
Rebecca 添加了一个任务，在模型投入生产之前将其发布到 Azure 容器实例进行验证。Rebecca 使用 Azure CLI 与 Azure ML 交互。该接口让她可以访问工具中的相同功能，就像 Sam 在其笔记本中所做的一样。这个步骤模拟了其应用 DevOps 过程中的集成测试。
在进行适当验证后将模型转移到生产环境
Rebecca 添加了一个发布管道任务，用 Azure Kubernetes 服务将模型部署到生产环境中。在激活此任务之前，Rebecca 将配置一个需要领导/经理评估并批准之后才能继续的入口。这可确保管道不会造成重大中断，因为脚本验证中没有捕捉到某些内容。
设置数据偏移检测以触发重新训练
当 Rebecca 建立自动化管道来部署模型时，Sam 就已经启用了 Azure ML 的数据偏移监视器。通过监视服务使用情况，他可以查看生产中的推理请求是否开始偏离训练数据集，以此确定是否需要重新训练。
监视服务的稳定性和性能
通过 Azure App Insights 集成，Rebecca 还可以监视服务操作的各个方面，如请求数、AKS 群集上的负载、响应延迟等，而 Sam 则监视模型性能，并确定是否需要进行优化。
监视服务的稳定性和性能
Azure ML 已经无缝地集成到了 Rebecca 现有的 DevOps 工作流中（从发布自动化到生产监视），并与 Azure DevOps 和 Azure App Insights 等现有工具进行了本机集成。当 Rebecca 关注服务操作时，Azure ML 为 Sam 提供了监视和管理模型性能的工具，并在必要时进行优化。
Azure ML 有助于使数据科学成为组织现有 DevOps 过程中的“一等公民”，从而带来更可靠的机器学习项目。
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Azure ML 已经无缝地集成到了 Rebecca 现有的 DevOps 工作流中（从发布自动化到生产监视），并与 Azure DevOps 和 Azure App Insights 等现有工具进行了本机集成。当 Rebecca 关注服务操作时，Azure ML 为 Sam 提供了监视和管理模型性能的工具，并在必要时进行优化。
Azure ML 有助于使数据科学成为组织现有 DevOps 过程中的“一等公民”，从而带来更可靠的机器学习项目。
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
为 ML 项目创建更好的治理和成本管理
为 ML 项目创建更好的治理和成本管理
如何针对 ML 模型启用治理
Phil 是一家线上时尚零售商的 IT 经理，他对数据科学和运营团队使用 Azure ML 所做的工作非常感兴趣，这些工作以一种可靠且可重复的方式实现了机器学习的承诺。
Phil 有一个问题 - 他负责 IT 基础结果，但不太清楚生产中的内容、谁有访问权限，也不清楚成本是多少。他正在查看 Azure ML 来帮助他履行这些重要的治理职责。
Phil 是一家线上零售商的 IT 经理，对 Sam 和 Rebecca 的工作很满意。但 Phil 负责 IT 基础结构，不知道如何确保关于 ML 项目的治理。他正在查看 Azure ML 以获得帮助。
查看生产中的模型
Azure ML 使 Phil 可以审核生产终结点。他可以导航回基础模型和试验，以及模型解释和公平性分析的输出。这确保了 Phil 可以跟踪模型创建过程中的每一个步骤，并允许他审核模型中的任何偏见。
查看审核日志以获取详细的模型历史记录
在 Azure 中，他可以访问 Azure ML 审核日志。这补充了模型和试验中的可跟踪性，并提供了一个详细的日志，其中显示了使用日期和时间跟踪跟踪的每个操作以及相应的用户。这些日志有助于 Phil 跟踪 Azure ML 服务内部或由其发起的操作，以履行组织范围的责任。
使用标准 Azure IAM 保护工作区
Phil 可以使用 Azure IAM 来管理对 Azure ML 工作区的访问。Azure ML 提供开箱即用的各种角色。它还允许创建自定义角色。这些角色可以与特定的任务相关联，用户可以执行和控制对资源的访问或提交作业等。
确保对 Azure 资源负责
除了 Azure 中的成本管理功能，Azure ML 还通过支持可配置工作区级别限制的资源配额来体现责任。这有助于 Phil 管理支出并确保团队之间的资源分配公平。它还鼓励各个项目团队在分配的资源范围内进行管理。
实现对 ML 项目模型的治理和合规性
Phil 很感激 Azure ML 不仅支持数据科学和操作团队，而且还提供了企业级的管理功能，他需要这些功能来履行自己的职责。他可以确切地看到生产中的内容，并通过审核、基于角色的访问控制和配额管理来确保组织的合规性。
Azure ML 提供了使机器学习项目成功和安全所必需的组织控制。
Phil 很感激 Azure ML 不仅支持数据科学和操作团队，而且还提供了企业级的管理功能，他需要这些功能来履行自己的职责。他可以确切地看到生产中的内容，并通过审核、基于角色的访问控制和配额管理来确保组织的合规性。
Azure ML 提供了使机器学习项目成功和安全所必需的组织控制。
了解客户如何通过 MLOps 实现价值
Sze-Wan Ng：TransLink 分析与开发总监"With MLOps capabilities in Azure Machine Learning, we've improved bus departure predictions by 74 percent, and riders spend 50 percent less time waiting."
Vijaya Sekhar Chennupati，Johnson Controls 应用数据科学家"Using the MLOps capabilities in Azure Machine Learning, we were able to increase productivity and enhance operations, going to production in a timely fashion and creating a repeatable process."
