Operace strojového učení (MLOps)
Funkce služby Azure Machine Learning pro automatizaci a zrychlení životního cyklu strojového učení
MLOps pomáhá rychleji realizovat inovace
MLOps nebo DevOps pro strojové učení umožňují týmům odborníků na datové vědy a IT spolupracovat a urychlit tempo vývoje a nasazování modelů díky monitorování, ověřování a zásadám správného řízení modelů strojového učení.
Reprodukovatelnost trénování s rozšířeným sledováním datových sad, kódu, experimentů a prostředí v bohatém registru modelů.
Automatické škálování, výkonné spravované výpočetní prostředí, nasazení bez kódu a nástroje pro snadné trénování a nasazení modelů.
Efektivní pracovní postupy s funkcemi plánování a správy pro sestavování a nasazování pomocí průběžné integrace nebo průběžného nasazování (CI/CD).
Rozšířené možnosti, které pomáhají plnit cíle v oblasti zásad správného řízení a kontroly a podporují transparentnost modelů a spravedlivý přístup.
Centrum prostředků
Projděte si kompletní proces MLOps.
Využijte možnosti přístupu k doprovodným poznámkovým blokům, ukázkám kódu a dokumentaci.
Funkce MLOps zblízka: Správa prostředků, artefaktů a kódu
Funkce MLOps zblízka: Vytváření pracovních postupů strojového učení řízených událostmi – video na webu Microsoft Channel 9
Funkce MLOps zblízka: CI/CD s využitím GitHub Actions – video na webu Microsoft Channel 9
Podívejte se na MLOps v akci
Vytváření kanálů strojového učení pro návrh, nasazování a správu pracovních postupů modelů
Vytváření kanálů strojového učení pro návrh, nasazování a správu pracovních postupů modelů
Automatizace kanálu strojového učení
Sam je odborník na data pracující pro online prodejce módy. Tento prodejce nedávno začal využívat strojové učení, které poskytuje včasná a přesná doporučení ke zlepšení spokojenosti zákazníků i prodeje.
Po nedávné aktualizaci katalogu Sam dostal za úkol aktualizovat model doporučování značek. Narazil však na problém – nikdo si není zcela jistý, jak aktuální model vzniknul, a proto je potřeba vše udělat znovu.
Proto s využitím Azure ML vytvoří reprodukovatelný a sledovatelný pracovní postup.
Sam je odborník na data pracující pro online prodejce, který po nedávné aktualizaci katalogu dostal za úkol aktualizovat model doporučování. Sam hledá kanál modelu, ale nikdo neví, jak model vzniknul.
Sam proto s využitím Azure ML vytvoří sledovatelný pracovní postup modelu.
Integrace Azure ML do stávajících nástrojů strojového učení
Sam s využitím sady Azure ML SDK přenese svou stávající práci založenou na poznámkových blocích Jupyter do Azure ML. Díky tomu bude moct využít škálování a možnosti spolupráce, které Azure ML nabízí. Svůj trénovací kód může bez ohledu na použitou architekturu strojového učení společně s trénovacími datovými sadami označovat verzemi a propojit se sledovatelným experimentem.
Zachytávání metrik z každého spuštění experimentu
Azure ML při každém spuštění sleduje jeho metriky a protokoluje je pro účely kontroly. Tím se prakticky vytvoří snímek vstupů, jako jsou datové sady, kód a parametry, a výstupů, jako jsou protokoly, metriky a modely, pro účely posouzení a porovnání.
Použití pracovního prostoru Azure ML ke kontrole modelů a experimentů
Přestože Sam bude dál pracovat ve svém prostředí poznámkových bloků, jeho tým (teď i v budoucnu) může pomocí služby Azure ML Studio snadno vysledovat jednotlivé prostředky a kroky použité k vytvoření konečného modelu v registru modelů.
Zajištění efektivity a konzistence vytvořením opakovaně použitelného kanálu
S využitím kanálů Azure ML Sam vytvoří opakovaně použitelný kanál strojového učení, který zajistí pracovní postup trénování modelů a jeho automatickou aktivaci při změně zdrojových dat. Kromě toho díky opakovanému používání výsledků kroků u nezměněných vstupů zvýší efektivitu.
Vytváření reprodukovatelných kanálů strojového učení
S využitím Azure ML Sam vytvořil reprodukovatelný a sledovatelný pracovní postup. Každý model, který tým vytvoří, je teď vázaný na spuštění experimentu a tým tak má možnost provádět kontroly a iterovat. Díky reprodukovatelnému kanálu může Sam nechat automatizaci přetrénování na Azure ML a soustředit se na další velké věci.
Azure ML pomáhá vytvářet kanály strojového učení na podnikové úrovni díky reprodukovatelnosti a sledovatelnosti. To vede ke konzistentnějšímu doručování modelů s nižší variabilitou a zvýšenou odolností proti chybám.
S využitím Azure ML Sam vytvořil reprodukovatelný a sledovatelný pracovní postup. Každý model, který tým vytvoří, je teď vázaný na spuštění experimentu a tým tak má možnost provádět kontroly a iterovat. Díky reprodukovatelnému kanálu může Sam nechat automatizaci přetrénování na Azure ML a soustředit se na další velké věci.
Azure ML pomáhá vytvářet kanály strojového učení na podnikové úrovni díky reprodukovatelnosti a sledovatelnosti. To vede ke konzistentnějšímu doručování modelů s nižší variabilitou a zvýšenou odolností proti chybám.
Rychlé nasazování bez obav s využitím spravovaných distribuovaných clusterů pro odvozování s automatickým škálováním
Rychlé nasazování bez obav s využitím spravovaných distribuovaných clusterů pro odvozování s automatickým škálováním
Nasazení koncového bodu webové služby pro model
Odborník na data Sam pracující pro online prodejce módy do svého pracovního postupu nedávno přidal službu Azure ML, která umožňuje vytvářet lepší modely. Jeho automatizovaný kanál právě zaregistroval konečný model společně s připojenými výsledky experimentů, které ukazují vyšší výkon.
Tým webových vývojářů však tak nadšený není. Nejsou si jistí, jak model strojového učení vložit do webové aplikace, a místo toho vyžadují webovou službu. Sam není odborník na webové služby, proto do svého modelu přidá koncový bod webové služby s využitím Azure ML.
Odborník na data Sam pracující pro online prodejce s využitím Azure ML vytvořil a zaregistroval model. Tým webových vývojářů ho teď žádá o webový koncový bod umožňující volat model za účelem odvozování. Sam k vytvoření tohoto koncového bodu webové služby využije Azure ML.
Načtení nejnovějšího modelu a jeho profilace pro produkční prostředí
Sam může k nasazování a správě koncových bodů webové služby využít Azure ML. Nejprve z registru načte nejnovější model a vytvoří jeho profil, aby zjistil, jaký druh prostředků může potřebovat v produkčním prostředí.
Odeslání modelu do služby Azure Container Instances
Když má data profilace, Sam s využitím Azure ML zabalí model do kontejneru a nasadí ho do služby Azure Container Instances, která umožňuje odvozování v reálném čase nebo dávkové odvozování. Azure ML nabízí automatické generování schématu a monitorování nasazených modelů.
Nasazení na různé škálovatelné koncové body a implementace testování A/B
Azure ML usnadňuje nasazování modelů, kdekoli jsou potřeba, od cloudu až po hraniční zařízení. Může využívat jakékoli výpočetní možnosti, jako jsou CPU, GPU nebo FPGA. Pomocí pouhých několika řádků kódu může Sam stejný model odeslat do škálovatelnější instance služby Azure Kubernetes Service a dokonce při ověřování nového modelu využít rozšířené funkce testování A/B.
Umožnění týmu webových vývojářů používat nasazený model
Po nasazení modelu do instance služby Azure Kubernetes Service může tým webových vývojářů při volání ze své aplikace přistupovat ke koncovému bodu webové služby, který umožňuje odvozování v reálném čase nebo dávkové odvozování. U koncového bodu modelu se stále monitoruje posun dat a další metriky, které je možné podle potřeby auditovat.
Azure ML umožňuje publikování modelů, kdekoli jsou potřeba
S využitím Azure ML Sam rychle proměnil svůj open source model na webovou službu připravenou pro produkční prostředí, kterou může využívat vývojový tým. Jako odborník na data se mohl stále soustředit na vývoj modelu a nemusel získávat nové dovednosti související s celou řadou služeb, které jsou potřeba k hostování služeb (mezi které patří Kubernetes, Flask nebo Swagger).
Azure ML pomáhá odborníkům na data bezproblémově měnit modely na vyspělé a plně vybavené webové služby, které umožňují rychlou implementaci modelů v aplikacích.
Nasazování modelů s využitím Azure ML Úložiště GitHub pro tuto ukázku
S využitím Azure ML Sam rychle proměnil svůj open source model na webovou službu připravenou pro produkční prostředí, kterou může využívat vývojový tým. Jako odborník na data se mohl stále soustředit na vývoj modelu a nemusel získávat nové dovednosti související s celou řadou služeb, které jsou potřeba k hostování služeb (mezi které patří Kubernetes, Flask nebo Swagger).
Azure ML pomáhá odborníkům na data bezproblémově měnit modely na vyspělé a plně vybavené webové služby, které umožňují rychlou implementaci modelů v aplikacích.
Nasazování modelů s využitím Azure ML Úložiště GitHub pro tuto ukázku
Automatizace pracovních postupů strojového učení díky integraci s Azure DevOps a GitHub Actions
Automatizace pracovních postupů strojového učení díky integraci s Azure DevOps a GitHub Actions
Integrace s vlastním pracovním postupem DevOps
Odborník na data Sam pracující pro online prodejce módy začal k sestavování a nasazování modelů využívat Azure ML. Nedávno svůj model uvolnil do produkční instance služby Azure Kubernetes Service. Webový tým ho integroval do své webové aplikace se slibnými výsledky.
Vzhledem k tomu, že je teď klíčovou součástí webové aplikace, Rebecca z provozního týmu chce zajistit, aby sestavení a nasazení modelu bylo součástí jejich pracovních postupů DevOps. Sam si není zcela jistý, jak to provést. Představí Rebecce službu Azure ML, aby zjistila, jakým způsobem může splnit jejich požadavky.
Odborník na data Sam nedávno s využitím Azure ML vytvořil a nasadil modely. Právě uvolnil model do produkční instance AKS. Rebecca ho chce integrovat do pracovních postupů DevOps jejího týmu. Sam ji odkáže na Azure ML.
Vytvoření nového kanálu verze s využitím služby Azure Pipelines
Rebecca za účelem automatizace procesu nasazení vytvoří nový kanál Azure. V prvním kroku kanálu se provádí úlohy, jako je sestavení modelu se všemi závislostmi a kontrola chyb. Aby se tento kanál aktivovat automaticky, Rebecca ho připojí k registru modelů Azure ML. Tím se zajistí, že se kanál bude moct spustit při každé registraci nového modelu nebo nové verze modelu.
Publikování modelu k ověření
Rebecca přidá úlohu publikování modelu do služby Azure Container Instances, která ho ověří před nasazením do produkčního prostředí. Rebecca k práci s Azure ML používá Azure CLI. Díky tomu má ve svých nástrojích přístup ke stejným funkcím, jaké má Sam ve svém poznámkovém bloku. Tento krok napodobuje integrační testy v procesu DevOps aplikace jejího týmu.
Přesun modelu po náležitém ověření do produkčního prostředí
Rebecca přidá úlohu kanálu verze, která model s využitím služby Azure Kubernetes Service nasadí do produkčního prostředí. Před aktivací této úlohy Rebecca nakonfiguruje bránu, která před pokračováním bude vyžadovat posouzení a schválení od vedoucího nebo manažera. Tím se zajistí, že kanál nezpůsobí výrazné přerušení v případě, že se v rámci skriptovaného ověřování něco nezachytí.
Nastavení detekce posunu dat a aktivace přetrénování
Vzhledem k tomu, že Rebecca nastavuje automatizovaný kanál pro sestavování modelů, Sam s využitím Azure ML povolil monitorování posunu dat. Díky monitorování využití služby uvidí, když se požadavky na odvozování v produkčním prostředí začnou lišit od trénovací datové sady, což by značilo nutnost provést přetrénování.
Monitorování stability a výkonu služby
Zatímco Sam monitoruje výkon modelu, díky integraci Azure App Insights může Rebecca monitorovat také různé aspekty operací služby, jako jsou počet požadavků, zatížení clusteru AKS, latence odpovědí atd., které jí umožní zjistit, jestli je potřeba provést nějaké optimalizace.
Monitorování stability a výkonu služby
Služba Azure ML se díky nativním integracím se stávajícími nástroji, jako jsou Azure DevOps nebo Azure App Insights, bezproblémově integrovala do Rebečina stávajícího pracovního postupu DevOps, od automatizace vydávání verzí až po monitorování produkčního prostředí. A zatímco Rebecca dává pozor na operace služby, Azure ML poskytuje Samovi nástroje, pomocí kterých může monitorovat a spravovat výkon modelu a podle potřeby ho optimalizovat.
Azure ML pomáhá plně integrovat datové vědy do stávajícího procesu DevOps vaší organizace, což vede ke spolehlivějším a robustnějším projektům strojového učení.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Služba Azure ML se díky nativním integracím se stávajícími nástroji, jako jsou Azure DevOps nebo Azure App Insights, bezproblémově integrovala do Rebečina stávajícího pracovního postupu DevOps, od automatizace vydávání verzí až po monitorování produkčního prostředí. A zatímco Rebecca dává pozor na operace služby, Azure ML poskytuje Samovi nástroje, pomocí kterých může monitorovat a spravovat výkon modelu a podle potřeby ho optimalizovat.
Azure ML pomáhá plně integrovat datové vědy do stávajícího procesu DevOps vaší organizace, což vede ke spolehlivějším a robustnějším projektům strojového učení.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Vytváření lepších zásad správného řízení a správa nákladů napříč projekty strojového učení
Vytváření lepších zásad správného řízení a správa nákladů napříč projekty strojového učení
Povolení zásad správného řízení u modelu strojového učení
Phil, manažer IT pracující pro online prodejce módy, je nadšený prací, kterou tým pro datové vědy a provozní tým s využitím Azure ML odvedly za účelem dostát slibům robustního a opakovatelného strojového učení.
Phil má problém – je zodpovědný za IT infrastrukturu společnosti, ale není si zcela jistý, co je v produkčním prostředí, kdo k tomu má přístup nebo kolik to bude stát. Pomoc se splněním těchto klíčových požadavků zásad správného řízení hledá u Azure ML.
Phil, manažer IT pracující pro online prodejce módy, je z práce Sama a Rebeccy nadšený. Phil je však zodpovědný za IT infrastrukturu a neví, jak u projektu strojového učení zajistit dodržování zásad správného řízení. Pomoc hledá u Azure ML.
Kontrola modelů v produkčním prostředí
Azure ML umožňuje Philovi auditovat produkční koncové body. Může se vrátit k základním modelům a experimentům společně s výstupy vysvětlení modelů a analýzy spravedlivosti. Díky tomu může Phil sledovat všechny kroky v procesu vytváření modelů a povolit auditování odchylek v modelech.
Kontrola podrobné historie modelů v protokolech auditu
V rámci Azure může získat přístup k protokolům auditu Azure ML. To doplňuje možnosti sledování v modelech a experimentech o podrobný protokol, který ukazuje trasování všech akcí společně s informacemi o datu a času a příslušném uživateli. Tyto protokoly pomůžou Philovi sledovat akce iniciované uvnitř služby Azure ML nebo touto službou a zajistit tak zodpovědnost v rámci celé organizace.
Zabezpečení pracovního prostoru s využitím standardního systému Azure IAM
Phil může ke správě přístupu k pracovnímu prostoru Azure ML využít Azure IAM. Azure ML nabízí celou řadu předem připravených rolí. Kromě toho umožňuje vytvářet vlastní role. Tyto role je možné přidružit ke konkrétním úlohám, které uživatelé můžou provádět, řídit pomocí nich přístup k prostředkům nebo možnost odesílat úlohy atd.
Zajištění zodpovědnosti s využitím prostředků Azure
Kromě funkcí správy nákladů v Azure zajišťuje Azure ML zodpovědnost prostřednictvím kvót prostředků, které podporují konfigurovatelné limity na úrovni pracovního prostoru. Díky tomu může Phil spravovat útratu a zajistit spravedlivé přidělování prostředků mezi týmy. Navíc se tím podporuje zodpovědnost jednotlivých projektových týmů za to, že nepřekročí množství přidělených prostředků.
Zajištění zásad správného řízení a dodržování předpisů u modelů projektů strojového učení
Phil je vděčný, že Azure ML nejenže podporuje tým pro datové vědy a provozní tým, ale poskytuje také možnosti zásad správného řízení na podnikové úrovni, které potřebuje ke zvládnutí svých povinností. Má dokonalý přehled o všem v produkčním prostředí a prostřednictvím auditování, řízení přístupu na základě role a správy kvót může zajistit dodržování předpisů organizace.
Azure ML poskytuje organizační kontrolní prvky důležité pro úspěch a zabezpečení projektů strojového učení.
Monitorování Azure ML Plánování a správa nákladů na Azure ML Úložiště GitHub pro tuto ukázku
Phil je vděčný, že Azure ML nejenže podporuje tým pro datové vědy a provozní tým, ale poskytuje také možnosti zásad správného řízení na podnikové úrovni, které potřebuje ke zvládnutí svých povinností. Má dokonalý přehled o všem v produkčním prostředí a prostřednictvím auditování, řízení přístupu na základě role a správy kvót může zajistit dodržování předpisů organizace.
Azure ML poskytuje organizační kontrolní prvky důležité pro úspěch a zabezpečení projektů strojového učení.
Monitorování Azure ML Plánování a správa nákladů na Azure ML Úložiště GitHub pro tuto ukázku
Podívejte si, jak zákazníci s výhodou využívají MLOps
Sze-Wan Ng, ředitel pro analýzy a vývoj, TransLink"With MLOps capabilities in Azure Machine Learning, we've improved bus departure predictions by 74 percent, and riders spend 50 percent less time waiting."
Vijaya Sekhar Chennupati, vědec zaměřený na aplikované využití dat, Johnson Controls"Using the MLOps capabilities in Azure Machine Learning, we were able to increase productivity and enhance operations, going to production in a timely fashion and creating a repeatable process."
