MLOps (Machine Learning Operations, maskininlärningsdrift)
Azure Machine Learning-funktioner som automatiserar och påskyndar livscykeln för maskininlärning
MLOps hjälper dig att leverera innovation snabbare
Med MLOps, eller DevOps för maskininlärning, kan datavetenskaps- och IT-team samarbeta och öka takten för utveckling och distribution av modeller via övervakning, verifiering och styrning av maskininlärningsmodeller.
Möjligheten att reproducera träning med avancerad spårning av datauppsättningar, kod, experiment och miljöer i ett omfattande modellregister.
Automatisk skalning, kraftfull hanterad beräkning, kodlös distribution och verktyg för enkel träning och distribution av modeller.
Effektiva arbetsflöden med funktioner för schemaläggning och hantering för att skapa och distribuera med kontinuerlig integrering/kontinuerlig distribution (CI/CD).
Avancerade funktioner för att uppfylla styrnings- och kontrollmål och främja transparens och rättvisa i modeller.
Resurscenter
Få en genomgång av MLOps-processen från slutpunkt till slutpunkt.
Titta på videor och medföljande notebook-filer, kodexempel och dokumentation.
MLOps-funktionsgranskning: Hantera tillgångar, artefakter och kod
MLOps-funktionsgranskning: Skapa händelsedrivna arbetsflöden för maskininlärning – Microsoft Channel 9-video
Se MLOps i praktiken
Skapa ML-pipelines för att utforma, distribuera och hantera modellarbetsflöden
Skapa ML-pipelines för att utforma, distribuera och hantera modellarbetsflöden
Automatisera en pipeline för maskininlärning
Erik är dataforskare och arbetar för en modeåterförsäljare online. De har nyligen börjat använda Machine Learning för att ge rätt rekommendationer och förbättra både kundnöjdheten och försäljningen.
Efter en ny kataloguppdatering uppmanas Erik att uppdatera sin modell för varumärkesrekommendationer. Men det finns ett problem – ingen är helt säker på var den aktuella modellen kommer ifrån vilket innebär att allt måste göras om.
Han vänder sig till Azure ML för att bygga ett reproducerbart och spårat arbetsflöde.
Erik är dataforskare hos en onlineåterförsäljare, och har fått uppgiften att uppdatera deras rekommendationsmodell efter en nyligen genomförd kataloguppdatering. Erik söker efter modellpipelinen, men ingen vet var modellen kom från.
Erik vänder sig till Azure ML för att bygga ett spårningsbart modellarbetsflöde.
Integrera Azure ML i dina befintliga Machine Learning-verktyg
Erik använder Azure ML SDK för att få sitt befintliga Jupyter Notebook-baserade arbete till Azure ML. Det gör att han kan dra nytta av skalnings- och samarbetsfunktionerna i Azure ML. Hans träningskod, oavsett vilket ML-ramverk som används, tillsammans med hans träningsdatauppsättningar kan versionshanteras och länkas till ett spårat experiment.
Fånga måtten från alla experimentkörningar
Varje gång Erik utför en körning spårar Azure ML dess mått och loggar den för granskning. Detta skapar ögonblicksbilder av inmatningarna, t. ex. datauppsättningar, kod och parametrar, samt utdata som loggar, mått och modeller för utvärdering och jämförelser.
Använd Azure ML-arbetsytan för att granska modeller och experiment
Även om Erik fortsätter att arbeta i sin Notebook-miljö kan hans team – både nu och i framtiden – använda Azure ML Studio för att enkelt spåra bakåt från den slutliga modellen i modellregistret till varje tillgång och steg som används för att skapa den.
Skapa en återanvändnings bar pipeline för att leverera effektivitet och konsekvens
Med Azure ML-pipeliner skapar Erik en återanvändbar ML-pipeline för att leverera ett arbetsflöde för modellinlärning och utlösa det automatiskt vid ändringar i källdata. Den skapar också effektivitet genom att återanvända resultatet för steg med oförändrade indata.
Skapa reproducerbara pipelines för maskininlärning
Genom att använda Azure ML har Erik skapat ett reproducerbart och spårat arbetsflöde. Varje modell som teamet tillverkar är nu knuten till en experimentkörning, vilket ger teamet möjlighet att granska och iterera. Med en reproducerbar pipeline kan Erik låta Azure ML automatisera omträning medan han fokuserar på nästa stora sak.
Azure ML hjälper dig att bygga en maskininlärningspipeline i företagsklass genom reproducerbarhet och spårbarhet. Detta leder till mer konsekvent modelleverans med mindre variation och ökad feltolerans.
Genom att använda Azure ML har Erik skapat ett reproducerbart och spårat arbetsflöde. Varje modell som teamet tillverkar är nu knuten till en experimentkörning, vilket ger teamet möjlighet att granska och iterera. Med en reproducerbar pipeline kan Erik låta Azure ML automatisera omträning medan han fokuserar på nästa stora sak.
Azure ML hjälper dig att bygga en maskininlärningspipeline i företagsklass genom reproducerbarhet och spårbarhet. Detta leder till mer konsekvent modelleverans med mindre variation och ökad feltolerans.
Distribuera snabbt med förtroende med hjälp av automatisk skalning, hanterade, distribuerade slutsatsdragningskluster
Distribuera snabbt med förtroende med hjälp av automatisk skalning, hanterade, distribuerade slutsatsdragningskluster
Så här distribuerar du en webbtjänstslutpunkt för en modell
Erik, som är dataforskare och arbetar för en modeåterförsäljare online, har nyligen lagt till Azure ML till sitt arbetsflöde för att bygga bättre modeller. Den automatiserade pipelinen registrerade precis en slutgiltig modell som är komplett med bifogade experimentresultat som visar förbättrade prestanda.
Webbutvecklingsteamet är inte riktigt lika spännande. De är inte säkra på hur de ska bädda in en Machine Learning-modell i webbappen och har bett om en webbtjänst i stället. Erik är ingen expert på webbtjänster, så att han vänder sig till Azure ML för att få hjälp med att lägga till en webbtjänstslutpunkt i sin modell.
Erik, som är dataforskare och arbetar hos en onlineåterförsäljare, använde Azure ML för att skapa och registrera en modell. Hans team med webbutvecklare har nu bett om en webbslutpunkt för att anropa sin modell för slutsatsdragning. Erik använder Azure ML för att skapa den här webbtjänstslutpunkten.
Hämta den senaste modellen och profilen för produktion
Erik kan använda Azure ML för att distribuera och hantera webbtjänstslutpunkter. Först hämtar han den senaste modellen från registret och profilerar den för att se vilka typer av resurser som kan behövas i produktionen.
Skicka modellen till en Azure Container-instans
Med profileringsdata till hands använder Erik Azure ML för att paketera modellen i en container och distribuera den till en Azure Container-instans för slutsatsdragning i realtid eller batch. Azure ML tillhandahåller automatisk schemagenerering och övervakning av modellen när den har distribuerats.
Distribuera till skalbara, olika slutpunkter och implementera A/B-testning
Med Azure ML är det lätt att distribuera dina modeller där de behövs, från molnet till gränsen. Det kan utnyttja alla beräkning alternativ som processor, GPU och FPGA. Med bara ett par rader kod kan Erik skicka samma modell till en mer skalbar Azure Kubernetes Service-instans och till och med göra avancerade A/B-testfunktioner för ny modellvalidering.
Gör det möjligt för webbutvecklingsteamet att använda den distribuerade modellen
När modellen har distribuerats till en Azure Kubernetes Service-instans kan webbutvecklingsteamet komma åt webbtjänstens slutpunkt för att anropa från sina program för behov av slutsatsdragning i realtid eller batch. Modellens slutpunkt övervakas fortfarande för dataavvikelser och andra mått som kan granskas efter behov.
Med Azure ML kan modeller publiceras var de än behövs
Med Azure ML har Erik tagit sin modell med öppen källkod och snabbt omvandlat den till en produktionsklar webbtjänst som kan användas för att utveckla teamet. Som dataforskare har han kunnat hålla sitt fokus på modellutveckling, i stället för att behöva samla in de många tekniker som krävs för tjänstens värd (inklusive Kubernetes, Flask och/eller Swagger).
Azure ML hjälper dataforskare att smidigt överföra sina modeller till mogna och helt aktuella webbtjänster, så att de snabbt kan antas i program.
Distribuera modeller med Azure ML GitHub-lagringsplats för den här demon
Med Azure ML har Erik tagit sin modell med öppen källkod och snabbt omvandlat den till en produktionsklar webbtjänst som kan användas för att utveckla teamet. Som dataforskare har han kunnat hålla sitt fokus på modellutveckling, i stället för att behöva samla in de många tekniker som krävs för tjänstens värd (inklusive Kubernetes, Flask och/eller Swagger).
Azure ML hjälper dataforskare att smidigt överföra sina modeller till mogna och helt aktuella webbtjänster, så att de snabbt kan antas i program.
Distribuera modeller med Azure ML GitHub-lagringsplats för den här demon
Integrera med Azure DevOps och GitHub Actions för att automatisera ML-arbetsflöden
Integrera med Azure DevOps och GitHub Actions för att automatisera ML-arbetsflöden
Integrera med ditt DevOps-arbetsflöde
Erik, som är dataforskare och arbetar för en modeåterförsäljare online, har lagt till Azure ML för att bygga och distribuera sina modeller. Han har nyligen lanserat sin modell till en produktion instans av Azure Kubernetes Service. Webbteamet har integrerat det i webbappen med lovande resultat.
Eftersom det nu är en viktig del av webbappen, vill Anna, en del av driftsteamet, se till att modellversionen och distributionen är en del av sina DevOps-arbetsflöden. Erik är inte helt säker på hur han ska utföra det. Han introducerar Anna för Azure ML för att fastställa hur det kan uppfylla deras krav.
Erik, dataforskare, använde nyligen Azure ML för att bygga och distribuera modeller. Han har precis lanserat en modell för sin produktion av AKS-instansen. Anna vill integrera den med sina DevOps-arbetsflöden. Erik hänvisar henne till Azure ML.
Skapa en ny version av en pipeline med Azure Pipelines
Anna skapar en ny Azure-pipeline för att automatisera distributionsprocessen. I det första steget i pipelinen utförs uppgifter som att skapa modellen med alla beroenden och söka efter fel. För att utlösa den här pipelinen automatiskt ansluter Anna till Azure ML-modellregistret. Detta säkerställer att det kan starta när en ny modell eller en ny version av modellen registreras.
Publicera modellen för verifiering
Anna lägger till en uppgift för att publicera modellen till en Azure Container-instans för verifiering innan den går till produktion. Anna använder Azure CLI för att interagera med Azure ML. Det ger henne åtkomst till samma funktioner i sina verktyg som Erik har i sin bärbara dator. Det här steget efterliknar integreringstester i processen för DevOps-appen.
Flytta modellen till produktion vid korrekt validering
Anna lägger till en uppgift för versionspipeline för att distribuera modellen till produktion med Azure Kubernetes Service. Innan den här aktiviteten aktiveras konfigurerar Anna en gate som kräver att en lead/ansvarig utvärderar och godkänner innan de fortsätter. Detta säkerställer att pipelinen inte orsakar stora avbrott, vilket inte fångades upp i den skriptbaserade verifieringen.
Konfigurera dataavvikelseidentifiering för att utlösa omträning
När Anna konfigurerar den automatiserade pipelinen för att distribuera modellerna har Erik aktiverat dataavvikelseövervakning med Azure ML. Genom att övervaka tjänstens användning kan han se om begäranden om slutsatsdragning i produktionen börjar avvika från träningsdatauppsättningen, vilket innebär att omträning behövs.
Övervaka tjänsten för stabilitet och prestanda
Med Azure App Insights-integrering kan Anna också övervaka olika aspekter av tjänståtgärder, t. ex. antal förfrågningar, belastning på AKS-klustret, svarsfördröjning osv. medan Erik övervakar modellprestanda och avgör om det finns optimeringar som ska göras där.
Övervaka tjänsten för stabilitet och prestanda
Azure ML har sömlöst integrerats i Annas befintliga DevOps-arbetsflöde, från lanseringsautomatisering via produktionsövervakning, med inbyggd integrering till befintliga verktyg som Azure DevOps och Azure App Insights. Medan Anna håller ett öga på tjänståtgärderna ger Azure ML Erik verktyg för att övervaka och hantera modellprestanda och optimera efter behov.
Med Azure ML blir datavetenskap ett förstklassigt inslag i organisationens befintliga DevOps-process, vilket leder till mer pålitliga och robusta Machine Learning-projekt.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Azure ML har sömlöst integrerats i Annas befintliga DevOps-arbetsflöde, från lanseringsautomatisering via produktionsövervakning, med inbyggd integrering till befintliga verktyg som Azure DevOps och Azure App Insights. Medan Anna håller ett öga på tjänståtgärderna ger Azure ML Erik verktyg för att övervaka och hantera modellprestanda och optimera efter behov.
Med Azure ML blir datavetenskap ett förstklassigt inslag i organisationens befintliga DevOps-process, vilket leder till mer pålitliga och robusta Machine Learning-projekt.
CI/CD with Azure DevOps and Github actions Detect data drift Github repo for this demo
Skapa bättre styrning och kostnadshantering i dina ML-projekt
Skapa bättre styrning och kostnadshantering i dina ML-projekt
Så här aktiverar du styrning runt en ML-modell
Staffan, IT-chef på en modeåterförsäljare online, är entusiastisk inför arbetet som dataforsknings- och driftteamen har gjort med Azure ML för att leverera maskininlärning på ett robust och repeterbart sätt.
Staffan har ett problem – han ansvarar för deras IT-infrastruktur, men är inte helt säker på vad som är i produktion, vem som har åtkomst eller hur mycket det kostar. Han vänder sig till Azure ML för att få hjälp med att leverera dessa viktiga styrningsansvarsområden.
Staffan, IT-chef hos en onlineåterförsäljare, är nöjd med Eriks och Annas arbete. Men Staffan ansvarar för IT-infrastrukturen och vet inte hur man garanterar styrningen i ML-projektet. Han vänder sig till Azure ML.
Granska modeller i produktion
Med Azure ML kan Staffan granska produktionsslutpunkterna. Han kan gå tillbaka till underliggande modeller och experiment, tillsammans med resultatet av modellens förklaringar och rättviseanalys. Detta säkerställer att Staffan kan spåra varje steg i processen för att skapa modeller och aktivera granskning av modeller för eventuella biasåtgärder.
Kontrollera spårningsloggarna för detaljerad modellhistorik
I Azure har han åtkomst till granskningsloggarna i Azure ML. Detta kompletterar spårbarheten i modeller och experiment med en detaljerad logg som visar varje spårad åtgärd med datum- och tidsspårning och respektive användare. Med loggarna kan Staffan spåra åtgärder som initieras i eller av Azure ML-tjänsten för hela organisationen.
Skydda arbetsytan med hjälp av standard-Azure IAM
Staffan kan använda Azure IAM för att hantera åtkomst till Azure ML-arbetsytan. Azure ML innehåller en uppsättning roller som är färdiga. Du kan också skapa anpassade roller. Rollerna kan associeras med vissa uppgifter som användare kan utföra och kontrollerar åtkomst till resurser eller möjlighet att skicka jobb osv.
Säkerställ ansvar med Azure-resurser
Tillsammans med funktionerna för kostnadshantering i Azure visar Azure ML ansvarighet via resurskvoter som stöder konfigurerbara gränsvärden för arbetsytan. Det hjälper Staffan att hantera utgifter och se till att en rättvis resurstilldelning görs mellan olika team. Det uppmuntrar också till ansvar som respektive projektteam ska hantera i de tilldelade resurserna.
Uppnå styrning och efterlevnad av dina ML-projektmodeller
Staffan är tacksam över att Azure ML inte bara har stöd för dataforsknings- och driftteam, utan också levererar de styrningsfunktioner i företagsklass som han behöver för att hålla koll på sina ansvarsområden. Han kan se exakt vad som är i produktion, samt säkerställa organisationens efterlevnad genom granskning, rollbaserad åtkomstkontroll och kvothantering.
Azure ML ger de organisatoriska kontroller som krävs för att göra Machine Learning-projekt klara och säkra.
Övervaka Azure ML Planera och hantera kostnader för Azure ML GitHub-lagringsplats för den här demon
Staffan är tacksam över att Azure ML inte bara har stöd för dataforsknings- och driftteam, utan också levererar de styrningsfunktioner i företagsklass som han behöver för att hålla koll på sina ansvarsområden. Han kan se exakt vad som är i produktion, samt säkerställa organisationens efterlevnad genom granskning, rollbaserad åtkomstkontroll och kvothantering.
Azure ML ger de organisatoriska kontroller som krävs för att göra Machine Learning-projekt klara och säkra.
Övervaka Azure ML Planera och hantera kostnader för Azure ML GitHub-lagringsplats för den här demon
Se hur kunderna levererar värde med MLOps
Sze-Wan Ng: Director of Analytics & Development på TransLink"With MLOps capabilities in Azure Machine Learning, we've improved bus departure predictions by 74 percent, and riders spend 50 percent less time waiting."
Vijaya Sekhar Chennupati, tillämpad dataforskning på Johnson Controls"Using the MLOps capabilities in Azure Machine Learning, we were able to increase productivity and enhance operations, going to production in a timely fashion and creating a repeatable process."
