MLOps (maskininlärningsdrift)
Påskynda automatisering, samarbete och reproducerbarhet för maskininlärningsarbetsflöden
Förenklad distribution och hantering av tusentals modeller i produktionsmiljöer, från lokala till gränsen
Fullständigt hanterade slutpunkter för batch- och realtidsförutsägelser som möjliggör snabbare distribution och poängsättning av modeller
Upprepningsbara pipelines som automatiserar maskininlärningsarbetsflöden för kontinuerlig integrering/kontinuerlig leverans (CI/CD)
Övervakar kontinuerligt modellprestandamått, identifierar dataavvikelser och förbättrar modellprestanda genom att utlösa omträning
Leverera innovation snabbt
MLOps – maskininlärningsåtgärder eller DevOps för maskininlärning – är skärningspunkten mellan personer, processer och plattformar som ger affärsvärde från maskininlärning. Det effektiviserar utveckling och distribution via övervakning, validering och styrning av maskininlärningsmodeller.
Skapa arbetsflöden och modeller för maskininlärning
Använd datauppsättningar och omfattande modellregister för att spåra tillgångar. Möjliggör förbättrad spårbarhet med spårning av kod, data och mått i körningshistoriken. Skapa maskininlärningspipelines för att utforma, distribuera och hantera reproducerbara modellarbetsflöden för konsekvent modellleverans.
Distribuera enkelt mycket exakta modeller var som helst
Distribuera snabbt med tillförsikt. Använd handerade online-slutpunkter för att distribuera modeller mellan kraftfulla CPU och GPU-datorer utan att hantera den underliggande infrastrukturen. Paketera modeller snabbt och säkerställ hög kvalitet i varje steg med hjälp av modellprofilerings- och valideringsverktyg. Använd kontrollerad distribution för att flytta upp modeller till produktion.
Hantera hela maskininlärningslivscykeln effektivt
Utnyttja inbyggd interoperabilitet med Azure DevOps och GitHub Actions för smidig hantering och automatisering av arbetsflöden. Optimera modelltränings- och distributionspipelines, skapa för CI/CD för att underlätta omträning och enkelt anpassa maskininlärning till dina befintliga lanseringsprocesser. Använd avancerad dataavvikelseanalys för att förbättra modellens prestanda över tid.
Uppnå styrning mellan tillgångar
Spåra modellversionshistorik och ursprung för granskning. Ange beräkningskvoter för resurser och tillämpa principer för att säkerställa efterlevnad av säkerhets-, sekretess- och efterlevnadsstandarder. Använd de avancerade funktionerna för att uppfylla styrnings- och kontrollmålen och för att främja transparens och rättvisa i modellen.
Dra nytta av samverkan med MLflow
Skapa flexibla och säkrare arbetsflöden för maskininlärning från slutpunkt till slutpunkt med MLflow och Azure Machine Learning. Skala sömlöst dina befintliga arbetsbelastningar från lokal körning till det intelligenta molnet och gränsenheter. Lagra dina MLflow-experiment, kör mått, parametrar och modellartefakter i den centraliserade Azure Machine Learning arbetsytan.
Påskynda MLOps-samverkan mellan arbetsytor
Underlätta samarbete mellan arbetsytor och MLOps med register. Var värd för maskininlärningsresurser på en central plats så att de blir tillgängliga för alla arbetsytor i organisationen. Marknadsför, dela och upptäck modeller, miljöer, komponenter och datauppsättningar mellan team. Återanvänd pipelines och distribuera modeller som skapats av team på andra arbetsytor samtidigt som ursprunget och spårbarheten behålls.
Resurscenter
Se maskininlärningsdrift som pågår
Skapa maskininlärningspipeliner för att utforma, distribuera och hantera modellarbetsflöden
Skapa maskininlärningspipeliner för att utforma, distribuera och hantera modellarbetsflöden
Automatisera en maskininlärningspipeline
Sam är en dataexpert som arbetar för en modeåterförsäljare online. Företaget började nyligen använda maskininlärning för att ge korrekta rekommendationer i tid, vilket förbättrade både kundnöjdheten och försäljningen.
Efter en kataloguppdatering ombads Sam att uppdatera modellen för varumärkesrekommendationer—, men ingen vet var den aktuella modellen kommer ifrån. Han vänder sig till Azure Machine Learning för att skapa ett reproducerbart och spårningsbart arbetsflöde.
Erik är dataforskare hos en onlineåterförsäljare, och har fått uppgiften att uppdatera deras rekommendationsmodell efter en nyligen genomförd kataloguppdatering. Erik söker efter modellpipelinen, men ingen vet var modellen kom från.
Erik vänder sig till Azure ML för att bygga ett spårningsbart modellarbetsflöde.
Använda Azure Machine Learning med dina befintliga verktyg
Sam använder Azure Machine Learning SDK för att flytta sitt Jupyter Notebook-baserade arbete till Azure Machine Learning och dra nytta av dess skalnings- och samarbetsfunktioner. Med hjälp av sitt val av ramverk har han skapat sin träningskod och sina datauppsättningar och länkar dem till ett spårningsbart experiment.
Fånga måtten från alla experimentkörningar
Varje gång Sam kör en körning spårar Azure Machine Learning dess mått och loggar den för granskning. Detta samlar in indata (till exempel datauppsättningar, kod och parametrar) och utdata (till exempel loggar, mått och modeller) för utvärdering och jämförelser.
Granska modeller och experiment på arbetsytan
Medan Sam fortsätter att arbeta i sin notebook-miljö använder hans team Azure Machine Learning-studio för att enkelt spåra tillbaka från den slutliga modellen i modellregistret genom varje tillgång och steg som används för att skapa den.
Skapa återanvändbara pipelines för effektivitet och konsekvens
Sam skapar en återanvändbar maskininlärningspipeline för att leverera ett modellträningsarbetsflöde och utlösa det automatiskt vid ändringar i källdata. Om det behövs kan han återanvända resultatet av stegen utan att ändra indata.
Skapa reproducerbara pipelines för maskininlärning
Sam har skapat ett reproducerbart och spårningsbart arbetsflöde med Azure Machine Learning. Varje modell som teamet skapar är nu kopplad till en experimentkörning för granskning och iteration. Med en reproducerbar pipeline kan Sam Azure Machine Learning automatisera omträningen samtidigt som han fokuserar på nästa stora sak.
Azure Machine Learning hjälper dig att skapa maskininlärningspipelines i företagsklass genom reproducerbarhet och spårbarhet. Detta leder till mer konsekvent modellleverans med mindre variabilitet och ökad feltolerans.
Läs mer om maskininlärningspipelines Bläddra till GitHub-lagringsplatsen för den här demonstrationen
Genom att använda Azure ML har Erik skapat ett reproducerbart och spårat arbetsflöde. Varje modell som teamet tillverkar är nu knuten till en experimentkörning, vilket ger teamet möjlighet att granska och iterera. Med en reproducerbar pipeline kan Erik låta Azure ML automatisera omträning medan han fokuserar på nästa stora sak.
Azure ML hjälper dig att bygga en maskininlärningspipeline i företagsklass genom reproducerbarhet och spårbarhet. Detta leder till mer konsekvent modelleverans med mindre variation och ökad feltolerans.
Läs mer om maskininlärningspipelines Bläddra till GitHub-lagringsplatsen för den här demonstrationen
Distribuera snabbt och tillförlitligt med autoskalning och hanterade, distribuerade inferenskluster
Distribuera snabbt och tillförlitligt med autoskalning och hanterade, distribuerade inferenskluster
Distribuera en webbtjänstslutpunkt för en modell
Sam, en dataexpert som arbetar för en modeåterförsäljare online, har lagt till Azure Machine Learning i sitt arbetsflöde för att skapa bättre modeller. Hans automatiserade pipeline registrerade precis en slutlig modell med kopplade experimentella resultat som visade förbättrad prestanda.
Webbutvecklingsteamet är inte säker på hur du bäddar in en maskininlärningsmodell i webbappen och har bett om en webbtjänst i stället. Sam vänder sig till Azure Machine Learning för att få hjälp med att lägga till en webbtjänstslutpunkt i sin modell.
Sam, en dataforskare hos en online-återförsäljare, använde Azure ML för att skapa och registrera en modell. Hans webbutvecklingsteam har nu bett honom om en webbslutpunkt för att anropa modellen för slutsatsdragning. Sam använder Azure ML för att skapa den här webbtjänstslutpunkten.
Hämta den senaste modellen och profilen för produktion
Sam hämtar den senaste modellen från registret och profilerar den för att se vilken typ av resurser den kan behöva i produktionen.
Pusha modellen till Azure Container Instances
Med profileringsdata i handen använder Sam Azure Machine Learning för att paketera modellen i en container och distribuera den till Azure Container Instances för slutsatsdragning i realtid eller batch. Efter distributionen drar han nytta av funktionerna för automatisk schemagenerering och övervakning i Azure Machine Learning.
Distribuera till skalbara, olika slutpunkter och implementera A/B-testning
Med bara några rader kod skickar Sam samma modell till en mer skalbar Azure Kubernetes Service-instans (AKS) och använder avancerade A/B-testfunktioner för ny modellverifiering. Han kan nu distribuera modeller var de’ än behövs, från molnet till gränsen, med hjälp av beräkningsalternativ som CPU, GPU och FPGA.
Gör det möjligt för webbutvecklingsteamet att använda den distribuerade modellen
När modellen har distribuerats till en AKS-instans får webbutvecklingsteamet åtkomst till webbtjänstslutpunkten för att anropa från sitt program för behov av slutsatsdragning i realtid eller batch. Sam övervakar modellslutpunkten för dataavvikelse och andra mått, som kan granskas efter behov.
Publicera modeller var de än behövs
Sam omvandlade sin modell med öppen källkod till en produktionsklar webbtjänst för utvecklingsteamet. Han fokuserade på modellutveckling i stället för att lära sig de många tekniker som krävs för värd för tjänster, inklusive Kubernetes, Flask och Swagger.
Azure Machine Learning hjälper dig att sömlöst överföra dina modeller till mogna och kompletta webbtjänster, så att de snabbt kan användas i program.
Lär dig hur du distribuerar modeller med Azure Machine Learning
Med Azure ML har Erik tagit sin modell med öppen källkod och snabbt omvandlat den till en produktionsklar webbtjänst som kan användas för att utveckla teamet. Som dataforskare har han kunnat hålla sitt fokus på modellutveckling, i stället för att behöva samla in de många tekniker som krävs för tjänstens värd (inklusive Kubernetes, Flask och/eller Swagger).
Azure ML hjälper dataforskare att smidigt överföra sina modeller till mogna och helt aktuella webbtjänster, så att de snabbt kan antas i program.
Lär dig hur du distribuerar modeller med Azure Machine Learning
Samverka med Azure DevOps och GitHub Actions för att automatisera arbetsflöden för maskininlärning
Samverka med Azure DevOps och GitHub Actions för att automatisera arbetsflöden för maskininlärning
Integrera med ditt DevOps-arbetsflöde
Sam, en dataexpert som arbetar för en modeåterförsäljare online, använde Azure Machine Learning för att skapa och distribuera sina modeller. Han släppte nyligen sin modell till en produktionsinstans av Azure Kubernetes Service (AKS) och webbteamet har integrerat den i webbappen med goda resultat.
Rebecca, som ingår i driftteamet, vill se till att modellbygge och distribution är en del av DevOps-arbetsflödena. Sam är inte säker på hur hon ska införliva det, så han tränar Anna på Azure Machine Learning och arbetar med henne för att avgöra hur det kan uppfylla båda deras krav.
Sam, en dataforskare, använde nyligen Azure ML för att skapa och distribuera modeller. Han släppte precis en modell för deras AKS-produktionsinstans. Rebecca vill integrera den med sina DevOps-arbetsflöden. Sam hänvisar henne till Azure ML.
Skapa en ny version av en pipeline med Azure Pipelines
Anna skapar en pipeline i Azure Pipelines för att automatisera distributionsprocessen. Det första steget i pipelinen utför uppgifter som att skapa modellen med alla beroenden och söka efter fel. För att automatiskt utlösa den här pipelinen ansluter Anna den till Azure Machine Learning modellregistret och ser till att den startar när en ny modell eller en ny version av modellen registreras.
Publicera modellen för verifiering
Anna lägger till en uppgift för att publicera modellen till Azure Container Instances för validering innan den går till produktion. Hon använder Azure CLI för att interagera med Azure Machine Learning. Det ger henne tillgång till samma funktioner i sina verktyg som Sam har i sin anteckningsbok. Det här steget efterliknar integreringstester i appens DevOps-process.
Flytta modellen till produktion vid validering
Anna lägger till en versionspipelineuppgift för att distribuera modellen till produktion med hjälp av AKS. Innan den här uppgiften aktiveras konfigurerar Anna en grind som kräver att en lead eller chef utvärderar och godkänner innan hon fortsätter. Detta säkerställer att pipelinen’ inte orsakar större störningar om ett problem’ inte upptäcktes i de skriptade valideringarna.
Konfigurera dataavvikelseidentifiering för att utlösa utbildning på nytt
När Rebecca ställer in den automatiserade pipelinen för att distribuera modellerna, aktiverar Sam övervakning av dataavvikelser med Azure Machine Learning. Genom att övervaka tjänstanvändning kan han se om inferensbegäranden i produktion börjar avvika från träningsdatamängden, vilket i så fall visar på ett behov av att utbilda på nytt.
Övervaka tjänsten för stabilitet och prestanda
Med hjälp av Application Insights, en funktion i Azure Monitor, övervakar Anna tjänståtgärder som antal begäranden, belastning på AKS-klustret och svarsfördröjning, medan Sam övervakar modellprestanda för att avgöra om optimeringar ska göras.
Skapa ett effektiviserat modellarbetsflöde
Rebecca införlivade Azure Machine Learning i sitt DevOps-arbetsflöde, från versionsautomatisering till produktionsövervakning. Hon håller ett öga på tjänståtgärder, men Sam övervakar och hanterar modellprestanda och optimerar efter behov.
Azure Machine Learning hjälper till att höja datavetenskapen i organisationens DevOps-process, vilket leder till mer tillförlitliga och robusta maskininlärningsprojekt.
Identifiera dataavvikelse (förhandsversion) för datauppsättningar
Azure ML har sömlöst integrerats i Annas befintliga DevOps-arbetsflöde, från lanseringsautomatisering via produktionsövervakning, med inbyggd integrering till befintliga verktyg som Azure DevOps och Azure App Insights. Medan Anna håller ett öga på tjänståtgärderna ger Azure ML Erik verktyg för att övervaka och hantera modellprestanda och optimera efter behov.
Med Azure ML blir datavetenskap ett förstklassigt inslag i organisationens befintliga DevOps-process, vilket leder till mer pålitliga och robusta Machine Learning-projekt.
Identifiera dataavvikelse (förhandsversion) för datauppsättningar
Förbättra styrning och kostnadshantering i dina maskininlärningsprojekt
Förbättra styrning och kostnadshantering i dina maskininlärningsprojekt
Aktivera styrning av maskininlärningsmodeller
Information, IT-chef på en modeåterförsäljare online, är entusiastisk över det arbete som datavetenskaps- och driftteamen har gjort med Azure Machine Learning.
I och för att Phil ansvarar för företagets IT-infrastruktur är han inte säker på vad som finns i produktion, vem som har åtkomst eller hur mycket det kostar. Han bestämmer sig för att använda Azure Machine Learning för att hjälpa honom att uppfylla sina styrningsansvar.
Phil, it-chef hos en onlineåterförsäljare är mycket nöjd med Sam och Rebeccas arbete. Men Phil ansvarar för it-infrastrukturen och vet inte hur man säkerställer styrning kring ML-projektet. Han använder Azure ML för att få hjälp.
Granska modellerna i produktion
Phil använder Azure Machine Learning för att granska produktionsslutpunkterna. Han kan gå tillbaka till underliggande modeller och experiment tillsammans med resultatet av modellförklaringarna och rättviseanalysen. Detta säkerställer att han spårar varje steg i modellskapandeprocessen och aktiverar modellgranskning för eventuell bias.
Kontrollera spårningsloggarna för detaljerad modellhistorik
Phil kommer åt Azure Machine Learning granskningsloggar. De kompletterar spårbarheten som finns i modellerna och experimenten med en detaljerad logg som spårar varje åtgärd (datum, tid och användare). Dessa loggar hjälper Phil att spåra åtgärder som initierats inom eller av tjänsten för organisationsomfattande ansvar.
Skydda arbetsytan med Azure-identitets- och åtkomsthantering
Phil använder lösningar för identitets- och åtkomsthantering i Azure för att hantera åtkomsten till Azure Machine Learning-arbetsytan. Han använder både inbyggda roller och anpassade roller för att begränsa uppgifter som användare kan utföra och styra åtkomsten till resurser.
Säkerställ ansvar med Azure-resurser
Phil använder kvotfunktionen för att konfigurera resursgränser och delning. Detta hjälper honom att hantera utgifter, kontrollera kostnader och säkerställa rättvis resursallokering mellan team. Det uppmuntrar också till ansvarstagande från respektive projektteam.
Uppnå modellstyrning och efterlevnad
En kan nu se vad som finns i produktion och säkerställa organisationens efterlevnad via granskning, rollbaserad åtkomstkontroll och kvothantering. Han uppskattar hur Azure Machine Learning inte bara stöder datavetenskaps- och driftsteamen, utan även tillhandahåller de styrningsfunktioner i företagsklass som han behöver.
Azure Machine Learning tillhandahåller de organisationskontroller som är nödvändiga för att maskininlärningsprojekt ska lyckas och säkrare.
Övervaka Azure Machine Learning? Planera och hantera kostnader för Azure Machine Learning
Staffan är tacksam över att Azure ML inte bara har stöd för dataforsknings- och driftteam, utan också levererar de styrningsfunktioner i företagsklass som han behöver för att hålla koll på sina ansvarsområden. Han kan se exakt vad som är i produktion, samt säkerställa organisationens efterlevnad genom granskning, rollbaserad åtkomstkontroll och kvothantering.
Azure ML ger de organisatoriska kontroller som krävs för att göra Machine Learning-projekt klara och säkra.
Övervaka Azure Machine Learning? Planera och hantera kostnader för Azure Machine Learning
Omfattande inbyggda funktioner för säkerhet och efterlevnad
-
Microsoft investerar över USD 1 miljard varje år på forskning och utveckling av cybersäkerhet.
-
Vi sysselsätter fler än 3,500 säkerhetsexperter som arbetar helt och hållet med din datasäkerhet och sekretess.
-
Azure har fler certifieringar än någon annan molnleverantör. Visa den fullständiga listan.
Kom igång med ett kostnadsfritt Azure-konto
Starta kostnadsfritt. Få $200 kredit att använda inom 30 dagar. Medan du har din kredit får du kostnadsfria mängder av många av våra mest populära tjänster, plus kostnadsfria mängder på över 40 andra tjänster som alltid är kostnadsfria.
Efter din kredit kan du gå över till betala per användning för att fortsätta skapa med samma kostnadsfria tjänster. Betala bara om du använder mer än dina kostnadsfria månadsbelopp.
Efter 12 månader får du över 40 tjänster utan kostnad— och betalar fortfarande bara för det du använder utöver dina kostnadsfria månadsbelopp.
Se hur kunder levererar värde med maskininlärningsdrift
FedEx
Bikram Virk, produktchef, AI och Machine Learning, FedEx"Customers expect timely and accurate information on their packages and a data-based delivery experience. We're helping FedEx stay on the leading edge with Azure Machine Learning, and we're building expertise for future projects."
BRF
Alexandrae Biatagen, Technology Executive Manager, BRF"We're scaling with automated machine learning in Azure and MLOps capabilities in Azure Machine Learning so that our 15 analysts can focus on more strategic tasks instead of the mechanics of merging spreadsheets and running analyses."
Nestle
Ignasi Paredes-Oliva, Lead Data Scientist, Nestlé Global Security Operations Center"MLOps is at the core of our product. Because of its reproducible ML pipelines, ...registered models, and automatic model scoring, we're definitely detecting things that we missed before. Which, in terms of risk management, is really, really important."
PepsiCo
Michael Cleavinger, Senior Director of Shopper Insights Data Science and Advanced Analytics, PepsiCo"We've used the MLOps capabilities in Azure Machine Learning to simplify the whole machine learning process. That allows us to focus more on data science and let Azure Machine Learning take care of end-to-end operationalization."
