Azure AI Foundry-modellen

Foundry-modellen zijn een hub voor het ontdekken van foundation-modellen. De catalogus bevat enkele van de populairste grote taal- en visiebasismodellen, samengesteld door Microsoft, OpenAI, DeepSeek, xAI, Hugging Face, Meta, Mistral AI, Cohere, Deci, Stability AI, Nixtla en NVIDIA. Deze modellen zijn verpakt voor out-of-the-box-gebruik en zijn geoptimaliseerd voor gebruik in Azure AI Foundry.

MaaS of Serverless API is een implementatietype waarmee ontwikkelaars toegang kunnen krijgen tot en gebruik kunnen maken van verschillende modellen die op Azure worden gehost, zonder dat ze GPU's hoeven in te richten of back-endbewerkingen te beheren. MaaS biedt deductie-API's en hosted fine-tuning voor modellen zoals Meta Llama2, Meta Llama 3, Mistral Large en andere.

MaaS-kosten zijn gebaseerd op het aantal tokens dat wordt gebruikt voor deductie en de hoeveelheid gegevens die wordt gebruikt voor afstemming. De prijzen zijn afhankelijk van het model en de regio. Als je de prijs voor afzonderlijke modellen wilt bekijken, zoek je het model in Azure Marketplace.

MaaS is beschikbaar in Azure Machine Learning.

Vandaag de dag hebben we Meta's Llama 2- en Llama 3-aanbiedingen, Mistral AI's Mistral Large, Cohere-modellen, Core42 JAIS en Nixtla-modellen.