Content Safety i Foundry Control Plane
Øg sikkerheden for programmer til generativ AI med avancerede rækværk til ansvarlig AI
Oversigt
Byg robuste rækværk til generativ kunstig intelligens
- Registrer og bloker indhold med vold, had, selvskade og af seksuel karakter. Konfigurer grænser for alvorsgrad for din specifikke use case, og overhold dine ansvarlige politikker for kunstig intelligens.
- Opret unikke indholdsfiltre, der er skræddersyet til dine behov, ved hjælp af brugerdefinerede kategorier. Oplær hurtigt en ny brugerdefineret kategori ved at give eksempler på indhold, du skal blokere.
- Beskyt dine AI-programmer mod promptinjektionsangreb og jailbreak-forsøg. Identificer og afhjælp både direkte og indirekte trusler med Prompt Shields.
- Identificer og ret generative AI-hallucinationer, og sørg for, at output er pålidelige, nøjagtige og baseret på data med registrering af jordforbindelse.
- Find indhold, der er ophavsretligt beskyttet, og angiv kilder til eksisterende tekst og kode med registrering af beskyttet materiale.
Use cases
Beskyt dine AI-programmer
Udvikl rækværk til generative AI-programmer
Brug kunstig intelligens til at overvåge menneskeligt genereret indhold
Sikkerhed
Integreret sikkerhed og overholdelse af angivne standarder
34,000
Ingeniører på tilsvarende fuldtidsbasis, der er dedikeret til sikkerhedsinitiativer hos Microsoft.
15.000
Partnere med specialiseret sikkerhedsekspertise.
>100
Overholdelsescertificeringer, herunder mere end 50, der er specifikke for globale regioner og lande.
Prisfastsættelse
Fleksibel prisfastsættelse, der opfylder dine behov
Betal kun for det, du bruger – uden startomkostninger. Prisfastsættelse for Content Safety betalt efter forbrug er baseret på:
Relaterede produkter
Opret og forny hurtigere med Azure AI-produkter
Brug Content Safety med andre Azure AI-produkter til at oprette avancerede rækværk til generativ AI eller til at udvikle omfattende løsninger med indbyggede, værktøjer til ansvarlig AI.
Kundehistorier
Se, hvordan kunderne beskytter deres programmer med Content Safety
Ofte stillede spørgsmål
Ofte stillede spørgsmål
-
Content Safety-modeller er specifikt oplært og testet på følgende sprog: engelsk, tysk, spansk, japansk, fransk, italiensk, portugisisk og kinesisk. Tjenesten kan også fungere på andre sprog, men kvaliteten kan variere. I alle tilfælde skal du udføre dine egne tests for at sikre, at det fungerer for dit program.
Brugerdefinerede kategorier fungerer i øjeblikket kun godt på engelsk. Du kan bruge andre sprog med dit eget datasæt, men kvaliteten kan variere.
- Nogle Content Safety-funktioner er kun tilgængelige i visse områder. Se de funktioner, der er tilgængelige i hvert område.
- Systemet overvåger på tværs af fire skadeskategorier: had, seksuel, vold og selvskade.
- Ja, du kan justere alvorsgradstærskler for hvert filter for skadeskategori.
- Ja, du kan bruge API'en med brugerdefinerede kategorier til Content Safety til at oprette dine egne indholdsfiltre. Ved at angive eksempler kan du oplære filteret i at finde og blokere uønsket indhold, der er specifikt for dine definerede brugerdefinerede kategorier.
-
Prompt Shields forbedrer sikkerheden for generative AI-systemer ved at beskytte mod promptinjiceringsangreb:
- Direkte promptangreb (jailbreaks): Brugere forsøger at manipulere AI-systemet og omgå sikkerhedsprotokoller ved at oprette prompter, der forsøger at ændre systemregler eller narre modellen til at udføre begrænsede handlinger.
- Indirekte angreb: Tredjepartsindhold, f.eks. dokumenter eller mails, indeholder skjulte instruktioner til at udnytte AI-systemet, f.eks. integrerede kommandoer, som en AI muligvis ikke udfører.
- Registrering af jordforbindelse identificerer og retter output fra generative AI-modeller uden jordforbindelse, hvilket sikrer, at de er baseret på de leverede kildematerialer. Dette hjælper med at forhindre generering af fabrikerede eller falske oplysninger. Ved hjælp af en brugerdefineret sprogmodel evaluerer registrering af jordforbundethed krav i forhold til kildedata og afhjælper AI-angreb.
-
Registrering af beskyttet materiale til tekst identificerer og blokerer kendt tekstindhold, f.eks. sangtekster, artikler, opskrifter og valgt webindhold, i at blive vist i output, der er genereret af kunstig intelligens.
Registrering af beskyttet materiale til kode registrerer og forhindrer output af kendt kode. Den kontrollerer, om der er resultater i forhold til den offentlige kildekode i GitHub-lagre. Derudover giver den kodereferencefunktion, der drives af GitHub Copilot, udviklere mulighed for at finde lagre til udforskning og registrering af relevant kode.
- Indholdsfiltreringssystemet i Azure OpenAI er drevet af Content Safety. Det er designet til at finde og forhindre output af skadeligt indhold i både inputprompter og outputfuldførelser. Det fungerer sammen med kernemodeller, herunder GPT og DALL-E.
Næste trin
Vælg den Azure-konto, der passer til dig
Pay as you go (betal efter forbrug), eller prøv Azure gratis i op til 30 dage.
Azure-løsninger
Azure cloudløsninger
Løs dine virksomhedsproblemer med afprøvede kombinationer af Azure-cloudtjenester samt eksempler på arkitekturer og dokumentation.
Hub til virksomhedsløsninger
Find den rette Microsoft Cloud-løsning
Gennemse Microsofthubben for virksomhedsløsninger for at finde de produkter og løsninger, der kan hjælpe din organisation med at nå sine mål.
Udforsk Azure-portalen 
