Wat is er nieuw in Azure AI Content Safety?
Meer informatie over nieuwe functies in de service. Deze items kunnen releaseopmerkingen, video's, blogberichten en andere soorten informatie zijn. Maak een bladwijzer voor deze pagina om up-to-date te blijven met nieuwe functies, verbeteringen, fixes en documentatie-updates.
Maart 2024
Openbare preview van Prompt Shields
Voorheen bekend als Jailbreak-risicodetectie, detecteert deze bijgewerkte functie gebruikersprompt injectieaanvallen, waarbij gebruikers opzettelijk misbruik maken van systeemproblemen om onbevoegd gedrag uit te lokken van een groot taalmodel. Prompt Shields analyseert zowel directe aanvallen van gebruikersprompts als indirecte aanvallen die zijn ingesloten in invoerdocumenten of afbeeldingen. Zie Prompt Shields voor meer informatie.
Openbare preview van geaardheidsdetectie
De Groundedness Detection-API detecteert of de tekstreacties van grote taalmodellen (LLM's) worden geaard in de bronmaterialen die door de gebruikers worden geleverd. Niet-geaardheid verwijst naar instanties waarbij de LLM's informatie produceren die niet feitelijk of onnauwkeurig is van wat aanwezig was in de bronmaterialen. Zie Groundedness-detectie voor meer informatie.
Januari 2024
Algemene beschikbaarheid van Content Safety SDK
De Azure AI Content Safety-service is nu algemeen beschikbaar via de volgende clientbibliotheek-SDK's:
- C#: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
- Python: Pakket-API-referentievoorbeelden | | | Quickstarts: Tekst, Afbeelding
- Java: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
- JavaScript: Referentievoorbeelden voor | pakket-API | | Quickstarts: Tekst, Afbeelding
Belangrijk
De openbare preview-versies van de Azure AI Content Safety SDK's worden afgeschaft op 31 maart 2024. Werk uw toepassingen bij om de GA-versies te gebruiken.
November 2023
Jailbreak-risico en beveiligde materiaaldetectie (preview)
Met de nieuwe Jailbreak-risicodetectie- en beveiligde materiaaldetectie-API's kunt u enkele van de risico's beperken bij het gebruik van generatieve AI.
- De detectie van jailbreakrisico's scant tekst op het risico van een jailbreak-aanval op een large language model. Snelstartgids
- Met detectie van beveiligde materiaaltekst worden door AI gegenereerde tekst gescand op bekende tekstinhoud (bijvoorbeeld liedteksten, artikelen, recepten, geselecteerde webinhoud). Snelstartgids
Jailbreak-risico en beveiligde materiaaldetectie zijn beschikbaar in de Azure-regio's VS - oost en Europa - west.
Oktober 2023
Azure AI Content Safety is algemeen beschikbaar (GA)
De Azure AI Content Safety-service is nu algemeen beschikbaar als een cloudservice.
- De service is beschikbaar in veel meer Azure-regio's. Zie het overzicht voor een lijst.
- De retourindelingen van de Analyze-API's zijn gewijzigd. Zie de quickstarts voor de nieuwste voorbeelden.
- De namen en retourindelingen van verschillende API's zijn gewijzigd. Zie de migratiehandleiding voor een volledige lijst met belangrijke wijzigingen. Andere handleidingen en quickstarts weerspiegelen nu de GA-versie.
Azure AI Content Safety Java- en JavaScript SDK's
De Azure AI Content Safety-service is nu beschikbaar via Java- en JavaScript-SDK's. De SDK's zijn beschikbaar op Maven en npm. Volg een snelstart om aan de slag te gaan.
Juli 2023
Azure AI Content Safety C# SDK
De Azure AI Content Safety-service is nu beschikbaar via een C#-SDK. De SDK is beschikbaar op NuGet. Volg een snelstart om aan de slag te gaan.
Mei 2023
Openbare preview van Azure AI Content Safety
Azure AI Content Safety detecteert materiaal dat mogelijk aanstootgevend, riskant of anderszins ongewenst is. Deze service biedt geavanceerde tekst- en afbeeldingsmodellen waarmee problematische inhoud wordt gedetecteerd. Azure AI Content Safety helpt toepassingen en services veiliger te maken tegen schadelijke door de gebruiker gegenereerde en DOOR AI gegenereerde inhoud. Volg een snelstart om aan de slag te gaan.