Content Safety a Foundry Control Plane
Generatív AI-alkalmazások biztonságának növelése a felelősen alkalmazott mesterséges intelligenciához illeszkedő fejlett védőkorlátokkal
Áttekintés
Hatékony védőkorlátok létrehozása a generatív AI-hoz
- Észlelheti és letilthatja az erőszakos, a gyűlöletkeltő, a szexuális és az önkárosító tartalmakat. A súlyossági küszöbértékeket az adott felhasználási esethez konfigurálhatja, és érvényt szerezhet a felelősen alkalmazott mesterséges intelligenciára vonatkozó szabályzatoknak.
- Az egyéni kategóriák segítségével a saját igényeire szabott, egyedi tartalomszűrőket hozhat létre. Az új egyéni kategóriákat gyorsan betaníthatja a letiltandó tartalmat bemutató példák segítségével.
- AI-alkalmazásait megvédheti a parancsinjektálásos támadásoktól és a feltörési kísérletektől. A parancsvédelem segítségével mind a közvetlen, mind a közvetett fenyegetéseket azonosíthatja és mérsékelheti.
- A megalapozottság észlelésével azonosíthatja és korrigálhatja a generatív AI hallucinációit, és biztosíthatja, hogy a kimenetek megbízhatóak, pontosak és az adatokra alapozottak legyenek.
- A védett anyag érzékelés funkcióval azonosíthatja a szerzői jogi védelem alatt álló tartalmakat, és forrásokat adhat meg a már meglévő szövegekhez és kódokhoz.
Használati esetek
Az AI-alkalmazások védelme
Védőkorlátok fejlesztése generatív AI-alkalmazásokhoz
AI használata ember által létrehozott tartalmak figyelésére
Biztonság
Beágyazott biztonság és megfelelőség
34 000
Teljes munkaidős mérnök, aki a Microsoft biztonsági kezdeményezéseivel foglalkozik.
15 000
szakosodott biztonsági szakértelemmel rendelkező partner.
>100
megfelelőségi tanúsítvány, köztük több mint 50, amely globális régiókra és országokra vonatkozik.
Díjszabás
Rugalmas díjszabás az Ön igényeinek megfelelően
Csak a tényleges használatért kell fizetnie – előzetes költség nélkül. A Tartalombiztonság használatalapú fizetéses díjszabása az alábbiakon alapul:
Kapcsolódó termékek
Gyorsabb létrehozás és innováció Azure AI-termékekkel
A Tartalombiztonságot más Azure AI-termékekkel együtt használva fejlett védőkorlátokat hozhat létre a generatív AI-hoz, a felelősen alkalmazott mesterséges intelligenciához használható beépített eszközökkel pedig átfogó megoldásokat fejleszthet.
Ügyfeleink sikertörténetei
Ismerje meg, hogyan védik az ügyfelek az alkalmazásaikat a Tartalombiztonság használatával
GYIK
Gyakori kérdések
-
A tartalombiztonsági modelleket kifejezetten a következő nyelveken tanítottuk be és teszteltük: angol, német, spanyol, japán, francia, olasz, portugál és kínai. A szolgáltatás más nyelveken is működik, de a minőség változhat. Minden esetben érdemes elvégezni saját tesztelést, hogy megbizonyosodjon arról, hogy az Ön alkalmazásánál működik-e a rendszer.
Az egyéni kategóriák jelenleg csak angol nyelven működnek jól. Más nyelveket is használhat a saját adatkészletével, de a minőség változó lehet.
- A Tartalombiztonság egyes funkciói csak bizonyos régiókban érhetők el. Tekintse meg az egyes régiókban elérhető funkciókat.
- A rendszer négy káros kategóriát figyel: gyűlölet, szexuális tartalom, erőszak és önkárosítás.
- Igen, az egyes káros kategóriák szűrőinél módosíthatja a súlyossági küszöbértékeket.
- Igen, a Tartalombiztonság egyéni kategóriák API-ját használhatja saját tartalomszűrők létrehozásához. Példák megadásával betaníthatja a szűrőt arra, hogy felismerje és letiltsa az Ön által meghatározott egyéni kategóriákba tartozó nemkívánatos tartalmakat.
-
A parancsvédelem a parancsinjektálásos támadások elleni védelemmel növeli a generatív AI-rendszerek biztonságát:
- Közvetlen parancstámadások (feltörések): A felhasználók úgy próbálják manipulálni az AI-rendszert és megkerülni a biztonsági protokollokat, hogy olyan parancsokat hoznak létre, amelyek megpróbálják megváltoztatni a rendszer szabályait, vagy korlátozott műveletek végrehajtására veszik rá a modellt.
- Közvetett támadások: A harmadik féltől származó tartalmak, például dokumentumok vagy e-mailek, rejtett utasításokat tartalmaznak az AI-rendszer kihasználására, például olyan beágyazott parancsokat, amelyeket az AI akaratlanul is végrehajthat.
- A megalapozottság észlelése azonosítja és korrigálja a generatív AI-modellek megalapozatlan kimeneteit, biztosítva, hogy azok a megadott forrásanyagokon alapuljanak. Ez segít megelőzni a nem valós vagy hamis információk létrehozását. Egy egyéni nyelvi modell használatával a megalapozottság észlelése az állításokat a forrásadatokkal összevetve értékeli, és mérsékli a mesterséges intelligencia hallucinációit.
-
A védett anyag érzékelés funkció azonosítja az ismert szöveges tartalmakat, például dalszövegeket, cikkeket, recepteket és egyes webes tartalmakat, és megakadályozza, hogy azok megjelenjenek az AI által létrehozott kimenetekben.
Kód esetén a védett anyag érzékelés észleli az ismert kódokat, és megakadályozza, hogy azok megjelenjenek a kimenetben. Egyezéseket keres a GitHub-adattárakban lévő nyilvános forráskóddal. A GitHub Copilot által támogatott kódhivatkozási képesség emellett azt is lehetővé teszi a fejlesztők számára, hogy megtalálják a releváns kódokat tartalmazó adattárakat.
- Az Azure OpenAI-ban elérhető tartalomszűrő-rendszer szolgáltatója a Tartalombiztonság. Arra szolgál, hogy felismerje és megakadályozza a káros tartalmak megjelenítését mind a beviteli parancsokban, mind a kimeneti tartalomban. Az alapmodellekkel, köztük a GPT és a DALL-E szolgáltatásokkal együtt működik.
Következő lépések
Válassza ki az Önnek megfelelő Azure-fiókot
Választhat használatalapú fizetést, vagy kipróbálhatja az Azure-t akár 30 napig ingyenesen.
Azure-megoldások
Azure felhőbeli megoldások
Az üzleti problémáit már bevált Azure-felhőszolgáltatásokkal, valamint mintaarchitektúrákkal és dokumentációval oldhatja meg.
Üzleti megoldásközpont
A megfelelő Microsoft Cloud-megoldás megkeresése
Böngésszen a Microsoft üzleti megoldásközpontjában, és keresse meg azokat a termékeket és megoldásokat, amelyek segíthetnek a szervezet céljainak elérésében.
Az Azure Portal bemutatása 
