Azure AI 内容安全
使用 AI 监视文本和图像内容，确保安全。
使用高级 AI 支持的语言和视觉模型监视内容
Azure AI 内容安全是一个内容审核平台，它使用 AI 保护内容安全。使用强大的 AI 模型快速高效地检测文本和图像中的冒犯性内容或不适当的内容，为每个人创建更好的上网体验。
语言模型分析短格式和长格式的多语言文本，可理解上下文和语义
视觉模型采用先进的 Florence 技术来识别图像和检测图像中的物体
AI 内容分类器可在高粒度级别上识别有关性、暴力、仇恨和自残的内容
内容审核严重程度评分用以从低到高指示内容风险级别
自信地做出内容审核决策
应用高级语言和视觉模型来准确检测不安全或不适当的内容，并实时自动分配严重性分数。使你的企业能够查看已标记的项目并确定其优先级，同时采取明智的操作。
负责任地应用 AI
通过监视用户和 AI 生成的内容来建立负责任 AI 实践。Azure OpenAI 服务和 GitHub Copilot 依靠 Azure AI 内容安全来筛选用户请求和响应中的内容，确保负责任地将 AI 模型用于其预期用途。
内置的全面的安全性和合规性
-
Microsoft 每年在网络安全研发方面的投资超过 USD 10 亿。
-
我们雇佣了 3,500 多名安全专家，专门负责数据安全和隐私方面的工作。
通过 Azure 免费帐户开始使用
2
用完额度后，请改为即付即用定价以继续使用相同的免费服务构建自己的内容。只需为超出每月免费金额以外的部分付费。
3
Azure AI 内容安全资源和文档
参与 Azure 社区
常见问题解答
-
Azure OpenAI 服务将 Azure AI 内容安全用作内容管理系统，它与核心模型结合使用来筛选内容。该系统的工作原理是通过一系列旨在检测滥用情况的分类模型运行输入提示和 AI 生成的内容。
-
利用基础模型 Florence 以及 Azure AI 内容安全的内容筛选功能，Azure AI 视觉可以确定图像是否触发了仇恨、性、暴力或自残分类。
-
在“标准”或“S1”层中，有两种类型的 API。对于文本 API，服务按提交到服务的文本记录量计费。对于图像 API，服务将按提交到服务的图像数计费。
-
S1 层中的文本记录最多包含 1,000 个字符（由 Unicode 码位衡量）。如果内容安全 API 中的文本输入超过 1,000 个字符，则它将每单位 1,000 个字符计为一条文本记录。例如，如果发送到 API 的文本输入包含 7,500 个字符，则它将计为八条文本记录。如果发送到 API 的文本输入包含 500 个字符，它将计为一条文本记录。
-
如果达到免费层事务限制，则将停止使用。客户无法在免费级别超额使用。