Azure AI 内容安全
通过负责任 AI 高级护栏增强生成式 AI 应用程序的安全性
内容安全模型已针对以下语言进行专门的训练和测试:英语、德语、西班牙语、日语、法语、意大利语、葡萄牙语和中文。该服务也可以使用其他语言,但质量可能会有所不同。在所有情况下,都应该自行对其进行测试,以确保它适用于你自己的应用程序。
自定义类别目前仅适用于英语。可以将其他语言与你自己的数据集结合使用,但质量可能会有所不同。
提示防护通过防御提示注入攻击来增强生成式 AI 系统的安全性:
针对文本的受保护材料检测可以识别并阻止已知文本内容(例如歌词、文章、食谱和选定的网络内容)出现在 AI 生成的输出中。
针对代码的受保护材料检测可检测并阻止已知代码的输出。它会检查 GitHub 存储库中的公共源代码是否存在匹配项。此外,GitHub Copilot 提供的代码引用功能使开发人员能够找到存储库以探索和发现相关代码。