Azure AI 內容安全
使用 AI 來監視文字和影像內容以保持安全。
使用進階 AI 支援語言和視覺模型監視內容
Azure AI Content Safety 是使用 AI 保護您的內容安全的內容仲裁平台。使用功能強大的 AI 模型，快速且有效率地 偵測文字和影像中的冒犯性或不當內容，為每個人建立更好的線上體驗。
透過了解上下文與語意，以簡短和完整格式分析多語言文字的語言模型
用於影像辨識以及使用最先進的 Florence 技術來偵測影像中之物件的視覺模型
用於以高度細微度識別性、暴力、仇恨和自我傷害內容 的 AI 內容分類器
用於指出從低到高之內容風險等級的內容仲裁嚴重性分數
做出有信心的內容仲裁決策
套用進階語言和視覺模型，以正確偵測不安全或不適當的內容，並自動即時指派嚴重性分數。讓您的公司能夠檢閱已標幟的項目並排定優先順序，並採取明智的動作。
改善跨語言的使用者和品牌安全性
支援品牌和全球客戶安全性。Azure AI Content Safety 中的多語言功能可啟用英文、德文、西班牙文、法文、葡萄牙文、義大利文和中文的內容仲裁。
負責任地應用 AI
監視使用者和 AI 產生的內容，以建立負責的 AI 做法。Azure OpenAI 服務和 GitHub Copilot 仰賴 Azure AI Content Safety 來篩選使用者要求和回應中的內容，以確保 AI 模型以負責任方式使用，且符合其預期用途。
內建全方位安全性與合規性
-
Microsoft 每年斥資超過 10 億美元進行網路安全性方面的研究與開發。
-
我們聘請了超過 3,500 名資訊安全專家專門保護資料安全性和隱私權。
開始使用 Azure 免費帳戶
2
在點數用盡後，請轉為隨用隨付以繼續利用相同的免費服務進行建置。只有當您使用超過每月免費數量時，才需支付費用。
3
12 個月後，您將繼續獲得超過 55 項永久免費的服務，且仍只需對超過每月免費用量的使用量支付費用。
Azure AI Content Safety 資源和文件
參與 Azure 社群
常見問題集
-
Azure OpenAI 服務使用 Azure AI Content Safety 做為內容管理系統，可搭配核心模型來篩選內容。此系統的運作方式是透過旨在偵測誤用的一組分類模型，來執行輸入提示和 AI 產生的內容。
-
利用基礎模型 Florence，以及 Azure AI 內容安全的內容篩選功能，Azure AI 視覺可以識別影像是否觸發仇恨、性、暴力或自我傷害分類。
-
在 Standard (或 S1) 層中，有兩種類型的 API。針對文字 API，服務會針對提交至服務的文字記錄數量計費。對於映像 API，服務會針對提交至服務的映像數目計費。
-
S1 層中的文字記錄包含最多 1,000 個字元 (由 Unicode 程式碼點測量)。如果內容安全 API 中的文字輸入超過 1,000 個字元，它會計算為每單位 1,000 個字元的一個文字記錄。例如，如果送出至 API 的文字輸入包含 7,500 個字元，就會計算為八個文字記錄。如果送出至 API 的文字輸入包含 500 個字元，就會計算為一個文字記錄。
-
達到免費層交易限制時，即停止使用。消費者不能累積免費層的超額部分。