Azure AI Content Safety
AI を使ってテキストや画像コンテンツの安全性を監視します。
AI 搭載の高度な言語と視覚モデルを使用してコンテンツを監視する
Azure AI Content Safety は、AI を使用してコンテンツを安全に保つコンテンツ モデレーション プラットフォームです。強力な AI モデルを使用したすべてのユーザーにより良いオンライン エクスペリエンスを作成して、 テキストや画像内の不快なコンテンツや不適切なコンテンツを迅速かつ効率的に検出します。
コンテキストとセマンティクスを理解して、短い形式と長い形式の両方で多言語テキストを分析する言語モデル
画像認識を実行し、最先端の Florence のテクノロジを使用して画像内のオブジェクトを検出する ビジョン モデル
高レベルの粒度で性的、暴力、ヘイト、および自傷行為を行うコンテンツを識別する AI コンテンツ分類機能
低から高のスケールでのコンテンツ リスクのレベルを示すコンテンツ モデレーション重要度スコア
自信を持ってコンテンツ モデレーションを決定する
高度な言語と視覚モデルを適用して、安全でないコンテンツや不適切なコンテンツを正確に検出し、重大度スコアをリアルタイムで自動的に割り当てます。お客様のビジネスで、フラグ付きアイテムを確認して優先順位を付け、情報に基づいたアクションを実行できるようにします。
言語間でユーザーとブランドの安全性を向上させる
ブランドと顧客の安全をグローバルにサポートします。Azure AI Content Safety の多言語機能により、英語、ドイツ語、スペイン語、フランス語、ポルトガル語、イタリア語、および中国語でのコンテンツ モデレーションが可能になります。
AI に責任を適用する
ユーザーが生成した AI コンテンツと AI で生成されるコンテンツの両方を監視することで、責任ある AI プラクティスを確立します。Azure OpenAI Service と GitHub Copilot は、Azure AI Content Safety に依存してユーザーの要求と応答のコンテンツをフィルター処理し、AI モデルが責任を持って意図した目的で使用されるようにします。
包括的なセキュリティとコンプライアンスの組み込み
-
Microsoft では、サイバーセキュリティの研究と開発に年間 USD10 億を超える投資を行っています。
-
Microsoft には、データ セキュリティとプライバシーを専門とする 3,500 人を超えるセキュリティ エキスパートがいます。
Azure 無料アカウントで開始する
1
2
クレジットがなくなった後に、同じ無料サービスでビルドを続けるには、従量課金制に移行してください。月々の無料使用分を超えた場合にのみ、お支払いいただきます。
3
Azure AI Content Safety のリソースとドキュメント
Azure コミュニティに参加する
よくあるご質問
-
Azure OpenAI Service では、コンテンツをフィルター処理するためのコア モデルと共に動作するコンテンツ管理システムとして、 Azure AI Content Safety を使用します。このシステムは、誤用の検出を目的とした分類モデルのアンサンブルを通じて、入力プロンプトと AI で生成されたコンテンツの両方を実行することによって機能します。
-
基盤モデル Florence、および Azure AI Content Safety のコンテンツ フィルタリング機能を活用し、Azure AI Vision は、画像がヘイト、性的、暴力、自傷行為の分類を誘発するかどうかを識別できます。
-
Standard または S1 テキスト API には二種類の API があります。テキスト API の場合は、サービスに送信されたテキスト レコードの量に対して課金されます。イメージ API の場合は、サービスに送信されたイメージ数に応じて課金されます。
-
S1 レベルのテキスト レコードには、Unicode コード ポイントで測定される最大 1,000 文字が含まれます。Content Safety API へのテキスト入力が 1,000 文字を超える場合、1,000 文字単位ごとに 1 つのテキスト レコードとしてカウントされます。たとえば、API に送られたテキスト入力の文字数が 7,500 であれば、8 件のテキスト レコードとしてカウントされます。API に送られたテキスト入力の文字数が 500 であれば、1 件のテキスト レコードとしてカウントされます。
-
Free レベルのトランザクションが上限に達した場合は使用が停止されます。お客様は、Free レベルの超過分を課金されることはありません。