Content Moderator

API для модерации содержимого с помощью компьютера и средство для проверки изображений, текста и видео оператором:

выявление потенциального использования изображений оскорбительного характера или нежелательных изображений;
фильтрация для выявления потенциального использования ненормативной лексики или нежелательного текста;
модерация содержимого для взрослых или материалов непристойного характера в видео;
встроенное средство проверки для достижения лучших результатов.

Модерация изображений

Повысьте возможность обнаружения потенциально оскорбительных или нежелательных изображений с помощью классификаторов на основе машинного обучения, настраиваемых списков и функции оптического распознавания символов.

Модерация текста

Фильтрация содержимого позволяет выявить потенциальное использование ненормативной лексики в более чем 100 языках, отметить текст, который может считаться несоответствующим контексту (функция реализована в общедоступной предварительной версии) и сопоставить текст с настраиваемыми списками. Content Moderator также помогает проверить использование личных сведений.

Модерация видео

Воспользуйтесь преимуществом обнаружения потенциального использования содержимого для взрослых или материалов непристойного характера в видео. Служба модерации видео (реализована в предварительной версии) доступна в составе Служб мультимедиа Azure.

Средство пользовательской проверки

Лучшие результаты модерации содержимого приносит совместная работа человека и компьютера. Используйте средство проверки, если нужно повысить надежность прогноза или пополнить его реальными данными.

"A safe and positive experience for our players in all interactions with the game is very important to who we are as a company. We utilize Content Moderator from Microsoft Cognitive Services for our player profile tools on Let's Dish, a new Match 3 cooking game. This is one way we are maintaining that trust and positive experience with our players."

Эшли Дэвидсон (Ashley Davidson), руководитель отдела маркетинга, Big Fish Games