Azure AI 콘텐츠 보안
안전을 위해 AI를 사용하여 텍스트 및 이미지 콘텐츠를 모니터링하세요.
고급 AI 기반 언어 및 비전 모델을 사용하여 콘텐츠 모니터링
Azure AI 콘텐츠 안전은 AI를 사용하여 콘텐츠의 안전성을 유지하는 콘텐츠 조정 플랫폼입니다. 텍스트와 이미지에서 불쾌감을 주거나 부적절한 콘텐츠를 빠르고 효율적으로 감지하는 강력한 AI 모델로 모두에게 더 나은 온라인 환경을 만드세요.
맥락 및 의미 체계를 이해하여 짧은 형식과 긴 형식 모두의 다국어 텍스트를 분석하는 언어 모델
비전 모델은 최신 Florence 기술을 사용하여 이미지 속 개체를 감지하고 이미지를 인식할 수 있습니다.
성적, 폭력적, 혐오적, 자해적 콘텐츠를 매우 세세하게 식별하는 AI 콘텐츠 분류 기능
낮음부터 높음까지의 기준으로 콘텐츠 위험 수준을 나타내는 콘텐츠 조정 심각도 점수
신뢰할 수 있는 콘텐츠 조정 결정
고급 언어 및 비전 모델을 적용하여 안전하지 않거나 부적절한 콘텐츠를 정확하게 감지하고 심각도 점수를 실시간으로 자동으로 할당합니다. 기업은 플래그가 지정된 항목을 검토하고 우선 순위를 지정하며, 정보에 입각한 조치를 취할 수 있습니다.
다양한 언어를 사용하는 사용자 및 브랜드 안전성 향상
전 세계의 브랜드 및 고객 안전을 지원합니다. Azure AI 콘텐츠 안전의 다국어 기능을 통해 영어, 독일어, 스페인어, 프랑스어, 포르투갈어, 이탈리아어, 중국어로 작성된 콘텐츠 조정이 가능합니다.
책임 있는 AI 적용
사용자 및 AI 생성 콘텐츠를 모두 모니터링하여 책임 있는 AI 사례를 수립합니다. Azure OpenAI Service 및 GitHub Copilot은 Azure AI 콘텐츠 안전을 활용하여 사용자 요청 및 응답의 콘텐츠를 필터링해 AI 모델이 책임있게, 그리고 원래 목적대로 사용되도록 합니다.
기본 제공되는 포괄적인 보안 및 규정 준수
-
Microsoft는 사이버 보안 연구 및 개발에 연간 USD10억 이상을 투자합니다.
-
Microsoft에 소속된 3,500명이 넘는 보안 전문가가 데이터 보안 및 개인 정보 보호를 전담합니다.
Azure 무료 계정으로 시작
1
2
크레딧을 다 사용한 후에는 종량제로 전환하여 동일한 무료 서비스로 계속 구축하세요. 월간 체험 한도를 초과해서 사용하는 경우에만 요금을 지불합니다.
3
Azure AI 콘텐츠 보안 리소스 및 설명서
Azure 커뮤니티 참여
자주 하는 질문
-
Azure OpenAI Service는 콘텐츠 관리 시스템으로 Azure AI 콘텐츠 안전을 사용하며, 이 시스템은 핵심 모델과 함께 작동하여 콘텐츠를 필터링합니다. 이 시스템은 오용을 감지하기 위한 분류 모델의 집합을 통해 입력 프롬프트와 AI 생성 콘텐츠를 모두 실행하여 작동합니다.
-
비전용 Azure AI는 Azure AI 콘텐츠 안전의 콘텐츠 필터링 기능뿐만 아니라 기반 모델인 Florence를 활용하여 이미지가 혐오적, 성적, 폭력적, 또는 자해적 표현 분류를 트리거하는지 식별할 수 있습니다.
-
표준 또는 S1 계층에는 두 가지 유형의 API가 있습니다. 텍스트 API의 경우 서비스에 제출된 텍스트 레코드 양에 대해 서비스가 청구됩니다. 이미지 API의 경우 서비스에 제출된 이미지 수에 대한 요금이 청구됩니다.
-
S1 계층의 텍스트 레코드는 유니코드 코드 포인트로 측정된 최대 1,000자를 포함합니다. Content Safety API에 대한 텍스트 입력이 1,000자를 초과하는 경우 1,000자의 각 단위에 대해 하나의 텍스트 레코드로 계산됩니다. 예를 들어 API로 전송된 텍스트 입력에 7,500자가 포함된 경우 8개의 텍스트 레코드로 계산됩니다. API로 전송된 텍스트 입력에 500자가 포함된 경우 하나의 텍스트 레코드로 계산됩니다.
-
무료 계층 트랜잭션 제한에 도달하면 사용이 중지됩니다. 고객은 무료 계층에서 초과분을 누적할 수 없습니다.