Share via

빠른 시작: Azure AI 콘텐츠 안전 스튜디오

  • 아티클

이 빠른 시작에서는 브라우저에서 Azure AI 콘텐츠 안전 스튜디오를 사용하여 콘텐츠 안전 서비스를 시작하세요.

주의

콘텐츠 안전 스튜디오에서 제공하는 샘플 콘텐츠 중 일부는 불쾌감을 줄 수 있습니다. 샘플 이미지는 기본적으로 흐리게 표시됩니다. 사용자의 재량에 따라 결정하는 것이 좋습니다.

필수 조건

텍스트 콘텐츠 분석

텍스트 콘텐츠 조정 페이지에서는 텍스트 조정을 빠르게 시도해 볼 수 있는 기능을 제공합니다.

텍스트 분석 패널의 스크린샷.

  1. 텍스트 콘텐츠 조정 패널을 선택합니다.
  2. 입력 필드에 텍스트를 추가하거나 페이지 패널에서 샘플 텍스트를 선택합니다.

    팁

    텍스트 크기 및 세분성

    텍스트 제출의 기본 최대 길이는 10,000자입니다.

  3. 테스트 실행을 선택합니다.

서비스는 탐지된 모든 범주를 각 범주의 심각도 수준(0-안전, 2-낮음, 4-중간, 6-높음)과 함께 반환합니다. 또한 구성한 필터에 따라 이진 수락됨/거부됨 결과를 반환합니다. 오른쪽에 있는 필터 구성 탭의 매트릭스를 사용하여 각 범주에 대한 허용/금지 심각도 수준을 설정하세요. 그런 다음 텍스트를 다시 실행하여 필터가 어떻게 작동하는지 확인할 수 있습니다.

오른쪽에 있는 차단 목록 사용 탭을 사용하면 차단 목록을 생성, 편집하고 검토 작업 흐름에 추가할 수 있습니다. 테스트를 실행할 때 차단 목록을 활성화한 경우 결과 아래에 차단 목록 감지 패널이 표시됩니다. 차단 목록과 일치하는 항목이 있으면 보고합니다.

사용자 입력 공격 검색

프롬프트 쉴드 패널에서 사용자 입력 위험을 검색해볼 수 있습니다. 시스템 메시지에 설정된 규칙을 피하거나 위반하도록 학습된 동작을 나타내도록 생성 AI 모델을 유도하는 방식으로 설계된 사용자 프롬프트를 검색합니다. 이러한 공격은 복잡한 역할극부터 안전 목표를 교묘하게 전복하는 것까지 다양합니다.

사용자 입력 위험 검색 패널이 선택된 콘텐츠 안전 스튜디오의 스크린샷

  1. 프롬프트 쉴드 패널을 선택합니다.
  2. 페이지에서 샘플 텍스트를 선택하거나 테스트를 위해 사용자 고유의 콘텐츠를 입력합니다. CSV 파일을 업로드하여 일괄 테스트를 수행할 수도 있습니다.
  3. 테스트 실행을 선택합니다.

서비스는 각 샘플에 대한 위험 플래그 및 유형을 반환합니다.

자세한 내용은 프롬프트 쉴드 개념 가이드를 참조하세요.

이미지 콘텐츠 분석

이미지 콘텐츠 조정 페이지에서는 이미지 조정을 빠르게 시도할 수 있는 기능을 제공합니다.

이미지 분석 패널의 스크린샷.

  1. 이미지 콘텐츠 조정 패널을 선택합니다.
  2. 페이지 패널에서 샘플 이미지를 선택하거나 고유한 이미지를 업로드하세요. 이미지 제출의 최대 크기는 4MB이며, 이미지 크기는 50 x 50픽셀에서 2,048 x 2,048픽셀 사이여야 합니다. 이미지는 JPEG, PNG, GIF, BMP, TIFF 또는 WEBP 형식일 수 있습니다.
  3. 테스트 실행을 선택합니다.

서비스는 탐지된 모든 범주를 각 범주의 심각도 수준(0-안전, 2-낮음, 4-중간, 6-높음)과 함께 반환합니다. 또한 구성한 필터에 따라 이진 수락됨/거부됨 결과를 반환합니다. 오른쪽에 있는 필터 구성 탭의 매트릭스를 사용하여 각 범주에 대한 허용/금지 심각도 수준을 설정하세요. 그런 다음 텍스트를 다시 실행하여 필터가 어떻게 작동하는지 확인할 수 있습니다.

코드 보기 및 내보내기

텍스트 콘텐츠 분석 또는 이미지 콘텐츠 분석 페이지에서 코드 보기 기능을 사용하여 심각도 필터링 구성이 포함된 샘플 코드를 보고 복사할 수 있습니다. 차단 목록 및 중재 기능. 그런 다음 사용자 측에 코드를 배포할 수 있습니다.

보기 코드 스크린샷.

온라인 활동 모니터링

온라인 활동 모니터링 페이지에서는 API 사용 및 추세를 볼 수 있습니다.

모니터링 패널 스크린샷.

모니터링할 미디어 유형을 선택할 수 있습니다. 마지막 __에 대한 데이터 표시를 선택하여 확인하려는 시간 범위를 지정할 수도 있습니다.

범주별 거부율 차트에서 각 범주의 심각도 임계값을 조정할 수도 있습니다.

심각도 기준표의 스크린샷.

일부 용어를 변경하려는 경우 차단된 상위 10개 용어 차트를 기반으로 차단 목록을 편집할 수도 있습니다.

리소스 관리

이름, 가격 등급 등 리소스 세부 정보를 보려면 Content Safety Studio 홈페이지 오른쪽 상단에 있는 설정 아이콘을 선택하고 리소스 탭을 선택하세요. 다른 리소스가 있는 경우 여기에서도 리소스를 전환할 수 있습니다.

리소스 관리 스크린샷.

리소스 정리

Azure AI 서비스 리소스를 정리하고 제거하려면 리소스 또는 리소스 그룹을 삭제할 수 있습니다. 리소스 그룹을 삭제하면 해당 리소스 그룹에 연결된 다른 모든 리소스가 함께 삭제됩니다.

다음 단계

다음으로 REST API 또는 클라이언트 SDK를 통해 Azure AI 콘텐츠 안전 사용을 시작하면 서비스를 애플리케이션에 원활하게 통합할 수 있습니다.

빠른 시작: REST API 및 클라이언트 SDK