Segurança de conteúdo de IA do Azure
Melhore a segurança das aplicações de IA generativa com proteções avançadas para IA responsável
Os modelos de Segurança de Conteúdo foram especificamente preparados e testados nos seguintes idiomas: Inglês, alemão, espanhol, japonês, francês, italiano, português e chinês. O serviço também pode funcionar noutros idiomas, mas a qualidade pode variar. Em todos os casos, deve fazer os seus próprios testes para garantir que funciona para a sua aplicação.
Atualmente, as categorias personalizadas funcionam bem apenas em inglês. Pode utilizar outros idiomas com o seu próprio conjunto de dados, mas a qualidade pode variar.
Os escudos de pedidos melhoram a segurança dos sistemas de IA generativa ao defenderem contra ataques de injeção de pedidos:
A deteção de material protegido para texto identifica e bloqueia conteúdo de texto conhecido, como letras, artigos, receitas e conteúdo Web selecionado, para não aparecer em saídas geradas por IA.
A deteção de material protegido para código deteta e impede a saída de código conhecido. Verifica se há correspondências com o código fonte público em repositórios do GitHub. Além disso, a capacidade de referência de código possibilitada pelo GitHub Copilot permite aos programadores localizar repositórios para explorar e descobrir código relevante.