Azure Yapay Zeka İçerik Güvenliği
Sorumlu AI için sunulan gelişmiş korumalarla üretici AI uygulamalarının güvenliğini iyileştirin
Genel Bakış
Üretici AI için sağlam korumalar oluşturun
- Şiddet, nefret, cinsellik ve kendi kendine zarar verme öğeleri barındıran içerikleri algılayın ve engelleyin. Özel kullanım örneğiniz için önem düzeyi eşikleri yapılandırın ve sorumlu AI ilkelerinize bağlı kalın.
- Özel kategorileri kullanarak gereksinimlerinize göre uyarlanmış özgün içerik filtreleri oluşturun. Engellemeniz gereken içerik örnekleri sağlayarak yeni bir özel kategoriyi hızlı bir şekilde eğitin.
- Yapay zeka uygulamalarınızı istem ekleme saldırılarına ve jailbreak uygulama girişimlerine karşı koruyun. İstem kalkanları ile doğrudan ve dolaylı tehditleri belirleyin ve risklerini azaltın.
- Temellendirme algılama ile üretici AI halüsinasyonlarını belirleyip düzeltin ve çıktıların güvenilir, doğru ve verilerle temellendirilmiş olduğundan emin olun.
- Korumalı malzeme algılama ile telifli içeriği bulun ve önceden var olan metin ve kod için kaynaklar sağlayın.
Video
Yerleşik güvenlik özellikleri içeren yapay zeka uygulamaları geliştirin
Azure Yapay Zeka İçerik Güvenliği ile metin, resim ve karma medya dahil kullanıcı tarafından oluşturulan ve yapay zeka tarafından oluşturulan girdi ve çıktıların tümünde yer alan zararlı içeriği algılayın ve risklerini azaltın.
Kullanım örnekleri
Yapay zeka uygulamalarınızı koruyun
Üretici AI uygulamaları için korumalar geliştirin
İnsan tarafından oluşturulan içeriği izlemek için yapay zekayı kullanın
Güvenlik
Yerleşik güvenlik ve uyumluluk
Microsoft, beş yıl içinde siber güvenliğe 20 milyar USD yatırım yapmayı taahhüt etti.
77 ülkede 8.500'den fazla güvenlik ve tehdit analizi uzmanı istihdam ediyoruz.
Azure, sektördeki en büyük uyumluluk sertifikası portföylerinden birine sahiptir.
Fiyatlandırma
Gereksinimlerinizi karşılamaya yönelik esnek fiyatlandırma
Hiçbir peşin ödeme yapmadan yalnızca kullandığınız kadar ödeyin. Azure Yapay Zeka İçerik Güvenliği kullandıkça öde fiyatlandırması şunlara göre yapılır:
İlgili ürünler
Azure Yapay Zeka ürünleriyle daha hızlı bir şekilde oluşturun ve yenilik yapın
Üretici AI için gelişmiş korumalar oluşturmak veya yerleşik sorumlu AI araçlarıyla kapsamlı çözümler geliştirmek üzere Azure Yapay Zeka İçerik Güvenliği’ni diğer Azure Yapay Zeka ürünleriyle birlikte kullanın.
Müşteri hikayeleri
Müşterilerin Azure Yapay Zeka İçerik Güvenliği’ni kullanarak uygulamalarını nasıl koruduğunu öğrenin
SSS
Sık sorulan sorular
-
İçerik Güvenliği modelleri aşağıdaki dillerde özel olarak eğitilmiş ve test edilmiştir: İngilizce, Almanca, İspanyolca, Japonca, Fransızca, İtalyanca, Portekizce ve Çince. Hizmet diğer dillerde de kullanılabilir ancak kalitede farklılık olabilir. Her durumda, uygulamanızda işe yaradığından emin olmak için kendi testlerinizi yapmanız gerekir.
Özel kategoriler şu anda yalnızca İngilizcede sorunsuz çalışıyor. Diğer dilleri kendi veri kümenizle kullanabilirsiniz ancak kalitede farklılık olabilir.
- Bazı Azure Yapay Zeka İçerik Güvenliği özellikleri yalnızca belirli bölgelerde kullanılabilir. Her bölgede kullanıma sunulan özellikleri görüntüleyin.
- Sistem dört zarar kategorisini izler: nefret, cinsellik, şiddet ve kendi kendine zarar verme.
- Evet, her zarar kategorisi filtresi için önem düzeyi eşikleri ayarlayabilirsiniz.
- Evet, kendi içerik filtrelerinizi oluşturmak için Azure Yapay Zeka İçerik Güvenliği özel kategoriler API’sini kullanabilirsiniz. Örnekler sağlayarak, filtreyi tanımladığınız özel kategorilere göre istenmeyen içeriği algılamak ve engellemek üzere eğitebilirsiniz.
-
İstem kalkanları, istem ekleme saldırılarına karşı koruma sağlayarak üretici AI sistemlerinin güvenliğini iyileştirir:
- Doğrudan istem saldırıları (jailbreak girişimleri): Kullanıcılar sistem kurallarını değiştirmeyi veya modeli kısıtlanmış eylemleri yürütmesi için kandırmayı deneyen istemler oluşturarak yapay zeka sistemini yönlendirmeye ve güvenlik protokollerini atlamaya çalışır.
- Dolaylı saldırılar: Belgeler veya e-postalar gibi üçüncü taraf içerikleri, yapay zekanın bilmeden yürütebileceği gömülü komutlar gibi yapay zeka sisteminin açıklarından yararlanmayı amaçlayan gizli yönergeler içerir.
- Temellendirme algılama işlevi, üretici AI modellerinin temelsiz çıktılarını belirleyip düzeltir ve bu çıktıların sağlanan kaynak malzemelere dayandığından emin olur. Bu, uydurma veya yanlış bilgilerin üretilmesini engellemeye yardımcı olur. Özel bir dil modelinin kullanıldığını temellendirme algılama işlevi, talepleri kaynak verilere göre değerlendirir ve yapay zeka halüsinasyonlarını azaltır.
-
Metinlere yönelik korumalı malzeme algılama özelliği şarkı sözleri, makaleler, yemek tarifleri ve seçili web içeriği gibi bilinen metin içeriklerini belirler ve bunların yapay zeka tarafından oluşturulan çıktılarda görünmesini engeller.
Kod için kullanılan korumalı malzeme algılama özelliği bilinen kod çıktılarını algılar ve engeller. GitHub depolarındaki halka açık kaynak koduyla eşleşmeleri denetler. Ek olarak, GitHub Copilot ile güçlendirilmiş kod başvurusu işlevi, geliştiricilerin ilgili kodu araştırması ve keşfetmesi için depoları bulmasına olanak tanır.
- Azure OpenAI Service hizmetindeki içerik filtreleme sistemi Azure Yapay Zeka İçerik Güvenliği ile güçlendirilmiştir. Hem giriş istemlerinde hem de çıkış tamamlamalarında zararlı içerik çıktılarını algılamak ve engellemek üzere tasarlanmıştır. GPT ve DALL-E gibi temel modellerle birlikte çalışır.
Sonraki adımlar
Size en uygun Azure hesabını seçin
Kullandığınız kadar ödeyin veya Azure’ı 30 gün ücretsiz deneyin.
Azure Çözümleri
Azure bulut çözümleri
Kalitesi kanıtlanmış Azure cloud services’ın yanı sıra, örnek mimariler ve belgeler sayesinde işle ilgili sorunlarınızı çözün.
İş Çözümleri Merkezi
Doğru Microsoft Cloud çözümünü bulun
Kuruluşunuzun hedeflerine ulaşmasına yardımcı olabilecek ürünleri ve çözümleri bulmak için Microsoft İş Çözümleri Merkezi'ne göz atın.
Azure mobil uygulamasını edinin 
