Trace Id is missing
Lompati ke konten utama
Azure
Pelajari selengkapnya

Keamanan Konten Azure AI

Tingkatkan keamanan aplikasi AI generatif dengan pagar pembatas tingkat lanjut untuk AI yang bertanggung jawab
Mulai menggunakan Azure Bangun dengan Azure AI Studio
Gambaran umum

Buat pagar pembatas yang kuat untuk AI generatif

  • Deteksi dan blokir konten kekerasan, kebencian, seksual, dan melukai diri. Konfigurasikan ambang keparahan untuk kasus penggunaan spesifik Anda, dan patuhi kebijakan AI Anda yang bertanggung jawab.
  • Buat filter konten unik yang disesuaikan dengan kebutuhan Anda menggunakan kategori kustom. Latih kategori kustom baru dengan cepat dengan memberikan contoh konten yang perlu Anda blokir.
  • Lindungi aplikasi AI Anda dari serangan injeksi perintah dan upaya jailbreak. Identifikasi dan mitigasi ancaman langsung dan tidak langsung dengan perisai perintah.
  • Identifikasi dan perbaiki halusinasi AI generatif dan pastikan output dapat diandalkan, akurat, dan berdasarkan data dengan deteksi groundedness.
  • Identifikasi konten dengan hak cipta dan berikan sumber teks dan kode yang pernah ada sebelumnya dengan deteksi material yang dilindungi.
Video

Kembangkan aplikasi AI dengan keamanan bawaan

Deteksi dan mitigasi konten berbahaya dalam input dan output yang dihasilkan AI dan yang dibuat pengguna—termasuk teks, gambar, dan media campuran—semuanya dengan Keamanan Konten Azure AI.
Kasus penggunaan

Lindungi aplikasi AI Anda

Keamanan

Keamanan dan kepatuhan bawaan 

Microsoft telah berkomitmen untuk berinvestasi sebesar USD$20 miliar dalam keamanan cyber selama lima tahun.
Kami mempekerjakan lebih dari 8.500 ahli intelijen ancaman dan keamanan di 77 negara.
Azure memiliki salah satu portofolio sertifikasi kepatuhan terbesar dalam industri.
Pelajari selengkapnya tentang keamanan di Azure
Harga

Harga fleksibel untuk memenuhi kebutuhan Anda

Bayar yang Anda gunakan saja—tanpa biaya di muka. Harga PAYG Keamanan Konten Azure AI didasarkan pada:
  • Jumlah catatan teks yang dianalisis
  • Jumlah gambar yang dianalisis
Lihat harga

Azure OpenAI Service

Buat kopilot dan aplikasi AI generatif Anda sendiri dengan model bahasa dan visual yang canggih.
Pelajari selengkapnya

Azure AI Studio

Kembangkan solusi AI lebih cepat dengan model bawaan dan dapat disesuaikan, menggunakan data Anda untuk berinovasi dalam skala besar.
Pelajari selengkapnya

Model terbuka Phi-3

Gunakan model bahasa kecil (SLM) yang paling berkemampuan dan hemat biaya.
Pelajari selengkapnya

Azure AI Bahasa

Buat antarmuka percakapan, ringkas dokumen, dan analisis teks menggunakan fitur bawaan yang didukung AI.
Pelajari selengkapnya

Pencarian Azure AI

Ajukan pertanyaan dan dapatkan jawaban komprehensif dengan mengekstraksi informasi penting yang ada di berbagai dokumen.
Pelajari selengkapnya
Kembali ke PRODUK TERKAIT
Kisah pelanggan

Lihat bagaimana pelanggan melindungi aplikasi mereka dengan Keamanan Konten Azure AI

  1. Departemen Australia Selatan
  2. Logo Asos
  3. Logo Unity
  4. Logo IWILL
Departemen Australia Selatan
"Departemen Australia Selatan untuk Pendidikan meluncurkan chatbot pendidikan generatif yang didukung AI untuk memasukkan teknologi AI dengan aman ke dalam ruang kelas."
Logo Asos
"ASOS menggunakan AI generatif untuk meningkatkan pengalaman pelanggannya, sehingga memungkinkan pengguna untuk menemukan mode baru dengan mudah. Keamanan Konten Azure AI membantu memastikan interaksi dan output berkualitas tinggi."
Logo Unity
"Unity mengembangkan Muse Chat untuk meningkatkan proses pembuatan game mereka. Untuk memastikan penggunaan yang bertanggung jawab, Unity menggunakan filter konten Azure OpenAI Service yang didukung oleh Keamanan Konten Azure AI."
Beberapa ponsel dengan pesan teks yang dihasilkan oleh aplikasi IWill
Logo IWILL
"IWill Therapy menggunakan AI generatif untuk membuat chatbot berbahasa Hindi yang menyediakan terapi perilaku kognitif di seluruh India. Solusi ini menggunakan Keamanan Konten Azure AI untuk mendeteksi dan memfilter konten yang berpotensi membahayakan."
Kembali ke KISAH PELANGGAN
Referensi

Mulai menggunakan Keamanan Konten Azure AI

  1.
Portal

Azure AI Studio

Jelajahi Keamanan Konten Azure AI dan filter konten di Azure AI Studio.
Mulai membangun
Kasus penggunaan

Inspirasi pelanggan

Temukan bagaimana pengembang di berbagai industri dan perusahaan menggunakan Keamanan Konten Azure AI.
Baca kisahnya
Dokumentasi

Keamanan Konten Azure AI

Dapatkan konsep dan mulai cepat di pusat Microsoft Learn.
Pelajari selengkapnya
Video

Video Pengembang Microsoft

Tonton cara membuat dan mengonfigurasi filter konten di Azure AI Studio.
Tonton seri ini
Pelatihan

Terampil dengan Keamanan Konten Azure AI

Pelajari cara menggunakan Keamanan Konten Azure AI untuk membuat pagar pembatas AI generatif di Azure AI Studio.
Pelajari selengkapnya
Kembali ke REFERENSI
Tanya Jawab Umum

Tanya jawab umum

  • Model Keamanan Konten telah dilatih dan diuji secara khusus dalam bahasa berikut: Inggris, Jerman, Spanyol, Jepang, Prancis, Italia, Portugis, dan Tionghoa. Layanan juga dapat berfungsi dalam bahasa lain, tetapi kualitasnya mungkin bervariasi. Dalam semua kasus, Anda harus melakukan pengujian sendiri untuk memastikan bahwa bahasa dapat berfungsi untuk aplikasi Anda.
    Kategori kustom saat ini hanya berfungsi dengan baik dalam bahasa Inggris. Anda dapat menggunakan bahasa lain dengan himpunan data Anda sendiri, tetapi kualitasnya mungkin bervariasi.
  • Beberapa fitur Keamanan Konten Azure AI hanya tersedia di wilayah tertentu. Lihat fitur yang tersedia di setiap wilayah.
  • Sistem memantau empat kategori bahaya: kebencian, seksual, kekerasan, dan melukai diri.
  • Ya, Anda dapat menyesuaikan ambang keparahan untuk setiap filter kategori bahaya.
  • Ya, Anda dapat menggunakan API kategori kustom Keamanan Konten Azure AI untuk membuat filter konten Anda sendiri. Dengan memberikan contoh, Anda dapat melatih filter untuk mendeteksi dan memblokir konten yang tidak diinginkan khusus untuk kategori kustom yang Anda tentukan.
  • Perisai perintah meningkatkan keamanan sistem AI generatif dengan melindungi dari serangan injeksi perintah:
     
    • Serangan perintah langsung (jailbreak): Pengguna mencoba memanipulasi sistem AI dan menghindari protokol keamanan dengan membuat perintah yang mencoba mengubah aturan sistem atau menipu model untuk menjalankan tindakan yang dilarang.
    • Serangan tidak langsung: Konten pihak ketiga, seperti dokumen atau email, berisi instruksi tersembunyi untuk mengeksploitasi sistem AI, seperti perintah tersemat yang mungkin dijalankan AI tanpa sadar.
  • Deteksi groundedness mengidentifikasi dan memperbaiki output model AI generatif yang tidak berdasar, sehingga memastikannya didasarkan pada material sumber yang disediakan. Hal ini membantu mencegah pembuatan informasi yang palsu atau salah. Menggunakan model bahasa kustom, deteksi groundedness mengevaluasi klaim terhadap data sumber dan memitigasi halusinasi AI.
  • Deteksi material yang dilindungi untuk teks mengidentifikasi dan memblokir konten teks yang diketahui, seperti lirik, artikel, resep, dan konten web yang dipilih agar tidak muncul di output yang dihasilkan AI.
    Deteksi material yang dilindungi untuk kode mendeteksi dan mencegah output kode yang diketahui. Deteksi ini memeriksa kecocokan terhadap kode sumber publik di repositori GitHub. Selain itu, kemampuan mereferensikan kode yang didukung oleh GitHub Copilot memungkinkan pengembang menemukan repositori untuk menjelajahi dan menemukan kode yang relevan.
  • Sistem pemfilteran konten di dalam Azure OpenAI Service didukung oleh Keamanan Konten Azure AI. Sistem ini dirancang untuk mendeteksi dan mencegah output konten berbahaya dalam perintah input dan penyelesaian output. Sistem ini berfungsi bersama model utama, termasuk GPT dan DALL-E.