Lewati Navigasi

Mengotomatiskan alur kerja pembelajaran mesin untuk memasukkan AI dalam Visual Studio

Lihat bagaimana ilmuwan dan teknisi data di divisi pengembang Microsoft mengubah eksperimen yang sukses menjadi fitur produk dengan lalu lintas tinggi dengan praktik operasi pembelajaran mesin (MLOps).

Baca panduan lengkap

Tantangan: Dari prototipe ke produksi dalam skala besar

Setelah enam bulan percobaan AI dan pembelajaran mesin yang bertujuan untuk meningkatkan produktivitas pengembang, tim kecil ilmuwan data terapan di divisi pengembang Microsoft menemukan model yang secara aktif memprediksi metode C# yang kemungkinan akan dipanggil oleh pengembang saat mereka mengodekannya.

Prototipe pembelajaran mesin yang berhasil ini akan menjadi dasar untuk Visual Studio IntelliCode, kemampuan prediksi kode yang dibantu AI—tetapi tidak sebelum melakukan pengujian penskalaan, ketersediaan, dan kualitas yang ketat untuk memenuhi persyaratan pengguna Visual Studio. Mereka perlu mengundang tim teknisi untuk membuat platform pembelajaran mesin dan mengotomatiskan proses tersebut. Dan kedua tim perlu mengadopsi kultur MLOps—memperluas prinsip DevOps ke siklus hidup pembelajaran mesin menyeluruh.

Bersama-sama, tim teknik dan sains terapan membuat alur pembelajaran mesin untuk iterasi pada proses pelatihan model dan mengotomatiskan sebagian besar pekerjaan yang dilakukan tim sains terapan secara manual dalam tahap prototipe. Alur tersebut memungkinkan IntelliCode untuk menskalakan dan mendukung 6 bahasa pemrograman, melatih model baru secara berkala menggunakan contoh kode dari kumpulan repositori GitHub sumber terbuka yang luas.

"Clearly, we were going to be doing a lot of compute-intensive model training on very large data sets every month—making the need for an automated, scalable, end-to-end machine learning pipeline all that more evident."

Gearard Boland, Manajer Teknisi Perangkat Lunak Utama, Data, dan tim AI

Memanfaatkan wawasan dengan MLOps

Saat IntelliCode diluncurkan, tim melihat peluang untuk merancang pengalaman pengguna yang lebih baik lagi: membuat model penyelesaian tim berdasarkan kebiasaan pengodean khusus setiap pelanggan. Untuk mempersonalisasi model pembelajaran mesin tersebut akan memerlukan rekaman model pelatihan dan penerbitan secara otomatis—setiap kali pengguna Visual Studio atau Visual Studio Code memintanya. Untuk menjalankan fungsi tersebut sesuai skala menggunakan alur yang ada, tim menggunakan layanan Azure seperti Pembelajaran Mesin Azure, Azure Data Factory, Azure Batch, dan Azure Pipelines.

"When we added support for custom models, the scalability and reliability of our training pipeline became even more important"

Gearard Boland, Manajer Teknisi Perangkat Lunak Utama, Data, dan tim AI

Menyatukan dua sudut pandang yang berbeda

Untuk membangun alur pembelajaran mesin mereka, tim harus menentukan standar dan pedoman umum sehingga mereka dapat berbicara dalam bahasa yang sama, berbagi praktik terbaik, dan berkolaborasi dengan lebih baik. Mereka juga harus memahami pendekatan satu sama lain terhadap proyek tersebut. Sementara tim ilmu data bekerja secara eksperimental (pengulangan secara cepat pada pembuatan model), tim teknik fokus untuk memastikan IntelliCode memenuhi harapan pengguna Visual Studio untuk fitur tingkat produksi.

Saat ini, seluruh alur pembelajaran mesin—pelatihan, evaluasi, pengemasan, dan penyebaran—berjalan secara otomatis dan melayani lebih dari 9.000 permintaan pembuatan model setiap bulan dari pengguna Visual Studio dan Visual Studio Code. Tim mencari cara menggunakan alur mereka untuk membangun kemampuan AI tambahan dalam produk Microsoft lainnya dan memberikan pengalaman yang lebih kaya lagi kepada pelanggan.

Lihat bagaimana tim menerapkan MLOps langkah demi langkah.

Baca panduan lengkap