Mengotomatiskan alur kerja pembelajaran mesin untuk memasukkan AI dalam Visual Studio
Mengotomatiskan alur kerja pembelajaran mesin untuk memasukkan AI dalam Visual Studio
Lihat bagaimana ilmuwan dan teknisi data di divisi Pengembang Microsoft berhasil mengubah percobaan menjadi fitur produk dengan lalu lintas tinggi menggunakan praktik operasi pembelajaran mesin (MLOps).
Tantangan: Dari prototipe ke produksi berskala besar
Setelah enam bulan melakukan eksperimen AI dan pembelajaran mesin yang bertujuan untuk meningkatkan produktivitas pengembang, sebuah tim kecil ilmuwan data terapan di divisi Pengembang Microsoft berhasil menciptakan model yang dapat secara aktif memprediksi kemungkinan metode C# yang akan dipanggil pengembang saat menulis kode.
Prototipe pembelajaran mesin ini akan menjadi dasar untuk Visual Studio IntelliCode, sebuah kemampuan prediksi kode yang dibantu AI. Namun, tes kualitas, ketersediaan, dan penskalaan yang ketat masih diperlukan untuk memenuhi persyaratan pengguna Visual Studio. Mereka perlu mengundang tim teknisi untuk membuat platform pembelajaran mesin dan mengotomatiskan proses tersebut. Dan kedua tim perlu mengadopsi kultur MLOps, yang memperluas prinsip DevOps ke siklus hidup pembelajaran mesin menyeluruh.
Tim teknisi dan sains terapan bekerja sama membangun alur pembelajaran mesin untuk mengurutkan proses pelatihan model dan mengotomatiskan sebagian besar pekerjaan manual yang dilakukan tim sains terapan dalam tahap prototipe. Alur tersebut memungkinkan IntelliCode untuk menskalakan dan mendukung 6 bahasa pemrograman, secara rutin melatih model baru menggunakan contoh kode dari sejumlah repositori GitHub sumber terbuka.
Tantangan: Dari prototipe ke produksi berskala besar
Tantangan: Beradaptasi dengan model operasi cloud
"Kami jelas akan melakukan banyak pelatihan model intensif komputasi pada himpunan data yang sangat besar setiap bulannya sehingga alur pembelajaran mesin yang otomatis, terukur, dan menyeluruh tentu sangat diperlukan."
Gearard Boland, Principal Software Engineering Manager, tim Data dan AI
Memanfaatkan wawasan dengan MLOps
Saat IntelliCode diluncurkan, tim melihat peluang untuk merancang pengalaman pengguna yang lebih baik: membuat model penyelesaian tim berdasarkan kebiasaan pembuatan kode tiap pelanggan. Personalisasi model pembelajaran mesin tersebut akan memerlukan model pelatihan dan penerbitan otomatis sesuai permintaan, kapan pun pengguna Visual Studio atau Visual Studio Code memintanya. Untuk menjalankan fungsi tersebut sesuai kebutuhan menggunakan alur yang ada, tim menggunakan layanan Azure seperti Azure Machine Learning, Azure Data Factory, Azure Batch, dan Azure Pipelines.
Tantangan: Beradaptasi dengan model operasi cloud
"Ketika dukungan untuk model kustom ditambahkan, skalabilitas dan keandalan alur pelatihan menjadi makin penting"
Gearard Boland, Principal Software Engineering Manager, tim Data dan AI
Menyatukan dua perspektif yang berbeda
Untuk membangun alur pembelajaran mesin, tim harus menentukan standar dan panduan umum sehingga mereka dapat berbicara dalam bahasa umum, berbagi praktik terbaik, dan berkolaborasi dengan lebih baik. Mereka juga harus memahami pendekatan satu sama lain terhadap proyek tersebut. Saat tim ilmuwan data bekerja secara eksperimental, mengulangi pembuatan model dengan cepat, tim teknisi berfokus memastikan IntelliCode memenuhi ekspektasi pengguna Visual Studio untuk fitur tingkat produksi.
Saat ini, seluruh alur pembelajaran mesin (pelatihan, evaluasi, pengemasan, dan penyebaran) berjalan secara otomatis dan melayani lebih dari 9.000 permintaan pembuatan model tiap bulannya dari pengguna Visual Studio dan Visual Studio Code. Tim berencana menggunakan alur mereka untuk membangun kemampuan AI tambahan pada produk Microsoft lainnya dan memberikan pengalaman yang lebih beragam kepada pelanggan.
