Apa Itu AI Governance Framework?

AI Governance Framework adalah kerangka terstruktur yang membantu tim merancang, menjalankan, dan mengevaluasi ai governance dengan tahapan serta tanggung jawab yang jelas. Penggunaan AI Governance Framework sebaiknya dimulai dari masalah yang jelas. Bagi tim produk, data, AI, dan operasional, istilah ini berguna untuk membedakan tujuan, proses, indikator, dan risiko dalam model AI, data, prompt, evaluasi, dan otomasi berbasis kecerdasan buatan.

Penerapannya perlu diuji terhadap dataset, prompt dan model. Hasilnya kemudian dapat dinilai melalui accuracy, relevance dan hallucination rate. Jika definisi, data, dan ruang lingkup tidak konsisten, tim mudah mengambil kesimpulan yang terlihat benar tetapi tidak relevan dengan tujuan.

1. Untuk AI Governance Framework, tentukan tujuan dan ruang lingkup ai governance sebelum memilih tool atau metode.
2. Siapkan input yang relevan seperti dataset, prompt, dan data pendukung lainnya.
3. Jalankan proses dengan kriteria keberhasilan dan penanggung jawab yang jelas.
4. Review hasil melalui accuracy, relevance, lalu dokumentasikan perbaikannya.

• Mengurangi pekerjaan ulang akibat keputusan yang tidak terdokumentasi atau definisi yang berbeda.
• Menghubungkan pekerjaan teknis atau operasional dengan hasil yang dapat dipahami oleh pemilik bisnis.
• Membuat hasil AI Governance Framework dapat ditinjau bersama indikator seperti accuracy, relevance, dan hallucination rate.
• Memberi dasar yang lebih jelas untuk menentukan prioritas berdasarkan dampak, bukan asumsi.

Tim biasanya membutuhkan AI Governance Framework ketika tim data ingin membandingkan beberapa model berdasarkan kualitas, biaya, dan latency. Gunakan prompt template untuk menyamakan konteks, data, dan keputusan yang akan diambil. Hasilnya dapat ditinjau melalui accuracy dan relevance.

Misalnya, tim data ingin membandingkan beberapa model berdasarkan kualitas, biaya, dan latency. Tim terlebih dahulu menetapkan baseline dan kriteria sukses, kemudian menggunakan AI Governance Framework untuk satu bagian proses. Setelah data cukup, mereka meninjau hallucination rate serta safety rate dan memasukkan keputusan lanjutan ke evaluation set.

• Menerapkan AI Governance Framework tanpa menjelaskan tujuan, baseline, dan keputusan apa yang akan dipengaruhi.
• Menerapkan aturan yang sama ke seluruh kasus meskipun konteks, audiens, atau batasannya berbeda.
• Menggunakan data yang periodenya, definisinya, atau sumbernya berbeda lalu membandingkannya seolah setara.
• Mengejar satu metrik sambil mengabaikan kualitas, biaya, pengalaman pengguna, atau risiko.