Apa Itu AI Ethics?

AI Ethics adalah konsep pada sistem AI yang berkaitan dengan cara model menerima input, membentuk representasi, menghasilkan keluaran, atau dievaluasi; penggunaannya perlu mempertimbangkan data, konteks, biaya, dan risiko. Penggunaan AI Ethics sebaiknya dimulai dari masalah yang jelas. Bagi tim produk, data, AI, dan operasional, istilah ini berguna untuk membedakan tujuan, proses, indikator, dan risiko dalam model AI, data, prompt, evaluasi, dan otomasi berbasis kecerdasan buatan.

Agar tidak menjadi istilah teoritis, tim dapat mendokumentasikan keputusan, baseline, dan perubahan yang dilakukan. Gunakan accuracy, relevance dan hallucination rate sebagai indikator, lalu periksa kembali apakah hasilnya benar-benar mendukung tujuan awal.

1. Untuk AI Ethics, tentukan konteks penggunaan AI Ethics dan keputusan apa yang perlu dibantu oleh istilah ini.
2. Identifikasi komponen yang terlibat, misalnya dataset, prompt, dan prompt template.
3. Terapkan pada ruang lingkup yang jelas dan dokumentasikan asumsi agar tim memakai definisi yang sama.
4. Evaluasi dampaknya menggunakan indikator seperti accuracy dan relevance.

• Membuat eksperimen dan perbaikan berikutnya lebih cepat karena pembelajaran sebelumnya terdokumentasi.
• Membantu memisahkan masalah data, proses, teknologi, dan keputusan sehingga perbaikannya lebih tepat sasaran.
• Membuat hasil AI Ethics dapat ditinjau bersama indikator seperti accuracy, relevance, dan hallucination rate.
• Membantu mendeteksi risiko lebih awal sebelum berdampak pada pengguna, biaya, atau stabilitas proses.

Salah satu konteks praktis AI Ethics adalah saat tim customer service ingin chatbot menjawab berdasarkan knowledge base perusahaan. Gunakan retrieval pipeline untuk menyamakan konteks, data, dan keputusan yang akan diambil. Hasilnya dapat ditinjau melalui accuracy dan relevance.

Misalnya, perusahaan ingin memakai AI untuk merangkum dokumen internal tanpa membocorkan data sensitif. Tim terlebih dahulu menetapkan baseline dan kriteria sukses, kemudian menggunakan AI Ethics untuk satu bagian proses. Setelah data cukup, mereka meninjau token cost serta relevance dan memasukkan keputusan lanjutan ke prompt template.

• Menerapkan AI Ethics tanpa menjelaskan tujuan, baseline, dan keputusan apa yang akan dipengaruhi.
• Tidak menyimpan log, baseline, atau catatan perubahan sehingga masalah yang sama sulit ditelusuri.
• Mengubah terlalu banyak faktor sekaligus sehingga penyebab peningkatan atau penurunan hasil tidak diketahui.
• Tidak menentukan pemilik tindakan sehingga temuan berhenti sebagai laporan tanpa perbaikan.