Apa Itu AI Safety?

AI Safety adalah konsep pada sistem AI yang berkaitan dengan cara model menerima input, membentuk representasi, menghasilkan keluaran, atau dievaluasi; penggunaannya perlu mempertimbangkan data, konteks, biaya, dan risiko. Secara operasional, AI Safety membantu memberi struktur pada pekerjaan yang berhubungan dengan model AI, data, prompt, evaluasi, dan otomasi berbasis kecerdasan buatan, terutama ketika hasil harus dapat diukur dan diulang.

Hal yang perlu diperhatikan adalah kualitas dataset, prompt dan model. Evaluasi tidak cukup berhenti pada satu angka; accuracy, relevance dan hallucination rate perlu dibaca bersama konteks perubahan dan dampaknya terhadap pengguna atau bisnis.

1. Untuk AI Safety, tentukan konteks penggunaan AI Safety dan keputusan apa yang perlu dibantu oleh istilah ini.
2. Identifikasi komponen yang terlibat, misalnya dataset, prompt, dan prompt template.
3. Terapkan pada ruang lingkup yang jelas dan dokumentasikan asumsi agar tim memakai definisi yang sama.
4. Evaluasi dampaknya menggunakan indikator seperti accuracy dan relevance.

• Membantu memisahkan masalah data, proses, teknologi, dan keputusan sehingga perbaikannya lebih tepat sasaran.
• Memudahkan evaluasi karena perubahan dapat dibandingkan terhadap baseline dan indikator yang disepakati.
• Membuat hasil AI Safety dapat ditinjau bersama indikator seperti accuracy, relevance, dan hallucination rate.
• Membuat eksperimen dan perbaikan berikutnya lebih cepat karena pembelajaran sebelumnya terdokumentasi.

Tim biasanya membutuhkan AI Safety ketika produk AI perlu dievaluasi karena jawaban terlihat lancar tetapi beberapa faktanya salah. Gunakan prompt template untuk menyamakan konteks, data, dan keputusan yang akan diambil. Hasilnya dapat ditinjau melalui accuracy dan relevance.

Contohnya, tim konten ingin memanfaatkan AI tetapi tetap menjaga fakta, tone, dan review manusia. Tim mendokumentasikan kondisi awal dalam evaluation set, menerapkan AI Safety pada ruang lingkup terbatas, lalu membandingkan latency dengan safety rate. Hasil dan alasan perubahan dicatat pada model card sebelum pendekatan diperluas.

• Menerapkan AI Safety tanpa menjelaskan tujuan, baseline, dan keputusan apa yang akan dipengaruhi.
• Menganggap korelasi sebagai penyebab tanpa melakukan verifikasi atau pengujian tambahan.
• Menerapkan aturan yang sama ke seluruh kasus meskipun konteks, audiens, atau batasannya berbeda.
• Menggunakan data yang periodenya, definisinya, atau sumbernya berbeda lalu membandingkannya seolah setara.