Apa Itu System Prompt?

System prompt adalah instruksi tingkat sistem yang menetapkan peran, aturan, batasan, dan perilaku dasar yang harus diikuti model AI selama interaksi. Pada implementasi sehari-hari, System Prompt menjadi relevan karena keputusan dalam model AI, data, prompt, evaluasi, dan otomasi berbasis kecerdasan buatan sering melibatkan beberapa data, kanal, atau komponen sekaligus.

Kualitas penerapan sangat bergantung pada kejelasan data, tanggung jawab, dan batasan. dataset, prompt dan model perlu divalidasi, sedangkan accuracy, relevance dan hallucination rate dipakai untuk membedakan perbaikan nyata dari fluktuasi biasa.

1. Untuk System Prompt, tentukan konteks penggunaan System Prompt dan keputusan apa yang perlu dibantu oleh istilah ini.
2. Identifikasi komponen yang terlibat, misalnya dataset, prompt, dan prompt template.
3. Terapkan pada ruang lingkup yang jelas dan dokumentasikan asumsi agar tim memakai definisi yang sama.
4. Evaluasi dampaknya menggunakan indikator seperti accuracy dan relevance.

• Membantu memisahkan masalah data, proses, teknologi, dan keputusan sehingga perbaikannya lebih tepat sasaran.
• Memudahkan evaluasi karena perubahan dapat dibandingkan terhadap baseline dan indikator yang disepakati.
• Membuat hasil System Prompt dapat ditinjau bersama indikator seperti accuracy, relevance, dan hallucination rate.
• Membuat eksperimen dan perbaikan berikutnya lebih cepat karena pembelajaran sebelumnya terdokumentasi.

Tim biasanya membutuhkan System Prompt ketika produk AI perlu dievaluasi karena jawaban terlihat lancar tetapi beberapa faktanya salah. Gunakan guardrail untuk menyamakan konteks, data, dan keputusan yang akan diambil. Hasilnya dapat ditinjau melalui accuracy dan relevance.

Contohnya, tim customer service ingin chatbot menjawab berdasarkan knowledge base perusahaan. Tim mendokumentasikan kondisi awal dalam prompt template, menerapkan System Prompt pada ruang lingkup terbatas, lalu membandingkan relevance dengan safety rate. Hasil dan alasan perubahan dicatat pada guardrail sebelum pendekatan diperluas.

• Menerapkan System Prompt tanpa menjelaskan tujuan, baseline, dan keputusan apa yang akan dipengaruhi.
• Menerapkan aturan yang sama ke seluruh kasus meskipun konteks, audiens, atau batasannya berbeda.
• Menggunakan data yang periodenya, definisinya, atau sumbernya berbeda lalu membandingkannya seolah setara.
• Mengejar satu metrik sambil mengabaikan kualitas, biaya, pengalaman pengguna, atau risiko.