Apa Itu Memory?

Memory adalah konsep pada sistem AI yang berkaitan dengan cara model menerima input, membentuk representasi, menghasilkan keluaran, atau dievaluasi; penggunaannya perlu mempertimbangkan data, konteks, biaya, dan risiko. Secara operasional, Memory membantu memberi struktur pada pekerjaan yang berhubungan dengan model AI, data, prompt, evaluasi, dan otomasi berbasis kecerdasan buatan, terutama ketika hasil harus dapat diukur dan diulang.

Penerapannya perlu diuji terhadap dataset, prompt dan model. Hasilnya kemudian dapat dinilai melalui accuracy, relevance dan hallucination rate. Jika definisi, data, dan ruang lingkup tidak konsisten, tim mudah mengambil kesimpulan yang terlihat benar tetapi tidak relevan dengan tujuan.

1. Untuk Memory, tentukan konteks penggunaan Memory dan keputusan apa yang perlu dibantu oleh istilah ini.
2. Identifikasi komponen yang terlibat, misalnya dataset, prompt, dan prompt template.
3. Terapkan pada ruang lingkup yang jelas dan dokumentasikan asumsi agar tim memakai definisi yang sama.
4. Evaluasi dampaknya menggunakan indikator seperti accuracy dan relevance.

• Memberi dasar yang lebih jelas untuk menentukan prioritas berdasarkan dampak, bukan asumsi.
• Mengurangi pekerjaan ulang akibat keputusan yang tidak terdokumentasi atau definisi yang berbeda.
• Membuat hasil Memory dapat ditinjau bersama indikator seperti accuracy, relevance, dan hallucination rate.
• Membuat definisi dan ruang lingkup Memory lebih konsisten ketika digunakan oleh beberapa tim.

Salah satu konteks praktis Memory adalah saat produk AI perlu dievaluasi karena jawaban terlihat lancar tetapi beberapa faktanya salah. Gunakan evaluation set untuk menyamakan konteks, data, dan keputusan yang akan diambil. Hasilnya dapat ditinjau melalui accuracy dan relevance.

Sebagai contoh praktis, tim customer service ingin chatbot menjawab berdasarkan knowledge base perusahaan. Tim menguji Memory dengan data atau skenario representatif, mencatat temuan pada model card, lalu memverifikasi apakah hallucination rate membaik tanpa merusak latency. Pembelajaran akhirnya dimasukkan ke evaluation set.

• Menerapkan Memory tanpa menjelaskan tujuan, baseline, dan keputusan apa yang akan dipengaruhi.
• Menggunakan data yang periodenya, definisinya, atau sumbernya berbeda lalu membandingkannya seolah setara.
• Mengejar satu metrik sambil mengabaikan kualitas, biaya, pengalaman pengguna, atau risiko.
• Tidak menyimpan log, baseline, atau catatan perubahan sehingga masalah yang sama sulit ditelusuri.