Panduan Lengkap RAG untuk Dokumentasi Internal Perusahaan

Setiap perusahaan punya pertanyaan yang ditanyakan berulang kali: "Formulir cuti di mana?", "Prosedur retur barang dari distributor bagaimana?", "Siapa yang menyetujui pembelian di atas batas tertentu?". Jawabannya sebenarnya sudah ada di SOP, tapi tersebar di folder bersama, PDF lama, dan grup chat.

RAG (retrieval-augmented generation) adalah cara membuat AI menjawab pertanyaan seperti itu dengan membaca dokumen Anda terlebih dahulu, lalu menyusun jawaban beserta sumbernya. Panduan ini menjelaskan tahapan membangunnya dari sisi keputusan, bukan kode.

Cara kerja RAG secara singkat

Model AI tidak "menghafal" dokumen Anda. Yang terjadi setiap kali ada pertanyaan:

1. Sistem mencari potongan dokumen yang paling relevan dengan pertanyaan.
2. Potongan itu diberikan ke model bersama pertanyaannya.
3. Model menyusun jawaban hanya dari potongan tersebut, dan menyebut dokumen asalnya.

Karena jawabannya diambil dari dokumen saat itu juga, memperbarui pengetahuan AI cukup dengan memperbarui dokumennya. Tidak perlu melatih ulang model.

Tahap 1: Kumpulkan dan pilih dokumen

Jangan memasukkan seluruh isi server file. Mulai dari satu area yang paling sering ditanyakan, misalnya SOP HR atau panduan operasional gudang.

Periksa setiap dokumen:

• Apakah ini versi terbaru? Dokumen kedaluwarsa akan menghasilkan jawaban kedaluwarsa.
• Apakah ada duplikat dengan isi berbeda? Pilih satu yang resmi.
• Apakah ada data sensitif, seperti gaji perorangan atau data pribadi, yang tidak boleh terbaca semua orang?

Tahap ini sering memakan waktu paling lama, dan justru paling menentukan hasil.

Tahap 2: Rapikan format

PDF hasil scan perlu di-OCR dulu supaya teksnya bisa dibaca. Tabel perlu diperiksa, karena tabel sering berantakan saat diubah jadi teks. Judul bagian yang jelas sangat membantu sistem menemukan potongan yang tepat.

Tahap 3: Potong dokumen menjadi bagian (chunking)

Dokumen panjang dipotong menjadi bagian-bagian kecil. Aturan praktisnya:

• Potong mengikuti struktur dokumen (per bab atau per subjudul), bukan per jumlah karakter secara buta.
• Sertakan judul dokumen dan judul bagian di setiap potongan, supaya potongan tetap bermakna walau dibaca terpisah.
• Beri sedikit tumpang tindih antar potongan agar kalimat yang terpotong tidak kehilangan konteks.

Tahap 4: Embedding dan penyimpanan

Setiap potongan diubah menjadi embedding, yaitu representasi angka yang menangkap makna teks. Embedding disimpan di vector database. Saat ada pertanyaan, pertanyaannya juga diubah menjadi embedding, lalu sistem mencari potongan dengan makna paling dekat.

Pilih model embedding yang mendukung Bahasa Indonesia dengan baik. Uji dengan pertanyaan yang memakai kata berbeda dari dokumen, misalnya "izin tidak masuk" untuk dokumen yang menulis "cuti".

Tahap 5: Susun instruksi jawaban

Instruksi untuk model setidaknya berisi:

1. Jawab hanya dari potongan dokumen yang diberikan.
2. Sebutkan judul dokumen sumber di setiap jawaban.
3. Kalau potongan tidak memuat jawabannya, katakan tidak ditemukan dan sarankan menghubungi bagian terkait.

Sumber yang disebut membuat karyawan bisa memeriksa sendiri, dan membuat kesalahan cepat ketahuan.

Tahap 6: Atur hak akses

Ini tahap yang paling sering terlupa. Kalau dokumen keuangan ikut diindeks, karyawan gudang bisa saja bertanya dan mendapat jawaban dari dokumen itu. Solusinya, simpan label akses di setiap potongan dan saring hasil pencarian berdasarkan siapa yang bertanya, sebelum potongan dikirim ke model.

Tahap 7: Uji dan pelihara

Siapkan daftar pertanyaan uji dari karyawan sungguhan beserta jawaban yang benar menurut pemilik dokumen. Jalankan daftar ini setiap kali Anda menambah dokumen atau mengubah pengaturan. Yang dicatat:

• Apakah potongan yang diambil memang relevan?
• Apakah jawabannya sesuai dokumen?
• Apakah sistem mengaku tidak tahu saat memang tidak ada jawabannya?

Tunjuk satu pemilik untuk setiap kelompok dokumen. Tanpa pemilik, dokumen akan basi dan jawaban AI ikut basi.

Kapan RAG bukan jawabannya

RAG cocok untuk pertanyaan yang jawabannya tertulis di dokumen. Untuk pertanyaan yang butuh data terkini dari sistem, seperti stok hari ini atau status pengajuan, yang dibutuhkan adalah integrasi ke sistem tersebut. Keduanya bisa digabung dalam satu AI agent.

Kalau Anda ingin membangun asisten dokumentasi internal seperti ini untuk tim, lihat Layanan Implementasi AI Agent kami.