Bulan Januari lalu saya menulis soal membuat tim Anda bisa "ngobrol" dengan data perusahaan sendiri, alih-alih bolak-balik menggali folder. Pertanyaan lanjutan yang paling sering muncul kurang lebih begini: "tapi gimana caranya AI ini benar-benar tahu data kita, dan apa jawabannya bisa dipercaya?" Tulisan ini jawaban yang lebih dalam, karena teknik di baliknya punya nama, dan memahaminya akan menyelamatkan Anda dari membeli produk yang salah.
Teknik ini disebut RAG, singkatan dari retrieval-augmented generation. RAG dijelaskan dalam satu kalimat: alih-alih berharap model AI umum kebetulan tahu soal bisnis Anda, Anda memberinya kemampuan untuk mencari dulu di dokumen Anda, baru menjawab berdasarkan apa yang ditemukan. Perbedaan kecil ini yang membedakan antara tebakan percaya diri dan jawaban yang berpijak pada sumber nyata.
Inilah kenapa ini penting secara komersial. Chatbot biasa akan mengarang jawaban kalau tidak tahu. Sistem RAG yang dibangun dengan baik menjawab berdasarkan SOP Anda yang sebenarnya, daftar harga Anda yang sebenarnya, kontrak Anda yang sebenarnya, dan bisa menunjuk persis dokumen mana yang dipakai. Bagi bisnis, kutipan sumber semacam itu seringkali lebih berharga daripada jawabannya sendiri.
Perpustakaan dan sang pustakawan
Cara paling jernih untuk membayangkan RAG dijelaskan tanpa istilah teknis adalah sebuah perpustakaan dengan pustakawan yang andal.
Model bahasa AI adalah pustakawannya. Fasih, pandai bicara, dan bisa merangkum apa saja yang Anda berikan. Tapi sendirian, ia belum pernah membaca berkas-berkas perusahaan Anda, jadi kalau Anda tanya soal kebijakan refund, ia akan mengarang sesuatu yang terdengar masuk akal tapi salah.
Dokumen-dokumen Anda adalah perpustakaannya. Kontrak, SOP, spesifikasi produk, email lama, catatan rapat. Berharga, tapi tidak berguna kalau tidak ada yang bisa menemukan halaman yang tepat dengan cepat.
RAG adalah sistem yang mengarahkan sang pustakawan ke rak yang tepat sebelum ia menjawab. Ketika seseorang mengajukan pertanyaan, sistem terlebih dahulu mengambil beberapa bagian paling relevan dari dokumen Anda, lalu menyerahkan bagian-bagian itu ke model bahasa dan berkata "jawab hanya berdasarkan ini." Model itu menulis jawaban yang rapi dan natural, berpijak pada teks yang baru saja diberikan, bukan pada ingatan yang samar-samar.
Alur dua langkah itu, retrieve lalu generate, adalah keseluruhan idenya. Sisanya hanyalah detail teknis.
Kenapa jawabannya bisa mengutip sumber
Karena sistem RAG secara fisik menarik bagian-bagian teks tertentu sebelum menjawab, ia tahu persis dokumen mana yang dipakai. Itulah yang memungkinkan sistem yang dibangun dengan baik berkata "menurut memo harga 2024, bagian 3" dan menautkannya untuk Anda.
Bagi kebanyakan bisnis, inilah fitur yang mengubah sesuatu dari sekadar hal baru menjadi alat yang benar-benar bisa diandalkan:
- Bisa diaudit. Staf bisa memverifikasi jawaban, bukan sekadar percaya pada kotak hitam.
- Kepercayaan. Orang jauh lebih percaya jawaban yang bisa ditelusuri dibanding yang muncul begitu saja dari ketiadaan.
- Koreksi. Ketika jawaban salah, Anda bisa melihat dokumen mana yang menyesatkannya dan memperbaiki dokumen itu, bukan bergulat dengan modelnya.
Ini peningkatan nyata dibanding asisten generik. Ini juga alasan kenapa, saat vendor mendemokan tool AI internal untuk Anda, hal pertama yang perlu ditanyakan adalah: bisakah ia menunjukkan dari mana setiap jawaban berasal? Kalau tidak bisa, Anda sedang melihat mesin penebak yang mengenakan antarmuka yang bagus.
Berapa kira-kira biayanya
Pemilik bisnis selalu ingin angka pastinya, jadi mari saya konkret soal bentuk biayanya, memakai kisaran yang realistis untuk UKM Indonesia di awal 2024.
| Elemen biaya | Apa yang mempengaruhinya |
|---|---|
| Setup dan integrasi | Sekali di awal. Tergantung seberapa berantakan dokumen Anda |
| Pemrosesan dokumen | Sekali per batch, plus berkelanjutan untuk berkas baru |
| Pemakaian model | Per pertanyaan yang diajukan. Kecil per query, menumpuk seiring volume |
| Pemeliharaan | Menjaga dokumen tetap update, memantau jawaban yang keliru |
Kejujurannya begini: biaya pemanggilan model bahasa biasanya bagian yang murah. Bagian yang mahal dan sering diremehkan adalah membuat dokumen Anda dalam bentuk yang bisa dipakai dan menjaganya tetap mutakhir. Setumpuk PDF yang tidak konsisten, separuhnya berupa gambar hasil scan, akan lebih mahal untuk disiapkan daripada AI canggih di atasnya. Anggarkan untuk pekerjaan data yang membosankan itu, karena di situlah proyek semacam ini benar-benar hidup atau mati.
Di titik mana RAG masih bisa gagal
Saya tidak menjalankan tugas dengan baik kalau hanya menjual sisi baiknya saja. RAG benar-benar berguna sekaligus benar-benar terbatas, dan batasannya bisa diprediksi.
Dokumen yang basi. RAG menjawab berdasarkan apa yang Anda berikan. Kalau daftar harga Anda sudah berumur enam bulan, Anda akan dapat jawaban percaya diri dengan harga tahun lalu. Sistem tidak tahu bahwa dokumen itu sudah kedaluwarsa. Kesegaran data adalah tanggung jawab Anda, bukan tanggung jawab AI-nya.
Sumber yang saling bertentangan. Kalau dua dokumen tidak sejalan, dan kebanyakan perusahaan punya kontradiksi yang terkubur di berkas mereka, sistem bisa saja mengambil salah satunya. Ia tidak bisa menjadi wasit untuk menentukan mana yang benar. Dokumen yang bersih dengan satu sumber kebenaran jauh lebih penting daripada model yang lebih canggih.
Retrieval yang buruk. Kalau sistem mengambil bagian teks yang salah, bahkan model yang brilian sekalipun akan memberi Anda jawaban percaya diri untuk konteks yang keliru. Kualitas retrieval, bukan kualitas model, biasanya yang membedakan implementasi yang bagus dari yang bikin frustrasi.
Pertanyaan yang butuh penalaran lintas banyak dokumen. RAG kuat di "cari lalu jawab." Ia lebih lemah di "baca keempat puluh kontrak ini dan beri tahu saya total eksposur kita." Itu masalah yang berbeda dan lebih sulit, dan vendor yang menjanjikannya begitu saja sedang menjual lebih dari yang bisa ia berikan.
Tidak satu pun dari ini meniadakan nilainya. Semua ini hanya menunjukkan ke mana Anda perlu mencurahkan upaya: kebersihan dokumen, satu sumber kebenaran yang jelas, dan menguji retrieval dengan pertanyaan nyata Anda sebelum mempercayainya secara luas.
Kesimpulan praktis
RAG dijelaskan secara sederhana adalah retrieval sebelum generation: cari dulu di dokumen Anda, baru jawab, dengan sumber yang bisa Anda periksa. Landasan itulah yang membuat tool AI internal cukup bisa dipercaya untuk benar-benar dipakai.
Kalau Anda sedang mengevaluasi satu, uji dengan tiga hal ini:
- Apakah setiap jawaban mengutip sumbernya? Tanpa kutipan sumber, tidak ada kepercayaan.
- Apakah ada rencana untuk menjaga dokumen tetap mutakhir? Input basi, output keliru.
- Apakah sudah diuji dengan pertanyaan nyata Anda, bukan sekadar set demo yang sudah dipoles?
Kalau tiga hal itu beres, asisten yang berpijak pada dokumen benar-benar menghemat waktu tim Anda berjam-jam setiap minggu. Sebelum mengalokasikan anggaran, ada baiknya mengukur itu terhadap sebuah baseline, yang saya bahas di mengukur ROI investasi teknologi dengan benar. Dan kalau Anda lebih suka ada orang yang membangun dan menguji ketahanannya bersama Anda ketimbang sekadar menjual demo, itulah jenis pekerjaan yang saya ambil sebagai technology partner.