Hampir setiap pitch vendor AI yang saya ikuti berakhir di slide yang sama: "kami akan fine-tune model dengan data Anda." Kedengarannya canggih. Biasanya itu jawaban yang salah. Keputusan fine-tuning vs rag vs prompting sebenarnya punya urutan default yang jelas, dan kebanyakan pemilik bisnis justru ditawari anak tangga termahal padahal yang termurah sudah cukup menyelesaikan masalah mereka dalam seminggu.
Saya sudah membangun fitur AI untuk perusahaan multifinance dan memberi masukan ke pemilik retail di Tangerang untuk pertanyaan yang sama, dan polanya selalu berulang: seseorang mendengar kata "fine-tuning" di sebuah konferensi lalu menganggap itu opsi yang serius dan "kelas atas". Padahal bukan. Itu pilihan terakhir, bukan ambisi awal.
Berikut ini tangga yang benar-benar saya pakai setiap kali klien minta saya menambahkan AI ke produk atau workflow mereka.
Mulai dari prompting, selalu
Prompting berarti menulis instruksi yang lebih baik ke model yang sudah ada seperti GPT-4 atau Claude, tanpa infrastruktur tambahan apa pun. Ini anak tangga pertama karena biayanya nyaris nol dan kamu bisa mengujinya dalam satu sore.
Kebanyakan keluhan "AI-nya sering jawab salah" yang saya diminta perbaiki, ternyata masalah prompting, bukan masalah model. Instruksinya kabur, tidak ada contoh output, tidak ada batasan nada atau format, tidak ada daftar eksplisit hal yang harus ditolak. Memperbaikinya cukup dengan mengedit teks, bukan proyek engineering.
Prompting menyelesaikan:
- Menyusun draf balasan, ringkasan, dan laporan dengan format yang konsisten
- Mengklasifikasi atau men-triage teks (tiket support, leads, komplain)
- Menulis ulang atau menerjemahkan konten
- Tugas penalaran umum yang tidak bergantung pada data privat milikmu
Biaya: praktis nol di luar pemakaian API, biasanya di bawah Rp 500.000/bulan untuk volume bisnis kecil. Kalau ini sudah menyelesaikan masalahmu, berhenti di sini. Jangan biarkan siapa pun mengarahkanmu naik ke tangga berikutnya.
Tambahkan RAG saat AI perlu tahu dokumen-dokumenmu
Retrieval-Augmented Generation (RAG) berarti AI mencari lewat dokumen milikmu sendiri (SOP, katalog produk, kontrak, riwayat tiket) dan menarik potongan yang relevan ke dalam prompt sebelum menjawab. Kamu baru butuh RAG saat mode kegagalannya benar-benar "AI-nya tidak tahu itu", bukan "AI-nya salah merangkai kata".
Sebuah jaringan apotek yang pernah bekerja sama dengan saya ingin punya chatbot yang bisa menjawab pertanyaan staf soal kebijakan interaksi obat yang terkubur dalam dokumen SOP 40 halaman. Prompting saja tidak berguna: model itu tidak pernah melihat SOP tersebut. RAG menyelesaikannya dengan mengindeks dokumen dan mengambil paragraf yang tepat untuk setiap pertanyaan.
RAG tepat dipakai saat:
- Jawaban harus berpijak pada kebijakan, katalog, atau riwayat spesifik milikmu
- Dokumen yang mendasarinya sering berubah (jadi kamu tidak bisa sekadar menempelkannya ke prompt selamanya)
- Kamu perlu mengutip sumber ("sesuai SOP bagian 4.2") untuk kepercayaan atau kepatuhan
Biaya: vector database, pipeline pengindeksan, dan pemeliharaan berkelanjutan setiap kali dokumen diperbarui. Perkirakan sekitar Rp 15-40 juta untuk pembangunan yang proper, tergantung volume dokumen dan seberapa berantakan materi sumbernya. Ini anak tangga tempat kebanyakan proyek AI bisnis yang legit seharusnya berhenti. Kalau kamu sedang menimbang antara ini dengan membangun pipeline custom dari nol, perbandingan di Off-the-Shelf AI vs Custom AI Workflows layak dibaca sebelum kamu mengalokasikan budget.
Fine-tune hanya untuk alasan gaya, skala, atau latency
Fine-tuning berarti melatih ulang bobot sebuah model dengan contoh-contoh milikmu sendiri sehingga perilakunya berubah secara permanen. Ini mahal, lambat untuk diiterasi, dan menjadi alat yang salah untuk masalah "AI-nya tidak tahu fakta kami", karena RAG menyelesaikan itu jauh lebih murah dan langsung update begitu datamu berubah. Fine-tuning menyelesaikan kumpulan masalah yang lebih sempit:
- Konsistensi gaya bicara dalam skala besar. Kamu butuh ribuan output per hari dengan nada atau format yang sangat spesifik, yang tidak bisa dijaga konsisten hanya lewat prompting.
- Biaya atau latency pada volume tinggi. Model hasil fine-tune yang lebih kecil bisa menggantikan model umum yang lebih besar untuk satu tugas sempit, memangkas biaya per panggilan begitu kamu menjalankan jutaan request.
- Output terstruktur yang terus-menerus salah dihasilkan model. Jarang terjadi, tapi ada, biasanya pada format tidak lazim atau skema klasifikasi khusus domain tertentu.
Kalau tak satu pun dari tiga hal itu berlaku untukmu, fine-tuning sedang menyelesaikan masalah yang tidak kamu punya. Saya pernah melihat tim menghabiskan Rp 100+ juta untuk fine-tune model agar "mengenal" katalog produk mereka, padahal setup RAG yang selesai dalam seminggu bisa melakukannya dengan biaya jauh lebih kecil dan otomatis ter-update setiap kali katalog berubah.
Tabel keputusan sederhana
| Gejala | Alat yang tepat |
|---|---|
| Output kata-katanya jelek, nadanya salah, formatnya salah | Prompting |
| Output salah secara faktual karena AI tidak punya datamu | RAG |
| Output butuh gaya yang sangat spesifik dan sulit dideskripsikan, dalam skala masif | Fine-tuning |
| Kamu menjalankan satu panggilan model per request dan itu lambat/mahal pada volume sangat besar | Fine-tuning (model lebih kecil) |
Sembilan dari sepuluh kali, kebutuhan bisnis yang sebenarnya ada di dua baris pertama.
Intinya
Jangan memulai percakapan fine-tuning vs rag vs prompting dengan bertanya "mana yang lebih canggih." Mulailah dengan menyebutkan kegagalan sebenarnya: kata-kata yang buruk, pengetahuan yang hilang, atau ekonomi skala. Satu pertanyaan itu saja hampir selalu mengarahkanmu ke anak tangga yang tepat, dan akan menyelamatkanmu dari membayar infrastruktur yang tidak kamu butuhkan. Kalau kamu ingin pendapat kedua soal di mana use case spesifikmu berada sebelum mengeluarkan biaya untuk RAG atau fine-tuning, itu percakapan yang layak dilakukan bersama partner yang sudah membangun keduanya.