Kebanyakan bisnis yang saya temui menjalankan semua tugas lewat model AI yang sama, biasanya yang paling mahal yang bisa mereka akses, karena tidak ada yang membuat aturan untuk opsi lain. Memilih model AI untuk kebutuhan bisnis bukan keputusan sekali jalan. Ini kebiasaan operasional, sama seperti Anda tidak akan menaruh engineer paling senior untuk entri data, atau intern untuk rapat arsitektur sistem.
Saya menjalankan kebiasaan routing tiga tier di setiap workflow AI yang saya pegang, dari chatbot klien sampai pemrosesan dokumen internal. Model light menangani kerja kasar, model standard menangani pekerjaan pengetahuan sehari-hari, dan model reasoning disimpan untuk segelintir tugas yang benar-benar butuh analisis mendalam. Pendekatan ini saja memangkas pengeluaran AI 40-60% di sebagian besar setup yang pernah saya audit, tanpa mengorbankan kualitas output di bagian yang penting.
Kesalahannya adalah memperlakukan pemilihan model sebagai detail teknis yang diurus vendor. Ini adalah tuas biaya dan kualitas yang Anda kendalikan, dan salah memutuskannya bisa membakar budget untuk tugas yang tidak membutuhkannya, atau lebih buruk lagi, memakai model murah di titik yang justru membutuhkan penilaian tajam.
Kenapa satu model untuk semua justru gagal
Setup satu tier gagal ke dua arah sekaligus. Pakai model reasoning kelas atas untuk mengklasifikasikan email masuk atau mengekstrak data dari invoice, dan Anda membayar tarif premium untuk kerja yang bisa dilakukan model jauh lebih murah dengan akurasi yang sama. Pakai model ringan dan cepat untuk analisis risiko keuangan atau review kontrak, dan Anda mendapat jawaban yang salah tapi percaya diri, terlihat baik-baik saja sampai ada orang di hilir yang bertindak berdasarkan jawaban itu.
Saya pernah melihat sebuah perusahaan multifinance menjalankan setiap pertanyaan nasabah, dari "berapa saldo saya" sampai "apakah pinjaman ini perlu direstrukturisasi," lewat model berbiaya tinggi yang sama. Tagihannya bisa ditebak. Kualitas penilaian di kasus-kasus sulit tidak membaik karenanya, sebab yang jadi bottleneck bukan modelnya, melainkan prompt dan prosesnya.
Tiga tier, ditentukan oleh tingkat kesulitan tugas
Anggap ini seperti tangga perekrutan, bukan lembar spesifikasi teknis.
- Tier light (cepat, murah, volume tinggi): klasifikasi, pelabelan, ekstraksi sederhana, draft singkat, keputusan routing, penandaan sentimen, ringkasan awal. Jika seorang manusia bisa mengerjakan tugas ini dengan benar dalam waktu kurang dari 10 detik tanpa berpikir keras, model light bisa melakukannya.
- Tier standard (seimbang): pekerjaan pengetahuan sehari-hari, menulis draft email dan laporan, menjawab pertanyaan pelanggan dengan konteks, perubahan kode di bagian codebase yang sudah dipahami dengan baik, ringkasan meeting yang butuh nuansa. Ini default Anda untuk apa pun yang akan dikerjakan staf yang kompeten tanpa perlu eskalasi.
- Tier reasoning (lambat, mahal, taruhan tinggi): analisis multi-langkah, penilaian risiko keuangan atau hukum, keputusan arsitektur, debugging masalah produksi yang rumit, apa pun yang berisiko mahal jika salah dan membutuhkan penimbangan trade-off. Simpan tier ini seperti Anda menyimpan waktu seorang senior engineer.
Tabel keputusan berdasarkan jenis tugas
| Tugas | Tier | Alasan |
|---|---|---|
| Mengkategorikan tiket support | Light | Volume tinggi, ambiguitas rendah |
| Mengekstrak data dari invoice hasil scan | Light | Pencocokan pola, bukan penilaian |
| Menulis draft follow-up email ke pelanggan | Standard | Butuh nada bicara dan konteks |
| Meringkas transkrip meeting | Standard | Butuh nuansa, bukan penalaran mendalam |
| Menulis atau mereview kode produksi | Standard, eskalasi ke Reasoning untuk arsitektur | Tergantung cakupannya |
| Menilai risiko restrukturisasi pinjaman | Reasoning | Taruhan tinggi, penilaian multi-faktor |
| Merancang rencana migrasi sistem | Reasoning | Trade-off jangka panjang |
| Menulis draft awal caption marketing | Light | Volume lebih penting daripada presisi |
Jika Anda tidak yakin tugas mana masuk baris yang mana, tanyakan apa yang terjadi kalau model salah. Kalau cuma perlu sedikit pengerjaan ulang, pakai tier light. Kalau risikonya nyata secara finansial atau reputasi, pakai tier reasoning.
Membangun ini ke dalam operasional, bukan sekadar prompt
Routing tiga tier hanya berhasil kalau ini jadi keputusan tetap, bukan sesuatu yang didebat ulang setiap kali ada yang membuka fitur AI baru. Tanamkan ini ke dokumentasi internal Anda: tool atau endpoint mana yang masuk ke tier mana, dan siapa yang boleh mengeskalasi tugas ke tier lebih tinggi tanpa perlu persetujuan.
Bagi tim yang sudah menghadapi eksposur vendor AI, ini juga mengurangi blast radius. Jika Anda bergantung pada satu provider untuk semua tier, baca Drama OpenAI Adalah Alarm Risiko Vendor yang Perlu Anda Dengar untuk memahami kenapa konsentrasi semacam itu sendiri adalah risiko yang perlu diperhitungkan.
Review tiering Anda setiap kuartal, bukan karena tiernya sering berubah, tapi karena volume tugas bergeser. Tugas yang enam bulan lalu masih cukup jarang untuk dirutekan manual ke tier reasoning, mungkin sekarang sudah cukup sering hingga layak punya workflow tier standard khusus dengan prompting yang lebih baik.
Intinya
Cocokkan model dengan pekerjaannya, bukan pekerjaan dengan model apa pun yang kebetulan sedang terbuka. Jalankan model light untuk volume, model standard untuk kerja harian, model reasoning untuk segelintir keputusan yang benar-benar mahal kalau salah. Tuliskan aturan routingnya sekali, terapkan secara konsisten, dan Anda akan memangkas biaya AI secara berarti sambil tetap menjaga keputusan bertaruhan tertinggi di tangan model yang memang dibuat untuk menanganinya.