Semua orang ingin membicarakan di mana menggunakan AI. Hampir tidak ada orang yang ingin membicarakan kapan sebaiknya tidak menggunakan AI dalam bisnis, dan diam itu mahal harganya. Saya telah menyaksikan perusahaan menghabiskan anggaran dan kredibilitas dengan mengotomatisasi proses yang salah, kemudian menghabiskan lebih banyak uang untuk membatalkannya daripada yang dapat dihemat oleh otomatisasi. Mengatakan tidak lebih awal adalah keterampilan dengan leverage yang lebih tinggi.
Gagasan untuk mengadopsi AI selalu digambarkan sebagai sisi positifnya: lebih cepat, lebih murah, dan terukur. Apa yang dilewati oleh pembingkaian ini adalah bahwa mode kegagalan AI berbeda dari mode kegagalan manusia, dan dalam situasi tertentu perbedaan tersebut mengubah ide bagus menjadi sebuah kerugian. Ini bukanlah posisi anti-AI. Ini masalah penargetan. Arahkan AI pada tugas yang salah dan Anda akan mendapatkan jawaban yang percaya diri, cepat, dan salah dalam skala besar, yang lebih buruk daripada jawaban yang lambat dan benar.
Berikut adalah empat situasi di mana saya meminta klien untuk menunda, dan pohon keputusan yang dapat Anda jalankan dalam lima menit sebelum proyek AI Anda berikutnya.
Empat Situasi Saat AI Menambah Risiko Daripada Memanfaatkan
1. Keputusan yang tidak dapat diubah. Apa pun yang keluarannya salah tidak dapat diperbaiki secara diam-diam adalah kandidat yang buruk untuk AI tanpa pengawasan. Menyetujui pencairan pinjaman, memberhentikan karyawan, mengeluarkan pemberitahuan hukum, menghapus catatan pelanggan. Keputusan-keputusan ini membutuhkan manusia yang memiliki konsekuensi, karena “keputusan AI” bukanlah jawaban yang akan diterima oleh regulator, pengadilan, atau pelanggan yang marah. AI dapat menyiapkan analisisnya. Seharusnya tidak menahan pena pada panggilan terakhir.
2. Data yang tipis atau tidak representatif. Sistem AI, terutama yang Anda sesuaikan atau gunakan dengan data Anda sendiri, hanya akan berfungsi jika sistem tersebut dilatih atau dijadikan dasar. Jika Anda memiliki 40 contoh historis dari suatu jenis keputusan, sistem AI akan dengan yakin mengekstrapolasi pola yang sebenarnya tidak ada, dan Anda tidak akan dapat membedakan antara pola nyata dan gangguan hingga hal tersebut merugikan pelanggan. Ini adalah masalah ambang batas volume, bukan masalah teknologi: beberapa proses belum menghasilkan cukup data untuk diotomatisasi secara bertanggung jawab. Bacaan terkait: Penyempurnaan vs Anjuran: Apa yang Sebenarnya Dibutuhkan UKM mencakup ambang batas data ini secara lebih mendalam.
3. Paparan peraturan. Dalam bidang jasa keuangan, layanan kesehatan, dan penanganan data konsumen yang semakin meningkat di Indonesia, ada keputusan yang harus dibuat oleh pembuat keputusan yang terdokumentasi dan bertanggung jawab berdasarkan hukum atau berdasarkan kontrak dengan regulator Anda. Mengotomatiskan penilaian kredit, triase medis, atau persetujuan kepatuhan tanpa jejak akuntabilitas manusia yang jelas bukanlah risiko teknis, melainkan risiko hukum. Jika kepatuhan atau penasihat hukum Anda tidak dapat menjawab dengan jelas "siapa yang bertanggung jawab jika ini salah", jangan otomatiskan langkah tersebut, tidak peduli seberapa bagus model tersebut terlihat dalam pengujian.
4. Tugas-tugas lebih murah dilakukan secara manual pada volume saat ini. Ini adalah hal yang tidak ingin didengar oleh siapa pun karena mengganggu narasi otomatisasi. Jika suatu tugas dilakukan 12 kali sebulan dan membutuhkan waktu 20 menit bagi admin setiap kali mengerjakannya, maka itu berarti 4 jam sebulan. Membangun, menguji, dan memelihara sistem AI untuk tugas tersebut akan memerlukan lebih banyak waktu rekayasa dan pemantauan berkelanjutan dibandingkan hanya membayar seseorang untuk melakukannya. Otomatisasi AI memiliki biaya tetap untuk membangun dan biaya marjinal untuk pemeliharaan; di bawah ambang batas volume tertentu, biaya tetap tidak akan pernah terbayar kembali. Jangan mengotomatisasi demi mengotomatisasi. Otomatiskan jika volume membenarkannya.
Pohon Keputusan Lima Menit
Jalankan proses kandidat apa pun melalui ini sebelum melakukan anggaran:1. Apakah keputusan tersebut dapat dibatalkan? Jika tidak, manusia tetap berada di kursi persetujuan akhir. AI masih dapat membuat draf atau merekomendasikan. 2. Apakah Anda memiliki cukup contoh sejarah nyata (biasanya ratusan, bukan lusinan) untuk mendasari sistem? Jika tidak, tunggu, atau mulailah mengumpulkan data terlebih dahulu, jangan otomatis menebak-nebak. 3. Apakah ada regulator, auditor, atau kontrak yang mengharuskan adanya pengambil keputusan yang terdiri dari manusia? Jika ya, pertahankan AI sebagai asisten, bukan pengambil keputusan, dan dokumentasikan peran manusia dengan jelas. 4. Berapa biaya bulanan saat ini untuk melakukan hal ini secara manual (jam × tarif), dan apakah biaya tersebut jelas melebihi biaya pembuatan dan pemeliharaan otomatisasi? Jika biaya manualnya rendah, jangan lakukan otomatisasi dulu. Kunjungi kembali setelah volume bertambah.
Jika suatu proses lolos keempat pemeriksaan, maka proses tersebut merupakan kandidat otomatisasi yang kuat. Jika satu saja gagal, itu bukan alasan untuk meninggalkan AI sepenuhnya, melainkan alasan untuk membatasi keterlibatan AI: asisten, bukan pengambil keputusan, draft, bukan hasil akhir, dipantau, bukan tanpa pengawasan.
Seperti Apa Tata Kelola Pemerintahan yang Baik dari Hari ke Hari
Perusahaan yang melakukan hal ini tidak memiliki "komite AI" yang bertemu setiap triwulan dan menghasilkan dokumen kebijakan yang tidak dibaca oleh siapa pun. Mereka mempunyai kebiasaan: sebelum otomasi baru dikirimkan, seseorang menanyakan empat pertanyaan di atas dengan lantang, di dalam ruangan, dan jawabannya ditulis di samping proyek, tidak disimpan secara terpisah. Itu saja. Disiplinnya adalah melakukannya setiap saat, bukan pada kecanggihan kerangkanya.
Hal ini berkaitan dengan poin lebih luas yang saya sampaikan kepada klien: transformasi digital, termasuk adopsi AI, adalah keputusan kepemimpinan, bukan delegasi. Jika tidak ada senior yang bertanya "haruskah kita mengotomatisasi ini" sebelum "bisakah kita mengotomatiskannya", Anda akan mendapatkan portofolio otomatisasi yang secara teknis mengesankan dan sembrono secara strategis. Lebih lanjut tentang masalah kepemilikan di Transformasi Digital Adalah Masalah Bisnis, Bukan Masalah IT.
Kesimpulan Praktis
Disiplin untuk mengatakan tidak kepada AI di tempat yang tepat membuat jawaban ya dapat dipercaya. Sebelum proyek AI Anda berikutnya mendapatkan anggaran, selesaikan empat pertanyaan: reversibilitas, volume data, akuntabilitas peraturan, dan biaya aktual pada volume saat ini. Jika gagal, itu bukan jalan buntu, melainkan informasi tentang cara membatasinya atau kapan harus mengunjunginya kembali. Bisnis yang terdampak oleh AI biasanya bukanlah bisnis yang bergerak terlalu lambat. Merekalah yang pertama-tama mengotomatiskan hal yang salah dan harus menjelaskan alasannya kepada pelanggan, regulator, atau dewan direksi mereka sendiri.