a16z soal AI Agent: Pelajaran untuk Pemimpin Keuangan

Kepercayaan jadi kekhawatiran utama, dan keuangan menunggunya

Pawlan mengelola grup chat para pengguna berat AI. Dari sekitar 3.600 pesan, katanya, 22% menyebut kepercayaan sebagai kekhawatiran utama. Ia mengelompokkan asisten yang diujinya ke empat jenis: umum, kerja, multiplayer, dan perjalanan. Keuangan tidak ada. Menurutnya, itu satu-satunya yang belum benar-benar terwujud.

Bacaan kami: itu bukan kebetulan. Orang menyerahkan reservasi restoran ke agent jauh sebelum menyerahkan neraca. Keuangan bergerak paling akhir karena biaya kesalahannya paling tinggi, dan karena itu juga asisten pertama yang dipercaya bankir akan sulit digantikan.

**Keuangan tidak tertinggal soal AI. Keuangan sedang menunggu alasan untuk percaya.**

“If we can solve that trust layer, then what do we end up seeing on more of like the finance side of stuff?”

Ketakutan sebenarnya rasa malu, bukan pencurian data

Para host membantah angka itu dengan poin yang lebih tajam. Orang bilang khawatir soal privasi, tapi tetap menyambungkan rekening bank demi keuntungan kecil. Yang benar-benar mereka takutkan adalah dipermalukan. Contohnya: agent pribadi yang nyasar ke urusan kantor dan memposting keuangan pemiliknya ke Slack perusahaan.

Bagi bankir, rasa malu punya bentuk yang jelas: angka salah yang diulang di depan direksi. Karena itu setiap angka dari analis AI harus punya sumber dan tanggal, dan kesalahan dasar, seperti balasan yang masuk ke chat yang salah, lebih merusak kepercayaan daripada fitur yang belum ada.

**Tidak ada yang berhenti memakai AI karena kebijakan privasi. Orang berhenti setelah satu rapat yang memalukan.**

Pagar, bukan kebebasan tanpa batas

Episode ini memakai analogi untuk izin agent: anak di halaman terbuka harus terus diawasi, tapi pasang pagar, dan anak itu bisa bebas bermain di dalamnya. Agent bebas penuh di dalam batas yang jelas. Poin yang dibahas: agent pribadi boleh menjangkau saluran pribadi, bukan saluran kantor.

Bank sudah lama hidup dengan pagar. Chinese wall memisahkan tim transaksi dari riset dan trading. Analis AI butuh sekat yang sama sejak awal: memori per orang, per tim, dan per percakapan, dan tidak ada yang dibagikan satu orang dipakai untuk menjawab orang lain.

**Agent terbaik bukan yang aksesnya paling luas. Agent terbaik yang pagarnya tepat.**

Penilaian berarti memegang dua batasan sekaligus

Tes paling tajam Pawlan meminta asisten mengirim bunga hari itu juga, semurah mungkin. Kebanyakan menemukan pengiriman hari yang sama dan diam-diam melupakan harga. Hanya tiga, katanya, yang memberi bobot setara pada dua tujuan itu. Pertanyaannya: apakah agent hanya memprioritaskan hal pertama yang kamu sebut?

Bankir bertanya dengan dua batasan sepanjang hari. Singkat tapi lengkap. Angka terbaru, tapi hanya dari sumber resmi. Asisten yang memegang satu dan membuang yang lain menghasilkan brief yang harus ditulis ulang, dan itu lebih buruk daripada tidak ada brief sama sekali.

**Mengikuti satu instruksi itu kotak pencarian. Menyeimbangkan dua itu analis.**

Memori bisa dibawa pindah, jadi kualitas satu-satunya parit

Pawlan meminta 15 asisten teratas di benchmark-nya mengekspor semua yang mereka ingat tentang dirinya supaya ia bisa pindah. Semua kecuali satu bersedia. Menempelkan file memori dari satu asisten ke asisten lain, kata salah satu host, kini jadi pola onboarding yang umum.

Bacaan kami: asisten bisa mengenal pengguna baru di hari pertama, dan kehilangannya secepat itu juga. Tidak ada lagi kunci. Satu-satunya alasan bertahan adalah hasil kerja yang lebih baik. Episode ini juga memberi peringatan: seorang host dengan 30 tahun pengalaman di produk konsumen bilang sikap menggurui membunuh produk apa pun.

**Kalau memorimu bisa pergi dalam semenit, kualitasmu harus terus membuktikan diri.**

Wewenang yang didelegasikan adalah konsep perbankan

Episode 15 Oktober bersama Alex Rampell dan Terry Angelos dari VGS bertanya siapa yang menanggung saat agent dengan wewenang delegasi salah melakukan pembayaran. Regulator sudah menjawab versi institusinya. OJK lewat pedoman tata kelola AI perbankan sejak April 2025 dan MAS lewat pedoman 7 Oktober 2026 sama-sama menuntut AI dipakai secara bertanggung jawab.

Jadi bank bisa mendelegasikan analisisnya, tidak tanggung jawabnya. Itu standar yang kami pakai untuk Rapi™: analis AI pribadi di WhatsApp yang setiap angkanya ada sumbernya, supaya direksi yang meneruskannya bisa mempertanggungjawabkannya. Lebih lanjut di alternatif ChatGPT untuk eksekutif.

**Pekerjaannya bisa didelegasikan. Tanggung jawabnya tidak.**

Kekuatan rahasia, versi bankir

Episode ini ditutup dengan gagasan agent sebagai kekuatan rahasia. Untuk pemimpin keuangan, artinya sederhana: masuk rapat komite sebagai orang paling siap di ruangan, tanpa begadang. Sebelum agent menyentuh pekerjaan direksi, tanyakan tiga hal. Apakah ia memegang dua batasan? Apakah setiap angka ada sumber dan tanggalnya? Bisakah kamu menelusuri apa yang ia baca?

Kalau jawabannya kabur, agent di episode ini cocok untuk akhir pekanmu. Belum cocok untuk hari Senin.