Halusinasi AI di Bank: Risiko Terbesarnya Rasa Malu
Halusinasi AI di perbankan biasanya dibahas sebagai masalah keamanan. Bagi orang yang memakai AI di level atas bank, risiko terbesarnya justru personal: angka buatan AI yang diulang di rapat komite, lalu ternyata salah.
Pencurian data adalah urusan kebijakan yang dipegang IT dan kepatuhan. Rasa malu jatuh ke satu orang, di satu rapat, di depan kolega yang kepercayaannya dibangun bertahun-tahun. Karena itu bankir senior berhenti memakai sebuah tool setelah satu angka salah, jauh sebelum ada kebocoran.
Kenapa satu angka salah bisa mengakhiri semuanya?
Board pack dibangun di atas kepercayaan yang mengalir ke atas. Analis percaya sumbernya, direksi percaya analisnya, dewan percaya direksinya. Angka hasil halusinasi memutus rantai itu di puncak, tempat paling terlihat dan paling sulit diperbaiki.
Biayanya bukan kesalahan itu sendiri. Kesalahan bisa dikoreksi. Biayanya adalah sepuluh menit berikutnya di rapat, saat semua orang bertanya-tanya apa lagi yang salah di dokumen itu. Setelah itu, direksi akan mengecek setiap hasil AI secara manual, dan tool yang harus dicek baris per baris sudah tidak menghemat waktu.
**AI tidak kehilangan kepercayaan bankir pelan-pelan. Ia kehilangannya dalam satu rapat.**
Angka tanpa sumber adalah beban, bukan jawaban
Solusinya bukan model yang lebih pintar. Solusinya aturan: tidak ada angka tanpa sumber. Setiap rasio, suku bunga, dan angka peer harus bisa ditelusuri ke laporan keuangan, laporan tahunan, atau rilis regulator asalnya, kalau bisa sampai halamannya.
Regulator bergerak ke arah yang sama. Pedoman tata kelola AI perbankan dari OJK, diluncurkan 29 April 2025, meminta bank menjalankan AI secara aman dan dengan manajemen risiko yang efektif. Di Singapura, pedoman MAS yang terbit 7 Oktober 2026 menegaskan lembaga keuangan tetap bertanggung jawab atas AI pihak ketiga yang dipakai. Keduanya tidak menerima "kata AI-nya begitu" sebagai jawaban.
**Kalau kamu tidak bisa mengeklik sampai ke asal sebuah angka, angka itu belum siap untuk direksi.**
Tanggal sama pentingnya dengan sumber
Angka yang ada sumbernya pun bisa mempermalukan kalau sudah basi. Suku bunga, biaya dana, dan kinerja peer bergerak setiap kuartal. Angka benar dari kuartal lalu, disajikan seolah terbaru, tetap angka yang salah.
Jadi aturan kedua: tanggal di semua angka yang bergerak. "Per kuartal II 2026", "menurut laporan 30 September". Kedengarannya rewel, sampai hari ketika orang di seberang meja menyebut angka yang lebih baru.
**Di ruang rapat, angka benar dari kuartal yang salah tetap angka yang salah.**
Bereskan kesalahan kecil sebelum menambah fitur
Halusinasi jadi berita utama, tapi bankir lebih dulu kehilangan kesabaran karena hal kecil. Balasan yang masuk ke percakapan yang salah. Pesan yang terkirim dua kali. Ringkasan yang mengabaikan instruksi lima menit sebelumnya.
Tidak ada yang dramatis. Tapi masing-masing memberi tahu orang yang teliti bahwa tool ini tidak teliti. Untuk asisten yang hidup di aplikasi chat, keandalan bukan metrik di belakang layar. Itulah produk yang dirasakan direksi setiap hari.
**Pengguna senior memaafkan fitur yang belum ada. Mereka tidak memaafkan yang ceroboh.**
Jawab pertanyaannya, tanpa ceramah
Sumber malu terakhir adalah asistennya sendiri. Bankir bertanya dengan tepat dan berharap jawaban yang tepat. Asisten yang menambahkan disclaimer yang tidak diminta, catatan moral, atau paragraf soal "berkonsultasi dengan profesional" membuat orang senior merasa diatur.
Tandai risiko kalau memang ada. Selebihnya, jawab yang ditanya, tunjukkan sumbernya, selesai. Itu standar yang kami pegang untuk Rapi™, dan standar yang layak untuk analis AI mana pun. Cara mengujinya ada di cara menguji analis AI.
**Tujuannya bukan AI yang terdengar hati-hati. Tujuannya AI yang membuat kamu terlihat hati-hati.**
Sumber
- Monetary Authority of Singapore: MAS Sets Out Supervisory Expectations on Responsible AI Adoption by Financial Institutions (7 October 2026)
- Monetary Authority of Singapore: Consultation Paper on Guidelines on Artificial Intelligence Risk Management
- Otoritas Jasa Keuangan: Peluncuran Tata Kelola Kecerdasan Artifisial Perbankan Indonesia (SP 67/GKPB/OJK/IV/2025)
- Otoritas Jasa Keuangan: Tata Kelola Kecerdasan Artifisial Perbankan Indonesia
Common questions
- Apa itu halusinasi AI di perbankan?
- Halusinasi AI adalah angka, fakta, atau rujukan yang disajikan AI dengan yakin tapi tidak didukung sumber apa pun. Di perbankan, versi yang merugikan adalah rasio, suku bunga, atau angka peer yang masuk ke board pack atau rapat komite lalu ternyata salah atau sudah tidak berlaku.
- Bagaimana bank bisa mengurangi risiko halusinasi AI?
- Tetapkan dua aturan untuk setiap hasil AI yang dipakai dalam dokumen keputusan: setiap angka harus tertaut ke dokumen sumbernya, idealnya sampai halaman, dan setiap angka yang berubah dari waktu ke waktu harus bertanggal. Uji tool-nya dengan pertanyaan nyata sebelum dipakai luas, dan tetap ada orang yang bertanggung jawab atas apa yang diteruskan.
- Apakah OJK mengatur penggunaan AI di bank?
- OJK meluncurkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia pada 29 April 2025 sebagai acuan bagi bank untuk mengembangkan dan memakai AI secara bertanggung jawab dan aman, dengan manajemen risiko yang efektif. Pedoman ini melengkapi aturan teknologi informasi bank yang sudah berlaku.
