AI: Mesin buat keputusan, manusia tanggung akibat

Di pusat data yang beroperasi tanpa henti, deretan server berkelip memproses berjuta-juta baris data dalam senyap. Tiada pegawai bank yang membelek dokumen atau berbincang di meja mesyuarat.

Keputusan kewangan kini lahir daripada baris kod dan model statistik, bukan daripada pertimbangan manusia.

Dalam masa beberapa saat, sistem memutuskan siapa yang layak mendapat pinjaman, siapa yang ditolak, dan siapa yang dianggap berisiko tinggi.

Banyak keputusan kewangan yang dahulunya bergantung pada pengalaman dan budi bicara pegawai bank kini diambil alih oleh kecerdasan buatan (AI).

Teknologi ini bukan sahaja mengesan penipuan dan menilai risiko pelaburan, malah telah menjadi ‘penjaga pintu’ utama dalam menentukan kelulusan kredit serta melayani jutaan pertanyaan pelanggan setiap hari.

Daripada Pegawai Bank Kepada Baris Kod

Data Bank Negara Malaysia (BNM) menunjukkan bahawa pada 2024, 71% bank dan institusi kewangan telah menggunakan sekurang-kurangnya satu aplikasi AI, meningkat daripada 56% pada tahun sebelumnya.

Dalam industri insurans dan takaful, kadar penggunaan mencecah 77%. Bagi pengguna biasa, ini bermakna kemungkinan besar anda sudah berinteraksi dengan AI tanpa menyedarinya.

Perubahan ini bukan hanya soal teknologi, tetapi menyentuh masa depan kewangan anda — siapa yang membuat keputusan tentang pinjaman anda, dan sama ada sistem itu benar-benar adil kepada semua orang.

AI: Bijak Dalam Angka, Buta Dalam Nilai

AI boleh menganalisis berjuta-juta rekod dalam masa beberapa saat. Ia mengenal pasti pola dalam data untuk membuat ramalan atau keputusan. Keupayaan ini sangat membantu institusi kewangan kerana ia mempercepat proses, mengurangkan kos operasi, dan mengesan penipuan dengan lebih berkesan.

Namun, AI tidak memahami nilai kemanusiaan. Ia memproses kebarangkalian, bukan kewajaran. Jika data sejarah yang digunakan untuk melatih AI mempunyai bias, sistem akan mengulangi bias itu.

Sebagai contoh, seorang peniaga kecil di luar bandar mungkin tidak mempunyai rekod kredit rasmi. Sistem AI yang menilai permohonannya hanya melihat kekurangan data tersebut dan terus menolak pinjaman, tanpa mempertimbangkan kemampuan sebenar atau potensi perniagaannya.

BNM memberi amaran bahawa model “kotak hitam” yang tidak boleh menjelaskan bagaimana keputusan dibuat menimbulkan masalah kebolehjejak audit. Sebagai pengguna, anda perlu tahu bahawa jika sistem membuat kesilapan, tanggungjawab mesti jelas — sama ada di pihak pembangun teknologi, penyedia data, atau institusi yang menggunakannya.

Risiko Apabila Semua Orang Menggunakan Model Sama

Satu lagi risiko besar ialah keseragaman digital. Jika hampir semua bank menggunakan model AI asas dan data yang sama, mereka akan bertindak serentak apabila berlaku tekanan pasaran.

Fenomena ini, yang dipanggil procyclicality dan herding behaviour, boleh memburukkan krisis kewangan kerana tindakan panik akan berlaku serentak.

Bagi pengguna, ini bermakna jika berlaku ketidaktentuan ekonomi, akses kredit atau pelaburan anda boleh terjejas secara meluas kerana semua institusi bertindak mengikut logik yang sama.

GenAI: Meyakinkan Tetapi Tidak Selalu Betul

Generative AI (GenAI) kini semakin digunakan dalam sektor kewangan, terutamanya untuk proses e-KYC, khidmat pelanggan, dan penilaian tuntutan insurans. Ia mampu memberikan jawapan yang kelihatan meyakinkan.

Masalahnya, GenAI boleh menghasilkan maklumat yang salah atau hallucination — iaitu jawapan palsu yang disampaikan dengan keyakinan tinggi.

Dalam kewangan, kesilapan seperti ini boleh membawa kesan besar. Satu arahan transaksi yang salah boleh menyebabkan kerugian besar, masalah undang-undang, atau reputasi yang rosak.

Sebagai pengguna, anda berhak tahu jika keputusan yang melibatkan kewangan anda dibuat sepenuhnya oleh sistem autonomi atau telah disemak oleh manusia.

Tadbir Urus dan Hak Anda Sebagai Pengguna

BNM telah menetapkan prinsip keadilan, ketelusan, kebolehterangan, kebolehpercayaan, dan keselamatan sebagai asas penggunaan AI dalam kewangan.

Ini bukan hanya garis panduan untuk bank, tetapi juga isyarat kepada anda sebagai pengguna bahawa anda berhak menuntut penjelasan dan ketelusan daripada pihak yang menguruskan kewangan anda.

AI Governance Framework yang dibangunkan CRO Forum pada 2024 menekankan keperluan ujian bias secara konsisten, jejak audit yang jelas, dan pemantauan berterusan. Ia juga selaras dengan prinsip parity, proportionality, dan neutrality BNM yang memastikan risiko dikawal setimpal dengan tahap ancamannya, serta teknologi dinilai secara objektif.

Jurang Digital dan Keterangkuman Kewangan

Bagi negara sedang membangun seperti Malaysia, jurang digital adalah isu kritikal. AI yang tidak dibangunkan secara inklusif boleh mencipta sistem kewangan dua lapis.

Golongan yang mempunyai rekod data kukuh akan mendapat akses yang lebih baik, sementara yang kurang diwakili akan terus tertinggal.

Inilah sebabnya mengapa dasar keterangkuman kewangan mesti bergerak seiring dengan inovasi teknologi. Sistem kewangan tidak boleh dibina hanya berdasarkan logik algoritma; ia mesti mengambil kira realiti sosial pengguna.

Anda Sebagai Benteng Pertahanan

Sebagai pengguna, literasi digital adalah perisai anda. Anda perlu tahu bahawa:

• Anda berhak meminta penjelasan jika keputusan kewangan memberi kesan besar kepada anda.

• Anda boleh mencabar keputusan AI jika anda percaya ia salah.

• Anda berhak tahu sama ada keputusan dibuat sepenuhnya oleh sistem atau telah disemak manusia.

Tanpa kesedaran ini, AI berisiko menjadi alat dominasi, bukan pemerkasaan.

Membentuk Masa Depan AI Kewangan yang Adil

BNM menggalakkan pembangunan win-win-win use cases yang memberi manfaat kepada pengguna, institusi, dan dasar negara.

Contohnya, pengesanan penipuan masa nyata yang melindungi wang anda, atau aplikasi pengurusan kewangan peribadi berasaskan kebenaran data yang membantu anda merancang masa depan.

Cabaran tetap ada. Kekurangan bakat AI, integrasi teknologi dengan sistem lama, dan isu kesediaan data masih membelenggu industri.

Risiko seperti automasi berlebihan, serangan data poisoning, penyalahgunaan deepfake, dan kesan alam sekitar akibat pusat data berintensiti tenaga memerlukan kawalan yang teliti.

AI yang Mempunyai Jiwa: Impian atau Keperluan?

Teknologi boleh diperhalusi, data boleh dibersihkan, dan sistem boleh dipercepat. Tetapi jika nilai keadilan dan tanggungjawab tidak tertanam dalam reka bentuknya, AI akan kekal sebagai mesin tanpa jiwa.

Malaysia wajar mempertimbangkan AI Financial Integrity Code yang menetapkan piawaian ketelusan, kebolehjejak audit, dan akauntabiliti sebagai syarat wajib.

Masa depan kewangan bukan sahaja tentang kelajuan sistem, tetapi tentang memastikan setiap keputusan — sama ada oleh manusia atau mesin — berpihak kepada keadilan dan keterangkuman. - DagangNews.com

Wan Mohd Farid Wan Zakaria merupakan Pensyarah Kanan di Fakulti Pengurusan dan Perniagaan, Universiti Teknologi MARA (UiTM) Cawangan Johor