AI Makin Masif di Perbankan, Ini Pentingnya Tata Kelola Data

Transformasi digital di sektor keuangan Indonesia tengah berlangsung pesat. Perkembangan teknologi, terutama data dan Artificial Intelligence (AI), mendorong perubahan besar dalam cara industri perbankan, asuransi, pasar modal, hingga perusahaan fintech mengelola bisnisnya. Data kini tidak lagi sekadar hasil sampingan operasional, melainkan telah menjadi aset strategis yang menentukan daya saing dan keberlanjutan usaha di era ekonomi digital.

Isu tersebut mengemuka dalam focus group discussion bertajuk “Data & AI Financial Sector” yang menghadirkan salah satu pakar global di bidang tata kelola data dan kecerdasan buatan, Dr. Tejasvi Addagada, Senior Vice President – AI & Gen AI Governance di HDFC Bank Limited, India.

Dalam paparannya, Tejasvi menekankan bahwa adopsi kecerdasan buatan, khususnya Large Language Model (LLM) dan Generative AI (GenAI), harus disertai dengan kerangka tata kelola yang kuat. Tanpa pengendalian yang tepat, AI justru berpotensi menimbulkan risiko reputasi, hukum, hingga operasional bagi institusi keuangan.

“AI memiliki potensi besar untuk meningkatkan layanan keuangan, tetapi tanpa tata kelola yang tepat, risikonya juga sangat besar—baik secara operasional, hukum, maupun reputasi,” ujarnya.

Tata Kelola Pengendalian AI

Tejasvi menjelaskan bahwa tata kelola AI perlu dibangun di atas empat fondasi utama. Pertama adalah tata kelola AI fundamental, yang mencakup kebijakan, standar, dan struktur pengawasan. Kedua, tata kelola operasional, yang memastikan AI berjalan sesuai prosedur dan tujuan bisnis.

Pilar ketiga adalah integritas pengambilan keputusan, yakni kemampuan AI untuk menghasilkan keputusan yang dapat dijelaskan, adil, dan dapat dipertanggungjawabkan. Pilar terakhir adalah AI yang berpusat pada manusia dan etika, yang menempatkan kepentingan nasabah dan masyarakat sebagai prioritas utama.

Lebih lanjut, Tejasvi menjelaskan bahwa integrasi LLM di sektor keuangan harus dilakukan secara bertanggung jawab, dapat dijelaskan (explainable), dan transparan. Dalam konteks ini, tata kelola LLM dibagi ke dalam tiga area utama.  Pertama, manajemen risiko dan nilai, yang bertujuan melindungi bank dari dampak reputasi. Pendekatannya mencakup model manajemen risiko dan tata kelola kontrol yang terstruktur.

Kedua, kepatuhan terhadap peraturan, yang fokus melindungi bank dan nasabah dari risiko operasional. Hal ini mencakup privasi, tata kelola data, kepatuhan hukum, dan etika. Ketiga, tata kelola life cycle AI, yang berfokus pada perlindungan dari konsekuensi hukum jangka panjang. Aspeknya meliputi kejelasan penggunaan AI, keamanan sistem, serta pemantauan dan audit berkelanjutan.

AI TRiSM dan Penguatan Tata Kelola Data

Selain itu, Tejasvi juga menyoroti pentingnya pendekatan AI TRiSM (Trust, Risk, and Security Management). Dalam pendekatan ini, tata kelola data menjadi elemen krusial, mulai dari kepemilikan data, persetujuan, alur kerja, audit, hak penggunaan data, pemrosesan data pribadi, hingga manajemen informasi sensitif seperti PII dan SPDI. Penilaian dan pemantauan kualitas data juga menjadi syarat utama agar AI dapat menghasilkan keputusan yang akurat dan adil.

Di sisi lain, tata kelola juga mencakup model AI, aplikasi AI, dan agen AI. Proses ini melibatkan penilaian dan evaluasi model, dokumentasi yang jelas, deteksi aktivitas anomali, perbaikan otomatis, perlindungan data melalui klasifikasi dinamis, hingga pertahanan AI saat runtime. Semua itu diperlukan untuk mencegah penyalahgunaan dan memastikan AI tetap beroperasi dalam batas yang aman.

Semua pendekatan ini bertujuan memastikan AI tidak hanya cerdas, tetapi juga aman dan dapat dipercaya. Menurut Tejasvi, di era ekonomi digital, keberhasilan transformasi sektor keuangan tidak hanya ditentukan oleh seberapa cepat mengadopsi AI, tetapi juga seberapa matang tata kelola data dan risiko yang diterapkan. “AI yang bertanggung jawab adalah AI yang selaras dengan nilai bisnis, etika, dan kepentingan manusia,” ujarnya.

Bagi industri keuangan Indonesia, pesan ini menjadi pengingat penting bahwa investasi teknologi harus berjalan beriringan dengan penguatan tata kelola. Dengan begitu, potensi AI dapat dimaksimalkan tanpa mengorbankan kepercayaan publik dan stabilitas sistem keuangan.