Pentingnya Tata Kelola Data untuk Keamanan AI Perusahaan

Perkembangan Artificial Intelligence (AI), khususnya model bahasa besar atau large language model (LLM), membuka peluang baru bagi perusahaan untuk meningkatkan produktivitas, mengotomatisasi pekerjaan, dan mempercepat pengambilan keputusan. Teknologi ini memungkinkan perusahaan membangun chatbot internal, menganalisis data pelanggan, membantu tim penjualan, hingga mendukung layanan pelanggan secara lebih efisien.

Namun, di balik berbagai manfaat tersebut, terdapat tantangan yang tidak boleh diabaikan, yakni keamanan, privasi, dan pengelolaan data. Model AI hanya dapat menghasilkan jawaban yang relevan apabila didukung data yang memadai. Masalahnya, data yang digunakan untuk melatih atau menjalankan AI bisa mencakup informasi pribadi pelanggan, rahasia bisnis, dokumen internal, hingga kekayaan intelektual perusahaan.

Tanpa pengelolaan yang tepat, penggunaan AI justru dapat membuka celah kebocoran informasi, pelanggaran privasi, dan risiko hukum. Karena itu, tata kelola data menjadi fondasi penting untuk memastikan penerapan AI di lingkungan perusahaan berlangsung secara aman, bertanggung jawab, dan sesuai dengan peraturan yang berlaku.

Memahami Pentingnya Tata Kelola Data dalam AI

Secara sederhana, model AI bekerja dengan mempelajari pola dari data untuk menghasilkan prediksi, rekomendasi, atau jawaban berdasarkan masukan yang diterimanya. Prinsip ini juga berlaku pada LLM seperti ChatGPT dan berbagai model AI generatif lainnya.

Ketika perusahaan ingin menggunakan AI untuk kebutuhan internal, model tersebut dapat dihubungkan dengan data bisnis yang relevan. Sebagai contoh, perusahaan dapat mengembangkan chatbot yang membantu tim penjualan memperoleh informasi mengenai jumlah transaksi, perkembangan peluang bisnis, atau riwayat interaksi dengan pelanggan.

Teknologi serupa juga dapat diterapkan pada bidang sumber daya manusia (SDM), pemasaran, layanan pelanggan, hingga sektor kesehatan. Dengan akses terhadap informasi yang tepat, AI berpotensi membantu karyawan menyelesaikan pekerjaan lebih cepat dan meningkatkan kualitas layanan.

Meski demikian, penggunaan data perusahaan untuk mendukung AI harus disertai pengawasan yang memadai. Perusahaan perlu mengetahui dari mana data berasal, seberapa sensitif informasi tersebut, siapa yang berhak mengaksesnya, dan bagaimana data digunakan sepanjang siklus hidupnya.

Tata kelola data mencakup kebijakan, proses, standar, dan teknologi yang digunakan untuk memastikan data dikelola secara konsisten, aman, berkualitas, serta sesuai dengan kebutuhan bisnis dan ketentuan hukum.

Pendekatan ini menjadi bagian mendasar dari tata kelola AI. Perusahaan tidak cukup hanya memastikan model AI bekerja dengan baik, tetapi juga harus mengendalikan data yang digunakan untuk melatih, mengembangkan, dan menjalankan model tersebut.

Lima Risiko Penggunaan Data Sensitif untuk Melatih AI

Pemanfaatan data internal dapat meningkatkan kemampuan AI dalam menyelesaikan tugas tertentu. Namun, semakin sensitif data yang digunakan, semakin besar pula risiko yang harus dikelola perusahaan.

Berikut lima risiko utama yang perlu diperhatikan.

1. Risiko Privasi dan Identifikasi Ulang
   Data pribadi merupakan salah satu jenis informasi yang membutuhkan perlindungan ketat dalam penerapan AI. Informasi tersebut tidak selalu berupa nama lengkap, alamat, atau nomor identitas. Kombinasi beberapa informasi yang terlihat tidak berbahaya sekalipun dapat digunakan untuk mengidentifikasi seseorang.

   Ketika model AI dilatih menggunakan data pelanggan, terdapat risiko bahwa model dapat mengungkapkan kembali sebagian informasi sensitif melalui respons tertentu. Risiko ini bergantung pada karakteristik model, data pelatihan, metode penerapan, serta mekanisme perlindungan yang digunakan.

   Sebagai contoh, perusahaan dapat melatih model AI menggunakan riwayat transaksi dan interaksi pelanggan untuk memberikan rekomendasi yang lebih akurat. Namun, apabila informasi tersebut tidak dilindungi dengan baik, pengguna yang tidak berwenang berpotensi memperoleh informasi mengenai transaksi atau profil pelanggan lain. Masalah ini dapat menimbulkan konsekuensi serius, mulai dari hilangnya kepercayaan pelanggan hingga pelanggaran ketentuan perlindungan data pribadi.

   Untuk mengurangi risiko tersebut, perusahaan perlu mengklasifikasikan data berdasarkan tingkat sensitivitas, membatasi penggunaan informasi pribadi, serta menerapkan teknik perlindungan seperti penyamaran data (data masking), pseudonimisasi, dan anonimisasi apabila sesuai dengan kebutuhan.

2. Risiko Data dalam Konteks Percakapan AI
   Pengelolaan data untuk AI generatif tidak hanya berkaitan dengan data yang digunakan saat pelatihan awal. Informasi yang diberikan pengguna ketika berinteraksi dengan model juga perlu diperhatikan. Dalam praktiknya, LLM dapat menggunakan konteks percakapan untuk menyusun jawaban yang relevan. Bergantung pada arsitektur dan konfigurasi layanan, percakapan tersebut juga dapat disimpan, dicatat, atau digunakan untuk tujuan lain sesuai dengan kebijakan penyedia dan pengaturan yang berlaku.

   Situasi ini menimbulkan tantangan bagi perusahaan. Karyawan mungkin memasukkan kontrak bisnis, informasi keuangan, data pelanggan, atau dokumen internal ke dalam percakapan AI tanpa memahami bagaimana informasi tersebut diproses.

   Sebagai ilustrasi, seorang karyawan memasukkan laporan penjualan yang bersifat rahasia untuk meminta AI membuat ringkasan. Jika layanan yang digunakan tidak memiliki pengaturan perlindungan data yang sesuai, informasi tersebut dapat tersimpan atau diproses dengan cara yang tidak sejalan dengan kebijakan perusahaan.

   Penting untuk dipahami bahwa model AI tidak selalu memperbarui bobotnya atau belajar secara permanen dari setiap percakapan. Namun, konteks percakapan tetap dapat memengaruhi jawaban yang dihasilkan, sementara penyimpanan dan penggunaan data bergantung pada sistem yang digunakan.

   Oleh karena itu, perusahaan perlu mengatur data masukan, menentukan informasi yang boleh dibagikan kepada AI, serta menerapkan kebijakan retensi dan penghapusan data. Pemantauan juga diperlukan untuk memastikan informasi sensitif tidak digunakan di luar konteks dan kewenangan yang semestinya.

3. Risiko Keamanan dan Kontrol Akses
   Keamanan AI berkaitan erat dengan keamanan data yang mendukungnya. Model yang menggunakan informasi rahasia membutuhkan perlindungan yang sebanding dengan tingkat sensitivitas informasi tersebut. Dalam sistem perusahaan konvensional, akses terhadap data biasanya diatur berdasarkan jabatan, tanggung jawab, atau kebutuhan pekerjaan. Seorang staf penjualan, misalnya, mungkin hanya diperbolehkan mengakses data pelanggan yang berkaitan dengan wilayah atau portofolio bisnisnya.

   Ketika AI diintegrasikan dengan berbagai sumber data, pengaturan akses tersebut menjadi lebih kompleks. Apabila model dapat mengambil informasi dari dokumen yang tidak boleh diakses oleh pengguna tertentu, sistem berpotensi memberikan jawaban yang melampaui kewenangan pengguna tersebut.

   Bayangkan seorang karyawan meminta AI merangkum kondisi keuangan perusahaan. Jika sistem tidak memeriksa hak aksesnya dengan benar, model mungkin menyajikan informasi yang seharusnya hanya tersedia bagi jajaran manajemen tertentu.

   Untuk mengatasi persoalan ini, perusahaan perlu menerapkan kontrol akses berbasis peran, autentikasi yang kuat, pencatatan aktivitas, dan pembatasan akses terhadap sumber data. Sistem AI juga perlu dirancang agar izin pengguna tetap berlaku ketika model mengambil informasi dan menghasilkan jawaban.

   Pengujian keamanan secara berkala diperlukan untuk mengetahui apakah model dapat mengungkapkan informasi melalui permintaan yang tidak semestinya. Dengan demikian, perusahaan dapat mengurangi risiko kebocoran sekaligus mempertahankan manfaat AI bagi operasional bisnis.

4. Risiko Kekayaan Intelektual
   Penggunaan AI generatif juga memunculkan pertanyaan mengenai hak kekayaan intelektual. Model yang dilatih menggunakan karya berhak cipta, kode perangkat lunak, dokumen berlisensi, atau materi eksklusif perusahaan dapat menimbulkan persoalan hukum jika penggunaan datanya tidak memiliki dasar yang memadai.

   Sebagai contoh, model AI yang dikembangkan menggunakan kumpulan karya musik, tulisan, atau materi visual berhak cipta mungkin menghasilkan keluaran yang menyerupai materi tersebut. Kondisi ini menimbulkan pertanyaan tentang batas penggunaan yang diizinkan, kemungkinan pelanggaran hak cipta, dan tanggung jawab pihak yang mengembangkan maupun menggunakan model.

   Persoalan serupa dapat terjadi di lingkungan perusahaan. Dokumen internal, rancangan produk, kode sumber, dan materi milik mitra bisnis tidak boleh begitu saja dimasukkan ke dalam sistem AI tanpa mempertimbangkan hak penggunaan dan kewajiban kontraktual.

   Tingkat risiko bergantung pada jenis materi, sumber data, ketentuan lisensi, karakteristik keluaran model, dan hukum yang berlaku. Karena itu, perusahaan perlu mendokumentasikan asal-usul data, memeriksa lisensi dan hak penggunaannya, serta menetapkan batasan mengenai materi yang boleh digunakan untuk pelatihan maupun pemrosesan AI. Inventarisasi dan pencatatan asal-usul data dapat membantu perusahaan menelusuri sumber informasi yang digunakan apabila muncul pertanyaan atau sengketa di kemudian hari.

5. Risiko Persetujuan dan Permintaan Penghapusan Data
   Peraturan perlindungan data modern menempatkan hak individu sebagai aspek penting dalam pengelolaan informasi pribadi. Bergantung pada ketentuan yang berlaku dan dasar pemrosesan yang digunakan, individu dapat memiliki hak untuk mengakses, memperbaiki, menarik persetujuan, atau meminta penghapusan data pribadinya. Tantangan muncul ketika informasi tersebut sudah digunakan dalam proses pengembangan atau pelatihan model AI.

   Sebagai contoh, perusahaan menggunakan data pelanggan untuk melatih model rekomendasi. Pada suatu waktu, pelanggan meminta penghapusan data atau menarik persetujuan atas pemrosesan yang sebelumnya dilakukan berdasarkan persetujuan tersebut. Perusahaan harus dapat menelusuri di mana data itu disimpan, bagaimana data digunakan, dan apakah informasi tersebut memengaruhi model yang telah dikembangkan.

   Penghapusan data dari sistem sumber belum tentu secara otomatis menghilangkan seluruh pengaruhnya terhadap model AI. Bergantung pada situasinya, perusahaan mungkin perlu menghapus salinan data, memperbarui kumpulan data pelatihan, melakukan pelatihan ulang, atau menggunakan metode penghapusan pengaruh data dari model yang sesuai.

   Namun, pelatihan ulang bukanlah solusi yang selalu wajib atau menjadi satu-satunya pilihan. Langkah yang diperlukan harus ditentukan berdasarkan karakteristik sistem, kewajiban hukum, dan kemampuan teknis yang tersedia.

   Untuk memenuhi kebutuhan tersebut, perusahaan perlu memiliki dokumentasi yang jelas mengenai penggunaan data, mekanisme penanganan permintaan subjek data, serta prosedur untuk menindaklanjuti perubahan izin atau dasar pemrosesan.

Strategi Menerapkan Tata Kelola Data untuk LLM

Menghadapi berbagai risiko tersebut, perusahaan membutuhkan pendekatan tata kelola data yang terintegrasi ke dalam arsitektur AI. Pengelolaan tidak cukup dilakukan setelah model selesai dikembangkan, tetapi perlu dimulai sejak tahap penemuan dan persiapan data.

Ada beberapa langkah yang dapat diterapkan.

1. Mengetahui Asal-Usul dan Konteks Data
   Perusahaan perlu mengidentifikasi sumber data yang akan digunakan, pemilik data, tujuan pengumpulan, tingkat sensitivitas, dan batasan penggunaannya.

   Proses ini membantu organisasi memahami apakah suatu kumpulan data layak digunakan untuk kebutuhan AI tertentu. Data yang tidak memiliki sumber jelas atau tidak mempunyai dasar penggunaan yang memadai sebaiknya tidak langsung dimasukkan ke dalam proses pengembangan model.

   Katalog data dapat membantu menginventarisasi aset informasi dan memberikan konteks bisnis yang konsisten. Dengan begitu, tim teknis dan pemilik bisnis dapat memahami data yang tersedia sebelum menggunakannya.

2. Menjaga Kualitas dan Konsistensi Data
   Kualitas data turut menentukan kualitas keluaran AI. Data yang tidak lengkap, tidak akurat, duplikat, atau sudah kedaluwarsa dapat menghasilkan jawaban yang menyesatkan.

   Karena itu, perusahaan perlu menerapkan pemeriksaan kualitas data secara berkala. Proses ini dapat mencakup validasi, pembersihan data, penanganan duplikasi, dan pemeriksaan konsistensi antarsumber.

   Selain meningkatkan keandalan AI, pengelolaan kualitas data membantu mengurangi risiko keputusan bisnis yang didasarkan pada informasi keliru.

3. Menerapkan Teknik Peningkatan Privasi
   Sebelum data digunakan oleh model AI, perusahaan perlu menentukan apakah informasi sensitif dapat dihilangkan, disamarkan, atau diubah tanpa menghilangkan kegunaan data untuk tujuan yang telah ditetapkan. Langkah penerapannya meliputi tiga tahap utama.

   • Pertama, mengidentifikasi elemen sensitif yang perlu dilindungi, seperti nama, alamat, nomor identitas, informasi keuangan, atau rahasia bisnis.
   • Kedua, menerapkan teknik perlindungan yang sesuai. Misalnya, perusahaan dapat mengganti identitas pelanggan dengan kode tertentu atau menghapus atribut yang tidak diperlukan. Transformasi harus dirancang agar informasi tetap berguna untuk analisis tanpa membuka data yang seharusnya dirahasiakan.
   • Ketiga, mencatat perubahan yang dilakukan terhadap data. Dokumentasi tersebut penting untuk mengetahui informasi apa yang dihapus atau diubah, alasan penerapannya, dan bagaimana data hasil transformasi digunakan.

   Pendekatan ini memungkinkan perusahaan menyeimbangkan kebutuhan analisis dengan perlindungan privasi.

4. Menyediakan Jejak Audit dan Silsilah Data
   Jejak audit membantu perusahaan mengetahui siapa yang mengakses data, kapan data digunakan, dan untuk tujuan apa. Sementara itu, silsilah data (data lineage) membantu menelusuri perjalanan data dari sumber awal hingga digunakan dalam sistem analitik atau AI.

   Kedua kemampuan ini penting ketika perusahaan harus menyelidiki insiden, menindaklanjuti permintaan penghapusan data, atau membuktikan kepatuhan terhadap kebijakan internal dan peraturan.

   Dokumentasi yang baik juga memudahkan perusahaan mengevaluasi perubahan pada model dan sumber data yang digunakan.

Kesimpulan

AI generatif berpotensi mengubah cara perusahaan mengelola informasi, melayani pelanggan, dan mengambil keputusan. Namun, manfaat tersebut harus diimbangi dengan pengelolaan data yang bertanggung jawab.

Tanpa tata kelola data yang kuat, perusahaan menghadapi risiko kebocoran informasi pribadi, penyalahgunaan akses, pelanggaran kekayaan intelektual, hingga kesulitan memenuhi permintaan penghapusan data. Risiko tersebut dapat berdampak pada kepatuhan hukum, reputasi, dan kepercayaan pelanggan.

Karena itu, tata kelola data perlu menjadi bagian integral dari setiap tahap penerapan AI, mulai dari identifikasi sumber data, pemeriksaan kualitas, perlindungan informasi sensitif, pengaturan akses, hingga pencatatan aktivitas dan audit.

Pada akhirnya, keberhasilan AI perusahaan tidak hanya ditentukan oleh kecanggihan model, tetapi juga oleh kualitas, keamanan, dan tata kelola data yang mendukungnya. Dengan fondasi data yang kuat, perusahaan dapat memanfaatkan AI secara lebih optimal sekaligus menjaga kepercayaan pelanggan dan memenuhi tanggung jawabnya terhadap perlindungan informasi.