JAKARTA: Private AI sering dipahami sebagai pendekatan yang menjaga data dan model tetap berada dalam lingkup perusahaan. Pendekatan ini sangat cocok untuk industri yang diawasi secara ketat oleh peraturan, seperti sektor keuangan di Indonesia.
Laporan Kamar Dagang dan Industri Indonesia (KADIN) menunjukkan bahwa sektor keuangan termasuk yang paling maju dalam mengadopsi AI, karena melihat potensinya untuk meningkatkan layanan pelanggan sekaligus mengembangkan produk dan layanan baru.
Sementara itu, Otoritas Jasa Keuangan (OJK) telah mengeluarkan pedoman pengelolaan penggunaan AI di sektor perbankan. Panduan tersebut menekankan bahwa pengelolaan data untuk sistem AI harus mematuhi ketentuan Undang-Undang Perlindungan Data Pribadi (UU PDP) dan mewajibkan organisasi untuk menerapkan sistem AI yang mengintegrasikan perlindungan privasi ke dalam setiap tahap pengembangan dan operasi.
Dalam praktiknya, bagian tersulit dan mahal adalah memastikan bahwa sistem dapat dikontrol dengan benar setelah dijalankan di lingkungan produksi. Hal ini memerlukan keputusan yang jelas tentang bagaimana sistem dapat berfungsi dan bagaimana mengatur perilakunya. Tantangannya adalah keputusan-keputusan ini jarang berada di tangan satu tim saja.
Inilah yang membuat AI pribadi terasa berbeda dibandingkan dengan banyak aplikasi GenAI terkelola. GenAI Terkelola masih dapat dikelola dan dipantau, namun layanan terkelola secara umum telah menyerap sebagian besar pekerjaan di balik pengoperasian dan keamanan platform.
Sementara itu, dalam AI swasta, organisasi memegang kendali operasional secara keseluruhan serta tanggung jawab yang lebih besar untuk membuktikan bahwa kendali yang diterapkan benar-benar berfungsi secara efektif. Hasilnya, kemajuan implementasi tidak lagi ditentukan semata-mata oleh kapasitas yang patut dicontoh, namun seberapa baik koordinasi yang dilakukan dalam organisasi.
Oleh karena itu, penerapan AI swasta seringkali mengungkap masalah koordinasi yang sebelumnya tersembunyi. Bahkan ketika hanya menggunakan satu data, organisasi harus membuat keputusan bersama tentang data apa yang dapat diakses, bagaimana menerapkan izin, apa yang harus dicatat, apa yang dianggap sebagai perilaku yang dapat diterima, dan siapa yang bertanggung jawab jika terjadi kesalahan.
Mengapa AI swasta menimbulkan tantangan terhadap konvergensi keahlian?
AI Pribadi memberi organisasi akses penuh ke semua data mereka. Oleh karena itu, diperlukan kolaborasi yang lebih erat karena pendekatan ini tentu saja melibatkan banyak tim, mulai dari teknisi data, pengembang AI, dan tim keamanan hingga pemangku kepentingan kepatuhan. Hal ini karena AI privat pada dasarnya adalah tentang cara mengoperasikan kemampuan AI dengan aman di lingkungan produksi, menjaga kendali sejak data diakses hingga hasilnya dihasilkan, dan terus dipantau.
Hambatan yang paling umum adalah terkait dengan keselarasan. Setiap tim perlu menyepakati data apa yang dapat digunakan, bagaimana kebijakan akan diinterpretasikan, dan persyaratan operasional apa yang harus dipenuhi sebelum sistem benar-benar diterapkan. Hal ini menjadi lebih sulit ketika alur kerja GenAI melibatkan konten sensitif atau terhubung ke beberapa alat perusahaan, karena satu kesalahan kecil dapat berdampak luas.
Konteks ini semakin penting di Indonesia, di mana perusahaan diharuskan mematuhi peraturan perlindungan data sensitif, seperti Undang-Undang Perlindungan Data Pribadi (UU PDP). Kegagalan untuk mematuhi persyaratan ini dapat menyebabkan organisasi terkena hukuman berat dan merusak reputasinya di mata pelanggan. Salah satu kesalahan umum adalah memperlakukan tata kelola dan keamanan sebagai tahap akhir. Ketika pengendalian diterapkan kemudian, organisasi sering kali menemukan kesenjangan yang memaksa perancangan ulang dan menyebabkan penundaan implementasi.
Tim yang berhasil mengembangkan AI berpemilik biasanya tidak menetapkan pertanyaan-pertanyaan ini sebagai fase validasi pasca-implementasi, melainkan sebagai bagian dari proses penyampaian itu sendiri. Mereka membangun konsensus melalui bahasa yang sama dan pola yang dapat digunakan kembali sehingga setiap kasus penggunaan baru tidak akan pernah menjadi perdebatan yang sama lagi.
Peraturan ini juga dengan jelas mendefinisikan bukti apa yang harus tersedia untuk setiap rilis, tahapan persetujuan apa yang harus dilalui, dan apa yang didefinisikan sebagai “siap untuk dipublikasikan” dalam istilah yang terukur.
Bagaimana organisasi secara efektif mencapai konvergensi keahlian?
Konvergensi keahlian pada dasarnya adalah membuat AI swasta benar-benar dapat ditindaklanjuti. Pendekatan ini menciptakan model operasi lintas fungsi yang umum sehingga keputusan keselamatan dan kualitas dibuat dengan sengaja, bukan sekadar mengikuti pengaturan default.
Kejelasan dalam pembagian kewenangan pengambilan keputusan juga membantu mengurangi ambiguitas dan mencegah kesenjangan dalam akuntabilitas. Organisasi yang mampu bergerak maju biasanya memformalkan penyampaian lintas fungsi untuk setiap kasus penggunaan yang diprioritaskan.
Hal ini tidak memerlukan tata kelola yang kompleks, namun memerlukan sejumlah kecil peran yang memiliki kewenangan untuk membuat keputusan trade-off dengan cepat, didukung oleh jalur eskalasi yang jelas ketika persyaratan kecepatan dan risiko bertentangan.
Di banyak situasi, koordinasi seringkali gagal karena dianggap bukan merupakan tanggung jawab khusus seseorang. Dengan menetapkan kepemilikan yang jelas, koordinasi berubah menjadi ritme operasional yang dapat terus diulang dan dilaksanakan.
Prinsip yang sama berlaku setelah sistem diimplementasikan. Private AI bukan sekadar sistem “peluncuran dan penyelesaian”.
Sistem ini memerlukan disiplin “hari ke-2” agar kinerja dan keamanan tetap terjaga seiring perubahan sistem seiring berjalannya waktu. Hal ini menjadi semakin penting seiring berkembangnya AI agen, seiring dengan sistem yang mulai mengambil langkah-langkah yang lebih otonom. Ketika AI tidak hanya merespons, namun juga bertindak, kesenjangan kecil dalam kendali dan pengawasan dapat dengan cepat berkembang menjadi masalah operasional yang besar.
Pemilihan teknologi sangatlah penting karena akan menentukan jumlah koordinasi yang diperlukan. Orkestrasi tidak akan hilang sepenuhnya, namun platform seperti Cloudera dapat membantu mengurangi “biaya orkestrasi” dengan membuat kontrol dan proses lebih konsisten di berbagai kasus penggunaan dan lingkungan.
Lapisan tata kelola dan operasional yang terpadu akan mengurangi kebutuhan akan pengerjaan ulang sekaligus menjadikan proses penyampaian lebih dapat diulang dan diprediksi. Ini adalah pendekatan yang kami tekankan ketika mendiskusikan AI swasta dengan perusahaan, dan khususnya pentingnya database yang dikelola dengan baik dan kemampuan layanan model pribadi yang terukur.
Apa yang perlu diperhatikan oleh para pemimpin
Mengadopsi AI pribadi tidak hanya bergantung pada penambahan talenta AI khusus, namun bergantung pada kemampuan eksekusi lintas fungsi. Di sini koordinasi menjadi landasan utama dalam membangun kemampuan berkelanjutan.
Tanpa koordinasi yang kuat, AI swasta akan tetap terfragmentasi menjadi beberapa proyek percontohan yang terpisah, yang masing-masing terhambat oleh pengerjaan ulang, deteksi risiko tahap akhir, serta kepemilikan dan akuntabilitas risiko yang tidak jelas.
Sebaliknya, ketika tim memiliki kesepakatan mengenai bahasa yang sama, pedoman yang terstandarisasi, dan kepemilikan yang jelas, AI pribadi dapat berkembang dengan cara yang lebih terstruktur dan terukur.
(Shirley Carnetta, Direktur Regional, Indonesia, Cloudera)
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(tag untuk terjemahan)cloudera
