JAKARTA: Organisasi-organisasi di kawasan Asia Pasifik, termasuk Indonesia, telah memasuki fase baru dalam penerapan kecerdasan buatan (AI) seiring dengan peralihan fokus dari fase percontohan ke implementasi di lingkungan produksi.
Sistem AI generatif dan AI agen semakin menjadi tulang punggung organisasi dalam mengotomatisasi proses, mengambil keputusan, dan bersaing dalam lingkungan bisnis yang semakin dinamis dan fluktuatif. Akibatnya, organisasi-organisasi di kawasan ini meningkatkan pengeluaran mereka untuk AI dan kecerdasan buatan dari US$73 miliar pada tahun 2024 menjadi US$370 miliar pada tahun 2029.
Bagian tersulit dalam penerapan AI perusahaan bukan lagi tahap pengujian, melainkan apa yang terjadi setelahnya. Inisiatif NANDA dari MIT menemukan bahwa 95% program AI generatif di perusahaan belum menghasilkan dampak keuntungan dan kerugian yang terukur, meskipun menghabiskan dana antara $30 dan $40 miliar.
Selain itu, 42% perusahaan akan menghentikan sebagian besar inisiatif AI mereka pada tahun 2025, dibandingkan dengan 17% pada tahun sebelumnya. Implikasi dari hal ini sangat jelas: akses terhadap model-model AI yang paling canggih kini menjadi sebuah kebaikan bersama, sementara keuntungan yang bertahan lama ada di tangan mereka yang mampu mempertahankan, mengelola, dan memelihara AI setelah tahap percontohan.
Tren politik saat ini juga membawa akibat yang sama. Pada konferensi ATxSG baru-baru ini, Singapura mengumumkan kemitraan dengan para pemimpin industri untuk membangun, menguji, menerapkan, dan mengelola AI dunia nyata di berbagai sektor, mulai dari layanan publik, keuangan, layanan kesehatan, infrastruktur digital, hingga AI fisik. Pesan yang disampaikan kepada dewan direksi perusahaan jelas: Regulator tidak lagi hanya menanyakan apakah Anda menggunakan AI, namun akan meminta bukti tentang cara kerja sistem AI. Pertanyaan “mengapa” kini telah terjawab; Fokus kompetisi telah beralih sepenuhnya ke dunia “bagaimana”.
Keberlanjutan: Mengukur manfaat dari hasil bisnis nyata, bukan sekedar perhitungan simbolis
Penetapan harga berbasis token memberikan gambaran ekonomi yang tampak lebih menguntungkan daripada yang sebenarnya. Goldman Sachs memperkirakan konsumsi token akan meningkat 24 kali lipat pada tahun 2030 seiring dengan semakin meluasnya penggunaan agen AI. Artinya setiap biaya yang dihitung per token adalah angka yang akan terus meningkat dan merugikan daripada menguntungkan.
Prinsip manajemen yang digunakan dalam produksi di dunia nyata harus mengevaluasi AI dari empat sudut—ekonomi unit, kontrol, kinerja, dan overhead operasional—dan kemudian menggabungkannya ke dalam satu metrik: biaya per tugas yang berguna dan berhasil diselesaikan, bukan biaya per token atau per model. Sederhananya, jika Anda tidak dapat menentukan biaya suatu tugas yang berhasil diselesaikan, Anda tidak akan dapat mempertahankan pendanaan.
Metrik yang sama juga harus menentukan di mana beban kerja Anda berjalan. Cloud publik unggul dalam hal kecepatan, eksperimen, dan akses ke model AI terbaru. Sementara itu, heuristik privat dan heuristik kedaulatan unggul dalam menangani beban kerja yang besar, terstruktur ketat, atau sensitif terhadap latensi.
Inilah logika inti di balik layanan seperti Cloudera AI Inference yang didukung oleh NVIDIA NIM, yang dirancang khusus untuk memberikan kinerja yang konsisten dan kontrol penuh di kedua lingkungan. Keputusan mengenai penempatan infrastruktur bukan sekedar catatan kaki yang sepele.
MIT menemukan bahwa proyek AI yang dibeli dari vendor khusus dan dikelola melalui kemitraan memiliki tingkat keberhasilan sekitar 67%. Sebaliknya, sistem yang dibangun sepenuhnya secara independen oleh tim internal hanya memiliki sepertiga tingkat keberhasilan. Pada akhirnya, lokasi di mana beban kerja Anda berjalan menjadi batas yang menentukan apakah Anda mendapat untung (margin) atau rugi total (penghapusan).
Dalam praktiknya, perusahaan harus menentukan tugas bisnis mereka terlebih dahulu, mencocokkannya dengan model paling sederhana yang mampu menjalankannya dengan andal, melacak biaya per tugas yang diselesaikan, bukan biaya per kode, dan mengarahkan setiap beban kerja ke cloud publik untuk kecepatan dan eksperimen, atau ke lingkungan swasta yang berdaulat untuk efisiensi biaya, kontrol, dan latensi. Menjaga AI tetap berkelanjutan dalam produksi berarti perhitungan ekonominya harus tetap baik bahkan setelah masa uji coba berakhir – dan saat ini, 95% program AI belum mampu membuktikan hal ini.
Tata Kelola: Independensi tanpa jejak audit sama dengan risiko tanpa kendali
Pengendalian akan gagal seketika ketika pemimpin tidak mampu menjelaskan mengapa sistem bekerja, peraturan apa yang harus diterapkan, data apa yang harus digunakan, atau siapa yang harus bertanggung jawab atas hasil akhirnya. Kegagalan ini bersifat struktural, bukan kebetulan: Data Cloudera Readiness Index menemukan bahwa hanya 10% peserta di kawasan Asia Pasifik yang telah menerapkan tata kelola komprehensif untuk seluruh data mereka. Anda tidak akan dapat mengelola keputusan agen AI jika data yang menjadi dasarnya tidak dikelola dengan benar – jejak audit akan terputus bahkan sebelum agen tersebut mengalami error.
Risiko ini berlipat ganda seiring dengan beralihnya peran agen AI dari sekadar menjawab pertanyaan menjadi mengambil tindakan di seluruh perangkat dan alur kerja. Gartner memperkirakan bahwa AI agen akan mendorong setidaknya 15% keputusan operasional harian pada tahun 2028 – sebuah lompatan dari hampir nol pada tahun 2024 – serta terintegrasi ke dalam sepertiga perangkat lunak perusahaan.
Entropi operasional – di mana proyek pengujian berkembang biak di seluruh tim tanpa standar, kebijakan, atau visi yang sama – adalah alasan utama mengapa otonomi menjadi terfragmentasi, mahal, dan tidak dapat diandalkan. Perluasan tanpa standar tidak akan menambah kapasitas; Namun justru menggandakan kesenjangan kegagalan (luas permukaan kegagalan).
Agar tata kelola menjadi efektif, organisasi harus menetapkan batasan tindakan yang diperbolehkan untuk setiap model atau agen, menerapkan kebijakan yang sama di seluruh tim, dan membuat jejak audit. Langkah ini kemudian diikuti dengan menambahkan sistem orkestrasi yang mengarahkan beban kerja berdasarkan persyaratan biaya, latensi, nilai, sensitivitas, dan tata kelola, sekaligus menyertakan pos pemeriksaan manusia yang jelas terhadap tindakan berisiko tinggi.
Risikonya sangat nyata: Gartner memperkirakan bahwa lebih dari 40% proyek AI akan dibatalkan pada akhir tahun 2027, sebagian besar disebabkan oleh lemahnya pengendalian risiko dan manfaat nilai yang tidak jelas. Tujuannya bukan untuk membatasi otonomi AI, namun agar AI tunduk pada pengawasan yang proporsional – karena proyek yang gagal pada tahun 2027 akan gagal karena kurangnya tata kelola, bukan karena kurangnya model AI.
Perlindungan: Merancang sistem untuk mengantisipasi saat model melakukan kesalahan
Perlindungan berarti merancang sistem untuk mengantisipasi situasi ketika AI salah, ambigu, atau beroperasi dalam konteks berisiko tinggi. Kerangka Tata Kelola AI untuk model Agen AI memperjelas hal ini: menilai risiko sejak dini, membatasi otonomi agen dan akses ke alat dan data, dan membuat pos pemeriksaan yang mewajibkan persetujuan manusia.
Di Indonesia, Kerangka Tata Kelola AI untuk Perbankan Indonesia dari Otoritas Jasa Keuangan (OJK) juga menyatakan bahwa pengawasan manusia harus memastikan bahwa AI di area sensitif memiliki cakupan terbatas untuk mencapai tujuan tertentu. Selain itu, sistem AI tidak boleh melakukan intervensi langsung dalam situasi berisiko tinggi tanpa pertimbangan manusia.
Pada akhirnya, tingkat kedewasaan tidak lagi diukur dari jumlah proses yang Anda otomatisasi, namun dari seberapa bijak Anda secara sadar mengidentifikasi hal-hal yang tidak boleh diotomatisasi.
Model keamanan praktis mencakup empat elemen utama: hak pengambilan keputusan yang jelas, tingkat otonomi yang berjenjang, ketertelusuran penuh atas masukan, tindakan, dan keluaran, serta tombol pemutus (kill switch) dengan mekanisme pengesampingan kebijakan.
Namun, pemantauan harus dilakukan secara selektif – meninjau semuanya justru akan merugikan tingkat ROI, yang merupakan jebakan utama di balik prediksi Gartner bahwa lebih dari 40% proyek agen AI akan dibatalkan.
Pendekatan yang matang akan mengotomatiskan pekerjaan berisiko rendah dan hanya merujuk kasus-kasus yang ambigu, berdampak besar, atau luar biasa kepada peninjau manusia. Pengawasan manusia harus berupa pisau bedah yang bagus, bukan selimut yang menutupi segalanya.
Oleh karena itu, identifikasi tindakan yang hanya dapat direkomendasikan oleh agen AI versus tindakan yang dapat dilakukan secara langsung, memerlukan persetujuan manusia untuk tugas berisiko tinggi, menggunakan teknik pengambilan sampel, batas kepercayaan, dan penanganan pengecualian.
Lacak metrik kualitas bisnis — seperti tingkat kesalahan, tingkat eskalasi, skor kepatuhan, skor kepercayaan, dan beban pengerjaan ulang — dengan tingkat keseriusan yang sama seperti saat mengukur efisiensi.
Pasalnya, menurut studi MIT, 5% perangkat lunak yang berhasil menghasilkan nilai nyata melakukannya melalui integrasi alur kerja, bukan sekadar melacak throughput mentah (raw throughput). Melindungi AI tidak berarti mencegah penerapannya; Sebaliknya, ini adalah langkah untuk membangun lingkaran kendali yang menggandakan kinerja sekaligus mengendalikan risiko.
Satuan hitung kini mulai berubah
Perhitungan ekonomi untuk AI perusahaan kini sedang ditulis ulang karena hambatan utama telah beralih dari akses ke domain operasional. Untuk menjaga keberlanjutan, ukur hasil bisnis yang nyata dan bermakna serta tempatkan beban kerja di lingkungan yang memberikan nilai ekonomi terbaik. Untuk mengatur manajemen, menerapkan standar yang seragam, memantau kebijakan, dan melacak dan mengoordinasikan sistem.
Pada saat yang sama, untuk melindunginya, pengawasan selektif, pengamanan ketat (strict safeguards), serta arsitektur sistem yang dirancang dengan kemauan untuk menganggap kegagalan sama seriusnya dengan kesuksesan harus diterapkan.
Lapisan model AI menjadi komoditas yang semakin umum, karena kemampuan mutakhir kini menjadi sesuatu yang dapat dibeli, dan tidak lagi menjadi keunggulan kompetitif eksklusif. Nilai yang terus berlipat ganda terletak pada infrastruktur, tata kelola, dan kepercayaan yang melingkupinya.
Hingga 95% dari program yang dihentikan memandang AI sebagai sesuatu yang bisa dibeli, sementara 5% dari program yang mencapai terobosan memandang AI sebagai sesuatu yang harus dijalankan.
Kesenjangan itulah yang memisahkan tahap pengujian dari produksi sebenarnya — dan semakin besar perbedaan antara perusahaan yang akan memimpin dalam dekade berikutnya dan perusahaan yang harus menjelaskan kepada dewan direksi mengapa demo AI mereka belum memberikan nilai bisnis yang sepadan.
Kepercayaan, bukan simbol, kini menjadi kriteria utama. Rancang sistem AI Anda sesuai dengan itu.
(Abhas Ricky, CEO & GM, AI Terapan, Cloudera)
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(tag untuk terjemahan)Opini Teknologi
