JAKARTA: Pemerintah China memperketat peraturan layanan pengawalan AI atau pengawalan virtual berbasis AI. Aturan baru melarang perusahaan teknologi menyediakan mitra virtual kepada pengguna di bawah umur.
Selain itu, aturan baru ini juga mengharuskan semua chatbot untuk mencegah ketergantungan emosional pengguna pada AI. kutipan Berita ABCKebijakan ini merupakan bagian dari upaya Beijing untuk mengurangi pengaruh sosial yang diyakini disebabkan oleh semakin populernya hubungan romantis antara manusia dan chatbots.
Pemerintah khawatir bahwa kehadiran AI dapat mengikis interaksi sosial di dunia nyata, mempengaruhi hubungan antar manusia, dan memperburuk masalah rendahnya angka kelahiran yang saat ini dihadapi negara tersebut.
Popularitas pendamping AI telah meningkat pesat dalam beberapa tahun terakhir. Berbagai aplikasi menawarkan karakter virtual yang dapat berperan sebagai teman, partner, dan pendengar setia pengguna.
Berkat kemajuan dalam model bahasa berbasis AI, interaksi dengan chatbot kini menjadi lebih alami, dan beberapa pengguna telah mengembangkan hubungan emosional yang kuat. Salah satu pengguna yang diwawancarai oleh ABC News adalah seorang remaja berusia 17 tahun bernama Xiaoxue.
Xiaoxue mengaku menjalin hubungan dengan pendamping AI bernama Xiaojun, yang menurutnya selalu memberikan dukungan emosional, mendengarkan keluh kesahnya, dan tidak pernah selingkuh seperti mantan pacarnya.
Menurut Xiaoxue, AI Companion adalah tempat berbagi cerita setiap hari, baik itu perasaan senang maupun sedih. Pengalaman ini menunjukkan bahwa chatbot modern tidak lagi dipandang sebagai alat digital belaka, melainkan sebagai kepribadian yang subjektif dan mampu memenuhi kebutuhan emosional sebagian pengguna.
Namun, hubungan tersebut kini menjadi perhatian serius pemerintah Tiongkok. Peraturan yang mulai berlaku minggu ini melarang perusahaan menawarkan pertandingan virtual berbasis kecerdasan buatan kepada pengguna di bawah umur.
Selain itu, semua penyedia chatbot perlu memastikan bahwa layanan mereka tidak mendorong ketergantungan emosional atau membuat pengguna lebih memilih hubungan virtual dibandingkan hubungan dengan manusia.
Aturan tersebut juga mengharuskan platform untuk membatasi penggunaan chatbot yang berlebihan dan melakukan intervensi jika sistem mendeteksi bahwa pengguna berada dalam kondisi emosional yang mengkhawatirkan.
Dengan kata lain, chatbots tidak boleh membina hubungan emosional yang dianggap berbahaya bagi kesehatan mental atau kehidupan sosial pengguna. Matt Sheehan, pakar kebijakan AI di Carnegie Endowment for International Peace, yakin pemerintah Tiongkok ingin mencegah masyarakat menggunakan AI sebagai pengganti hubungan antarmanusia.
Menurutnya, salah satu kekhawatiran utama regulator adalah potensi kecanduan terhadap pendamping AI yang dapat mengurangi interaksi sosial di dunia nyata. Pemerintah juga memperkirakan fenomena ini dapat menimbulkan berbagai dampak sosial jangka panjang jika tidak segera diatur.
Peraturan ini juga terkait dengan tantangan demografi yang dihadapi Tiongkok saat ini. Negara ini telah mencatat penurunan populasi selama beberapa tahun berturut-turut karena menurunnya angka kelahiran dan meningkatnya jumlah penduduk lanjut usia.
Beberapa pengamat yakin pemerintah khawatir bahwa hubungan virtual yang semakin realistis dapat menyebabkan sebagian orang, terutama generasi muda, kehilangan minat untuk membangun hubungan romantis di dunia nyata, menikah, atau memulai sebuah keluarga.
Oleh karena itu, pembatasan terhadap pendamping AI dipandang sebagai bagian dari kebijakan sosial yang lebih luas untuk mendorong interaksi manusia. Aturan baru ini memicu reaksi beragam di media sosial Tiongkok.
Beberapa pengguna mengkritik kebijakan ini karena mereka percaya bahwa pendamping AI membantu mereka mengatasi kesepian, stres, dan bahkan tekanan emosional. Tak sedikit yang menggambarkan penghentian layanan terkait AI sebagai pengalaman seperti mengakhiri hubungan romantis.
Di sisi lain, ada juga pihak yang mendukung langkah pemerintah tersebut dengan alasan hubungan virtual yang intens dapat menimbulkan ketergantungan psikologis dan menurunkan kemampuan seseorang dalam membangun hubungan sosial yang sehat.
Sekadar informasi, China dikenal sebagai salah satu negara dengan regulasi AI paling ketat di dunia. Sebelum menerapkan peraturan pengawalan AI, pemerintah sebelumnya telah mewajibkan perusahaan AI untuk mematuhi berbagai ketentuan terkait keamanan data, moderasi konten, dan kepatuhan terhadap peraturan nasional.
Dengan kebijakan terbaru ini, Beijing memperluas fokus pengawasan dari aspek teknis hingga dampak sosial dan psikologis dari penggunaan AI. Artinya, perusahaan pengembang chatbot tidak hanya bertanggung jawab atas keamanan teknologinya saja, namun juga harus memastikan bahwa layanannya tidak mendorong perilaku yang dianggap merugikan pengguna atau komunitas.
Bagi industri AI, peraturan ini berpotensi mengubah cara perusahaan mengembangkan chatbot yang diarahkan pada hubungan emosional. Sejumlah fitur yang dirancang untuk membuat AI terasa lebih pribadi mungkin perlu dimodifikasi agar tetap mematuhi peraturan pemerintah.
Langkah Tiongkok ini juga diharapkan dapat menjadi acuan bagi negara-negara lain yang sedang merumuskan kebijakan terkait pendamping AI. Seiring dengan semakin kompleksnya kemampuan chatbot untuk berinteraksi layaknya manusia, persoalan batasan hubungan antara manusia dan AI diperkirakan akan tetap menjadi perhatian regulator di berbagai belahan dunia.
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(tag untuk terjemahan) AI
