JAKARTA: Meta memperkenalkan fitur keamanan baru yang akan memberi tahu orang tua jika percakapan remaja dengan Meta AI mengindikasikan risiko bunuh diri atau melukai diri sendiri.
kutipan EngadgetFitur ini merupakan bagian dari upaya perusahaan untuk meningkatkan perlindungan bagi pengguna remaja di tengah meningkatnya kepentingan peraturan dan masyarakat terhadap keamanan chatbot yang didukung AI.
Sebelumnya, Meta AI dirancang untuk mengarahkan remaja yang mengungkapkan pemikiran untuk bunuh diri atau menyakiti diri sendiri ke layanan dukungan krisis dan mendorong mereka untuk berbicara dengan orang tua atau orang dewasa yang mereka percayai.
Dengan update terkini, Meta kini akan secara proaktif mengirimkan notifikasi kepada orang tua atau wali menggunakan fitur Instagram Parental Supervision jika sistem mendeteksi adanya indikasi bahwa seorang remaja berisiko.
Orang tua juga akan menerima bimbingan ahli dan sumber daya untuk membantu mereka mengatasi situasi tersebut. Menurut Meta, sistem ini menggunakan model kecerdasan buatan khusus yang dikembangkan untuk mengenali percakapan terkait bunuh diri dan menyakiti diri sendiri.
Namun, perusahaan menekankan bahwa percakapan apa pun yang ditandai oleh AI tidak serta merta memicu pemberitahuan untuk dikirimkan kepada orang tua. Semua percakapan akan melalui proses peninjauan manual terlebih dahulu untuk mengurangi kemungkinan ditemukannya kesalahan yang dapat menimbulkan kepanikan.
Meski demikian, Meta menyatakan akan mengedepankan prinsip kehati-hatian. Jika masih ada keraguan tentang niat pengguna setelah peninjauan, Meta akan tetap mengirimkan peringatan kepada orang tua daripada mengambil risiko mengabaikan situasi yang dapat membahayakan keselamatan remaja tersebut.
Fitur baru ini sudah mulai diluncurkan ke pengguna Instagram yang menggunakan pengawasan orang tua di AS, Inggris, Australia, dan Kanada. Meta bertujuan agar fitur ini tersedia secara global untuk semua pengguna yang menggunakan sistem kontrol orang tua sebelum akhir tahun 2026.
Selain mengirimkan pemberitahuan kepada orang tua, Meta mengatakan sedang mengembangkan kemampuan lain yang memungkinkan perusahaan menghubungi layanan darurat jika percakapan dengan Meta AI menunjukkan bahwa seseorang berisiko tinggi melakukan bunuh diri dalam waktu dekat.
Fitur ini tidak hanya berlaku untuk pengguna remaja saja, namun juga dapat diterapkan pada pengguna dewasa jika sistem mendeteksi adanya ancaman serius terhadap keselamatan mereka.
Pembaruan ini juga memperluas aplikasi pengaturan Konten Terbatas untuk menyertakan interaksi dengan Meta AI. Sebelumnya, fitur ini memfilter berbagai konten sensitif di Instagram, termasuk visual dewasa dan konten terkait tindakan menyakiti diri sendiri.
Kini, jika orang tua mengaktifkan Konten Terbatas, pembatasan serupa juga akan berlaku pada percakapan remaja dengan Meta AI sehingga jenis respons yang diberikan chatbot lebih terbatas dan sesuai dengan usia pengguna.
Langkah tersebut merupakan kelanjutan dari sejumlah pembaruan keamanan yang diperkenalkan Meta selama tahun 2026. April lalu, Meta mulai memberikan akses kepada orang tua untuk melihat kategori topik yang dibicarakan remaja dengan Meta AI selama tujuh hari terakhir, tanpa menampilkan isi percakapan secara detail.
Tak hanya itu, pada update kali ini, Meta juga memberikan panduan percakapan yang disusun bersama para ahli agar orang tua dapat mendiskusikan penggunaan AI secara lebih terbuka dengan anaknya.
Sementara itu, pada bulan Februari 2026, Meta juga mengumumkan rencana untuk mengirimkan pemberitahuan kepada orang tua jika remaja berulang kali mencari istilah terkait bunuh diri atau menyakiti diri sendiri di pencarian Instagram.
Pada saat itu, perusahaan juga mengungkapkan bahwa mereka sedang mengembangkan sistem peringatan serupa untuk percakapan dengan Meta AI, yang kini sudah mulai dapat dicapai dengan pembaruan terkini. Peluncuran fitur ini dilakukan ketika perusahaan teknologi menghadapi pengawasan ketat terhadap bagaimana chatbot bertenaga AI merespons pengguna yang mengalami krisis kesehatan mental, terutama remaja.
Dalam beberapa bulan terakhir, sejumlah perusahaan AI mulai menawarkan fitur keamanan tambahan untuk menangani situasi serupa. Misalnya, pada bulan Mei 2026, OpenAI meluncurkan Kontak Tepercaya untuk ChatGPT, yang memungkinkan pengguna menunjuk seseorang untuk dihubungi jika mereka dianggap berisiko melukai diri sendiri.
Dengan pembaruan ini, Meta berharap dapat memberikan perlindungan tambahan bagi remaja tanpa menghalangi akses mereka terhadap dukungan melalui AI. Meta mengonfirmasi bahwa sistem ini dikembangkan bersama orang tua, lebih dari 75 profesional kesehatan mental, serta kelompok penasihat keselamatan remaja untuk membantu menentukan jenis percakapan apa yang layak untuk disampaikan kepada orang tua.
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(tag untuk terjemahan)meta
