JAKARTA: TikTok mulai menguji fitur baru berbasis kecerdasan buatan (AI) yang dirancang untuk membantu kreator mendeteksi penggunaan wajah mereka secara tidak sah dalam konten AI. Langkah ini diambil di tengah meningkatnya prevalensi konten deepfake.
Langkah ini juga dilakukan tak lama setelah YouTube memperluas teknologi serupa ke lebih banyak pengguna dewasa. kutipan TepianFitur yang masih dalam tahap pengujian ini bersifat opt-in, jadi kreator harus mendaftar secara sukarela untuk menggunakannya.
Pada tahap awal, TikTok hanya melayani sekelompok pembuat konten di AS sebelum berkembang untuk mencakup lebih banyak pengguna. Melalui sistem ini, pembuat konten dapat melihat apakah wajah mereka digunakan dalam konten buatan AI tanpa izin.
Jika sistem mendeteksi dugaan penyalahgunaan, pembuat konten dapat meninjau konten tersebut dan melaporkannya ke TikTok untuk diproses lebih lanjut sesuai dengan kebijakan platform. Untuk mengaktifkan fitur ini, pengguna harus menjalani proses verifikasi identitas.
TikTok mewajibkan kreator untuk mengambil foto selfie dan memverifikasi identitasnya menggunakan dokumen resmi melalui layanan pihak ketiga, Jumio. Proses ini dimaksudkan untuk memastikan bahwa sistem benar-benar mengenali identitas rekaman pembuat konten sehingga dapat membedakan penggunaan wajah yang sah dan tidak sah.
Selain itu, TikTok menyatakan tidak menyimpan dokumen identitas yang diunggah selama proses verifikasi. Data wajah yang dikumpulkan juga dikatakan hanya digunakan untuk mencocokkan kemiripan wajah dan mengidentifikasi potensi penyalahgunaan identitas digital dalam konten AI.
Adanya fitur ini menunjukkan bahwa platform media sosial semakin memperhatikan penyalahgunaan teknologi AI generatif. Dalam beberapa tahun terakhir, kemampuan kecerdasan buatan untuk menghasilkan gambar dan video yang sangat realistis telah mempersulit identifikasi wajah palsu dan identitas digital secara manual.
Akibatnya, pencipta, tokoh masyarakat, dan pengguna sehari-hari menghadapi risiko wajah mereka digunakan untuk membuat konten palsu, penipuan, atau informasi menyesatkan. Sekadar informasi, TikTok bukan satu-satunya platform yang mengambil langkah ini.
Sebelumnya, YouTube telah memperluas deteksi kemiripan kepada seluruh kreator yang memenuhi persyaratan dan berusia minimal 18 tahun. Teknologi ini bekerja dengan cara mendeteksi video yang menggunakan wajah seseorang secara artifisial atau dimanipulasi menggunakan kecerdasan buatan.
Hal ini kemudian memberikan kesempatan kepada pemilik identitas untuk meminta penghapusan jika konten tersebut melanggar pedoman privasi. Sistem YouTube sendiri dikembangkan menggunakan pendekatan serupa dengan Content ID.
Jika Content ID digunakan untuk mengidentifikasi materi berhak cipta, teknologi deteksi kesamaan berfokus pada identifikasi wajah yang dihasilkan oleh simulasi AI. Pengguna yang memenuhi persyaratan juga harus melalui proses verifikasi identitas sebelum dapat mengaktifkan fitur tersebut.
Masuknya TikTok ke dunia perlindungan identitas berbasis AI mencerminkan meningkatnya persaingan antar platform dalam menghadapi tantangan era AI generatif. Selain mengembangkan alat kreatif berbasis AI, perusahaan teknologi kini juga mulai membangun mekanisme untuk melindungi identitas digital penggunanya dari penyalahgunaan teknologi yang sama.
Namun fitur TikTok masih dalam tahap pengujian terbatas. TikTok belum mengumumkan jadwal peluncuran yang lebih luas atau negara lain mana yang dapat dijangkau. Hasil uji coba diharapkan dapat memberikan dasar bagi TikTok untuk mengevaluasi efektivitas sistem sebelum tersedia bagi lebih banyak kreator.
Seiring dengan terus berkembangnya teknologi AI, alat pendeteksi kemiripan wajah diharapkan menjadi fitur penting di platform media sosial. Kehadiran teknologi ini diharapkan dapat membantu para kreator menjaga identitas digitalnya sekaligus mengurangi penyebaran konten deepfake yang dibuat tanpa izin.
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(tag untuk terjemahan)tiktok
