JAKARTA: Penelitian terbaru mengungkapkan bahwa penggunaan kecerdasan buatan (AI) tidak selalu membantu pengguna mengambil keputusan yang lebih baik. Sebaliknya, ketika seseorang dihadapkan pada pertanyaan sulit dan merasa ragu, saran yang diberikan AI mampu mengubah keraguan tersebut menjadi terlalu percaya diri.
Dalam penelitian ini, AI melakukan tindakan tersebut meskipun jawaban yang diberikan ternyata salah. kutipan Tren digitalPara peneliti menemukan bahwa peserta yang menerima saran AI lebih percaya diri dengan jawaban mereka, meskipun rekomendasi yang diberikan AI tidak akurat.
Fenomena ini menunjukkan bahwa AI dapat memengaruhi cara manusia mengevaluasi keyakinannya, bukan sekadar memengaruhi keputusan yang diambilnya. Penelitian ini menyoroti tantangan baru dalam interaksi manusia dengan kecerdasan buatan.
Hingga saat ini, lebih banyak perhatian difokuskan pada tingkat akurasi AI. Namun penelitian ini menunjukkan bahwa dampak psikologis AI terhadap pengguna juga perlu diperhitungkan, terutama ketika AI memberikan jawaban dengan cara yang terkesan meyakinkan.
Kecerdasan buatan mengubah cara pengguna mengevaluasi kepercayaan mereka
Dalam penelitian ini, peserta diminta menjawab sejumlah pertanyaan yang tingkat kesulitannya tinggi. Beberapa peserta mendapat bantuan berupa saran dari AI sebelum memberikan jawaban akhir.
Hasilnya menunjukkan bahwa peserta yang menerima saran AI tidak selalu mendapatkan hasil yang lebih akurat dibandingkan kelompok lainnya. Namun, mereka menunjukkan tingkat kepercayaan yang jauh lebih tinggi terhadap jawaban mereka, termasuk ketika jawabannya ternyata salah.
Salah satu peneliti, Valerio Capraro, menduga AI menurunkan ambang batas kepercayaan yang dibutuhkan seseorang sebelum memutuskan suatu jawaban. Dengan kata lain, kehadiran AI membuat pengguna lebih cepat merasa percaya diri tanpa melalui proses evaluasi yang sama seperti yang terjadi saat berpikir mandiri.
Penelitian ini juga menunjukkan bahwa partisipan yang menggunakan AI jarang mengakui bahwa mereka tidak mengetahui jawaban dari sebuah pertanyaan. Sebaliknya, mereka sering kali menerima rekomendasi AI sebagai dasar pengambilan keputusan, padahal informasinya tidak selalu benar.
Kondisi ini terkait dengan fenomena yang disebut dengan bias otomasi, yaitu kecenderungan manusia untuk lebih percaya pada sistem otomatis dibandingkan penilaiannya sendiri.
Menurut para peneliti, masalah utamanya bukan hanya kecerdasan buatan yang menghasilkan jawaban yang salah, namun pengguna juga menciptakan rasa percaya diri yang salah. Kepercayaan yang meningkat ini dapat membuat pengguna ragu-ragu untuk memverifikasi informasi atau mempertimbangkan kemungkinan AI juga melakukan kesalahan.
Pentingnya menjaga pemikiran kritis saat menggunakan kecerdasan buatan
Temuan ini memperkuat sejumlah penelitian lain yang menunjukkan bahwa ketergantungan berlebihan pada kecerdasan buatan dapat menurunkan kemampuan berpikir kritis dan mengevaluasi informasi secara mandiri.
Misalnya, penelitian sebelumnya yang dilakukan oleh MIT Media Lab menemukan bahwa penggunaan AI dalam verifikasi berita dapat meningkatkan akurasi dalam jangka pendek, namun dapat mengurangi kemampuan pengguna untuk menemukan informasi yang salah ketika bantuan AI tidak tersedia.
Para peneliti menekankan bahwa kecerdasan buatan tetap menjadi alat yang berguna selama digunakan sebagai pendamping, dan bukan sebagai pengganti proses berpikir manusia. Pengguna disarankan untuk mempertimbangkan respons AI sebagai pertimbangan utama.
Setelah itu, pengguna disarankan untuk mengecek melalui sumber lain, terutama informasi terkait pekerjaan, pendidikan, kesehatan, atau keputusan penting lainnya. Fenomena ini semakin penting karena AI generatif kini banyak digunakan dalam berbagai aktivitas sehari-hari.
AI generatif kini digunakan untuk mencari informasi, menyusun dokumen, dan membantu pemrograman, untuk mendukung proses pembelajaran. Semakin seseorang bergantung pada AI, semakin penting pula kemampuan untuk mengevaluasi apakah jawaban yang diberikan benar-benar didukung oleh fakta atau sekadar terkesan meyakinkan.
Peneliti berharap hasil penelitian ini dapat menjadi bahan pertimbangan bagi pengembang AI dalam merancang sistem yang tidak hanya memberikan jawaban, namun juga mendorong pengguna untuk terus berpikir dan mengkaji ulang informasi yang diterima.
Cara ini dinilai membantu mencegah munculnya rasa percaya diri yang tidak didasari pemahaman yang benar. Bagi pengguna, penelitian ini mengingatkan bahwa AI adalah alat yang dapat meningkatkan produktivitas, namun tidak selalu merupakan otoritas yang valid.
Mempertahankan sikap kritis, memverifikasi informasi, dan berani mempertanyakan jawaban AI tetap merupakan langkah penting agar keputusan yang diambil didasarkan pada bukti, bukan hanya keyakinan yang terbentuk dari respons AI yang tampak meyakinkan.
Jadikan Servisenta.biz.id sebagai sumber informasi pilihan Anda
(MMI)
(Tag untuk terjemahan)kecerdasan buatan
