Namun, dalam situasi nyata, hasilnya jauh berbeda. Ketika pengguna berinteraksi secara bertahap seperti percakapan biasa, akurasi turun drastis menjadi hanya 35 persen.
Hal ini terjadi karena manusia sering tidak menyampaikan semua gejala secara lengkap, atau menjelaskan dengan cara yang berbeda-beda. AI yang bergantung pada pola bahasa bisa salah menafsirkan informasi tersebut.
Salah satu contoh paling berbahaya adalah ketika gejala serius seperti pendarahan otak justru dianggap sebagai sakit kepala biasa oleh AI. Kesalahan seperti ini bisa berakibat fatal jika diikuti tanpa verifikasi.
Risiko Misinformasi dari AI
Penelitian lain di Amerika Serikat juga menemukan bahwa lebih dari setengah jawaban AI terkait kesehatan mengandung masalah, mulai dari tidak lengkap hingga menyesatkan.
Dalam beberapa kasus, AI bahkan memberikan rekomendasi yang tidak berbasis medis, seperti pengobatan alternatif untuk penyakit serius seperti kanker.
Masalah utama terletak pada cara kerja AI itu sendiri. AI dirancang untuk menghasilkan jawaban yang terdengar masuk akal berdasarkan pola bahasa, bukan memastikan kebenaran medis secara mutlak.
Seorang peneliti, Dr Nicholas Tiller, menyatakan: “AI dirancang untuk terdengar meyakinkan, dan itu membuat pengguna mudah percaya tanpa mempertanyakan.”
Perbedaan AI dan Pencarian Internet Biasa
Sekilas, bertanya pada AI mirip dengan mencari informasi di internet. Namun, ada perbedaan penting.
Saat menggunakan mesin pencari, pengguna biasanya melihat berbagai sumber, membandingkan informasi, dan menilai kredibilitasnya. Sementara AI menyajikan jawaban tunggal yang terasa personal dan langsung.
Inilah yang membuat AI terasa lebih “meyakinkan”, tetapi juga lebih berisiko jika informasinya salah.
Baca Juga
Kapan AI Masih Bisa Digunakan
Meski memiliki keterbatasan, AI bukan berarti harus dihindari sepenuhnya. Dalam beberapa situasi, AI tetap bisa bermanfaat.
AI dapat digunakan untuk:
