Pakar Kian Khawatir AI Lepas Kendali, Benarkah Bisa Menguasai Dunia?

fin.co.id - Kemajuan kecerdasan buatan atau artificial intelligence (AI) membuat pertanyaan yang dahulu hanya hidup dalam film fiksi ilmiah kini mulai dibahas lebih serius: apakah AI suatu hari dapat lepas dari kendali manusia, bahkan menguasai dunia?

Jawabannya belum tentu. Belum ada bukti bahwa AI saat ini memiliki kesadaran, kehendak, maupun kemampuan untuk mengambil alih dunia secara mandiri. Namun, sejumlah ilmuwan dan tokoh industri teknologi menilai risiko dari AI yang sangat canggih tidak boleh diabaikan. Kekhawatiran itu bukan semata tentang robot yang menyerang manusia, melainkan tentang sistem digital yang diberi terlalu banyak wewenang sebelum keselamatan dan pengawasannya benar-benar matang.

Kekhawatiran Itu Memang Ada di Kalangan Ahli

Pada 2023, Center for AI Safety menerbitkan pernyataan singkat yang ditandatangani sejumlah figur penting di bidang AI. Di antara penandatangan tersebut terdapat Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Demis Hassabis, Sam Altman, serta Dario Amodei.

Pernyataan itu menyebut bahwa “mitigasi risiko kepunahan dari AI seharusnya menjadi prioritas global”, sejajar dengan risiko sosial berskala besar seperti pandemi dan perang nuklir. Pernyataan tersebut tidak berarti para penandatangan menganggap kiamat akibat AI pasti akan terjadi. Mereka menekankan bahwa risiko berakibat sangat besar tetap perlu dipersiapkan, meski peluang terjadinya belum dapat dipastikan. Statement on AI Extinction Risk

Istilah “AI mengambil alih dunia” memang terdengar ekstrem. Namun, di balik ungkapan itu terdapat isu teknis yang lebih nyata, yakni bagaimana manusia memastikan sistem AI tetap melakukan tujuan yang benar, dapat diawasi, dan tidak menyimpang ketika kemampuannya meningkat.

Apa yang Dimaksud AI Lepas Kendali?

AI lepas kendali tidak harus berarti mesin tiba-tiba memiliki ambisi seperti manusia. Risiko dapat muncul ketika sebuah sistem diberi target yang tampak sederhana, tetapi mengejar target tersebut dengan cara yang tidak diinginkan.

Sebagai contoh, sistem AI dapat diminta meningkatkan efisiensi perusahaan. Jika pengamanannya lemah, AI mungkin mengambil keputusan yang merugikan pekerja, pelanggan, atau masyarakat demi mengejar angka efisiensi. Dalam skala yang lebih serius, AI dapat digunakan untuk mengotomatisasi serangan siber, menyebarkan propaganda, membuat penipuan digital lebih meyakinkan, atau membantu pihak tertentu mengembangkan ancaman biologis.

Pemerintah Inggris pernah menyoroti bahwa model AI yang semakin mampu menulis perangkat lunak dapat meningkatkan ancaman keamanan siber. Kemampuan AI dalam pemodelan biologi juga dinilai berpotensi meningkatkan risiko biosekuriti. Risiko itu tidak berarti AI pasti akan melakukan kejahatan atas kehendaknya sendiri, melainkan kemampuan tersebut dapat disalahgunakan atau dijalankan tanpa pengendalian yang memadai. Frontier AI Taskforce: First Progress Report

Risiko yang Lebih Dekat dan Sudah Terjadi

Perdebatan tentang AI supercerdas kerap menarik perhatian. Namun, bahaya AI yang paling dekat justru sudah muncul dalam kehidupan sehari-hari.

Deepfake dapat dipakai untuk meniru wajah dan suara seseorang guna melakukan penipuan. Konten buatan AI juga dapat mempercepat penyebaran hoaks dalam jumlah besar. Di dunia kerja, algoritma yang tidak diuji dengan baik bisa menghasilkan keputusan diskriminatif dalam proses rekrutmen, pemberian kredit, atau penilaian layanan publik.

Risiko lain adalah ketergantungan manusia terhadap keputusan mesin. Ketika AI dipakai dalam bidang kesehatan, keuangan, transportasi, maupun infrastruktur penting, kesalahan model dapat berdampak luas. AI mampu menghasilkan jawaban yang terdengar meyakinkan, tetapi tetap dapat keliru, bias, atau memakai dasar informasi yang tidak tepat.

Karena itu, pertanyaan terpenting bukan hanya apakah AI kelak menguasai manusia. Pertanyaan yang lebih mendesak adalah siapa yang mengendalikan AI, data apa yang digunakan, sejauh mana sistem boleh mengambil keputusan, dan siapa yang bertanggung jawab bila terjadi kesalahan.