Bos Google DeepMind Ingatkan soal Risiko Ancaman AI dan Pentingnya Pengawasan Global

fin.co.id - Perkembangan kecerdasan buatan memasuki fase yang semakin menentukan. Di tengah lonjakan inovasi dan persaingan global, suara kehati-hatian kembali menguat. Dalam wawancara eksklusif dengan BBC, pimpinan Google DeepMind, Demis Hassabis, menegaskan bahwa penelitian terhadap ancaman kecerdasan buatan perlu dilakukan secara mendesak.

Berbicara dalam forum AI Impact Summit di Delhi, Hassabis menyoroti bahwa teknologi ini menghadirkan peluang besar sekaligus risiko nyata. Ia menyatakan bahwa industri membutuhkan “regulasi yang cerdas” yang berfokus pada risiko sesungguhnya, bukan sekadar pembatasan umum yang memperlambat inovasi.

Dua Ancaman Utama yang Disorot

Menurut Hassabis, terdapat dua risiko utama dari perkembangan sistem kecerdasan buatan modern. Pertama, potensi penyalahgunaan oleh pihak yang berniat jahat. Sistem yang semakin canggih dapat dimanfaatkan untuk serangan siber, manipulasi informasi, hingga pengembangan teknologi berbahaya.

Kedua, risiko hilangnya kendali atas sistem otonom yang semakin kuat. Ia memperingatkan pentingnya membangun pagar pengaman yang kokoh agar sistem tidak bertindak di luar tujuan awal perancangnya. Dalam pernyataannya kepada BBC, ia menekankan perlunya “membangun guardrail yang kuat terhadap ancaman paling serius dari kebangkitan sistem otonom.”

Pernyataan ini muncul di tengah percepatan pengembangan model AI generatif dan sistem otonom yang mampu mengambil keputusan secara independen. Perkembangan tersebut membuat regulator di berbagai negara menghadapi tantangan untuk mengikuti laju inovasi.

Perdebatan Regulasi Global Menguat

Forum di Delhi mempertemukan delegasi dari lebih dari 100 negara, termasuk para pemimpin dunia dan tokoh industri teknologi. Sejumlah pihak mendorong tata kelola global yang lebih terkoordinasi untuk memastikan AI berkembang secara aman dan bertanggung jawab.

Namun tidak semua negara sepakat. Delegasi Amerika Serikat menolak pendekatan tata kelola global terpusat. Penasihat teknologi Gedung Putih, Michael Kratsios, menegaskan bahwa adopsi AI tidak boleh terhambat oleh birokrasi atau kontrol terpusat. Perbedaan pandangan ini memperlihatkan betapa kompleksnya merumuskan aturan bersama di tengah persaingan geopolitik dan ekonomi.

Di sisi lain, sejumlah pemimpin teknologi juga menyerukan regulasi yang lebih cepat. Sam Altman, pimpinan OpenAI, menyampaikan perlunya regulasi mendesak dalam pidatonya di forum yang sama. Sementara itu, Perdana Menteri India Narendra Modi mengajak negara-negara bekerja sama agar manfaat AI dapat dirasakan secara luas.

Persaingan Global dan Tanggung Jawab Moral

Hassabis juga menyinggung persaingan antara Barat dan China dalam pengembangan AI. Ia menilai Barat masih sedikit unggul, namun jarak tersebut bisa menyempit hanya dalam hitungan bulan. Pernyataan ini mempertegas bahwa pengembangan AI bukan sekadar isu teknologi, tetapi juga persoalan strategis global.

Di tengah dinamika tersebut, ia mengakui bahwa menjaga keseimbangan antara keberanian inovasi dan tanggung jawab moral bukanlah hal mudah. “Kami tidak selalu benar, tetapi kami lebih sering benar dibanding kebanyakan,” ujarnya, mengakui kompleksitas pengambilan keputusan di sektor ini.

Ia juga menekankan pentingnya pendidikan sains, teknologi, teknik, dan matematika. Menurutnya, latar belakang teknis akan tetap menjadi keunggulan dalam memanfaatkan sistem AI, bahkan ketika teknologi tersebut semakin mampu menulis kode atau membangun aplikasi secara mandiri. Kreativitas, selera, dan penilaian manusia tetap menjadi elemen penting.