Anthropic Usul Kill Switch AI Jadi Mandatory untuk Cegah Risiko Fatal

fin.co.id - Pendiri Anthropic, Jack Clark, mengusulkan agar industri kecerdasan buatan atau artificial intelligence (AI) memiliki kill switch yang bersifat mandatory. Gagasan ini muncul di tengah perdebatan besar mengenai sejauh mana AI perlu diawasi, terutama ketika kemampuan teknologi tersebut berkembang sangat cepat dan mulai digunakan pada semakin banyak sektor kehidupan.

Kill switch secara sederhana dapat dipahami sebagai mekanisme penghentian darurat. Dalam konteks AI, sistem ini dirancang agar sebuah model atau layanan dapat dihentikan, dibatasi, atau dinonaktifkan ketika menunjukkan perilaku yang berbahaya, tidak terkendali, atau melanggar batas keamanan yang telah ditetapkan.

Clark mengatakan kepada BBC bahwa membiarkan AI berkembang sebagai industri yang sepenuhnya tidak diatur merupakan langkah yang buruk. Ia tidak memberikan angka pasti mengenai kemungkinan AI memusnahkan manusia, karena menurutnya statistik semacam itu tidak terlalu membantu. Namun, ia menekankan bahwa risiko yang mungkin muncul tetap perlu direspons melalui aturan dan pengamanan yang nyata.

Kill Switch Bukan Sekadar Tombol Mati

Istilah kill switch kerap menimbulkan gambaran seolah-olah AI dapat dimatikan hanya dengan menekan satu tombol. Kenyataannya, penerapannya jauh lebih rumit. Sistem AI modern tidak hanya berupa satu perangkat lunak yang berjalan di satu komputer, melainkan dapat terhubung ke pusat data, aplikasi, basis data, perangkat fisik, hingga layanan digital yang digunakan oleh jutaan orang.

Karena itu, kill switch yang dimaksud bukan hanya penghentian total. Mekanisme tersebut dapat berbentuk pembatasan akses, penghentian proses tertentu, penguncian model saat mendeteksi perilaku berisiko, hingga kewajiban audit oleh pihak ketiga. Dalam model pengawasan seperti ini, perusahaan tidak menjadi satu-satunya pihak yang menentukan apakah sebuah sistem masih aman digunakan.

Usulan agar kill switch menjadi mandatory juga mencerminkan kekhawatiran bahwa perusahaan AI mungkin menghadapi konflik kepentingan. Di satu sisi, mereka dituntut mempercepat pengembangan teknologi agar tidak tertinggal dari pesaing. Di sisi lain, mereka harus memastikan produk yang dilepas ke publik tidak menciptakan dampak yang sulit dikendalikan.

Perdebatan Risiko AI Masih Terbelah

Tidak semua tokoh industri AI sependapat dengan narasi bahwa teknologi ini dapat membawa ancaman besar bagi umat manusia. Clement Delangue, pemimpin platform pengembang Hugging Face, menilai diskusi tentang risiko kepunahan akibat AI harus ditempatkan dalam perspektif yang lebih proporsional.

Sementara itu, George Arison dari Grindr menganggap sebagian ketakutan terhadap AI dapat dipakai perusahaan untuk mendukung rencana bisnis mereka. Menurutnya, valuasi besar perusahaan AI hanya dapat dibenarkan apabila mereka menyampaikan ambisi bahwa teknologi yang dikembangkan akan mengambil alih banyak industri dan jenis pekerjaan.

Pandangan tersebut menunjukkan bahwa perdebatan AI bukan hanya soal teknologi, tetapi juga menyangkut ekonomi dan kekuasaan. Perusahaan AI besar kini memiliki valuasi yang sangat tinggi. Anthropic disebut bernilai sekitar 965 miliar dolar AS dan sedang mempersiapkan penawaran saham perdana atau initial public offering. OpenAI juga disebut memiliki valuasi sekitar 852 miliar dolar AS.

Besarnya nilai perusahaan membuat masyarakat wajar mempertanyakan apakah peringatan risiko AI benar-benar didorong oleh kepedulian terhadap keamanan publik, atau turut berkaitan dengan kebutuhan membangun legitimasi bisnis. Meski demikian, adanya kemungkinan motif ekonomi tidak otomatis berarti risiko teknologi dapat diabaikan.

Mengapa Pengawasan Tetap Dibutuhkan

AI sudah digunakan untuk membuat teks, gambar, video, analisis data, pengambilan keputusan, hingga otomasi pekerjaan. Semakin luas penggunaan tersebut, semakin besar pula dampak kesalahan sistem, penyalahgunaan, kebocoran data, manipulasi informasi, dan keputusan otomatis yang merugikan manusia.

Pengawasan tidak harus selalu berarti memperlambat seluruh inovasi AI. Aturan yang jelas justru dapat membantu membedakan pengembangan yang bertanggung jawab dari produk yang dilepas secara tergesa-gesa. Kill switch mandatory dapat menjadi salah satu lapisan perlindungan, tetapi tidak cukup jika berdiri sendiri.