Anthropic Usul Kill Switch AI Jadi Mandatory untuk Cegah Risiko Fatal

Perusahaan juga perlu melakukan pengujian keamanan sebelum produk dirilis, membuka ruang audit independen, menjelaskan batas kemampuan AI kepada pengguna, serta menyediakan jalur pelaporan ketika sistem menimbulkan masalah. Pemerintah pun perlu menyusun regulasi yang mampu mengikuti perubahan teknologi tanpa memberi keleluasaan berlebihan kepada perusahaan.

Penutup

Usulan Anthropic agar kill switch AI menjadi mandatory memperlihatkan bahwa keamanan kini menjadi bagian penting dalam perlombaan AI global. Perdebatan tentang ancaman AI memang masih terbelah, tetapi perkembangan teknologi yang cepat membuat langkah pencegahan tidak bisa hanya menunggu sampai kerugian terjadi.

Dalam perspektif modern, pengawasan AI bukan penolakan terhadap kemajuan teknologi. Pengawasan merupakan upaya memastikan inovasi tetap berada di bawah kendali manusia, memiliki batas yang jelas, dan dapat dihentikan ketika risiko fatal mulai terlihat.

Referensi:

Kali Hays, AI “kill switch” may need to be mandatory, Anthropic co-founder tells BBC