Tech Pulse ID — Salah satu pendiri perusahaan AI Anthropic, Jack Clark, mengatakan bahwa tombol pemutus darurat atau kill switch untuk mematikan sistem AI yang berbahaya mungkin perlu diwajibkan oleh negara. Kepada BBC, Jack Clark menilai alat pemutus itu sebaiknya bisa diperiksa pihak ketiga, bukan hanya diklaim ada oleh perusahaannya. Namun ketika gagasan serupa dibawa ke parlemen Inggris, pemerintah negara itu justru menolaknya dengan alasan tidak akan menyelesaikan akar masalah.
Anthropic: Tombol Pemutus Darurat AI Mungkin Perlu Diwajibkan Negara
Apa Sebenarnya Tombol Pemutus Darurat Itu?
Istilah kill switch sering terdengar seperti ada satu tombol merah raksasa di ruang kendali. Kenyataannya, yang dimaksud adalah mekanisme agar sebuah sistem AI bisa dimatikan atau dihentikan sepenuhnya ketika perilakunya mulai berbahaya. Jack Clark menyebut “sebagian besar laboratorium punya cara berbeda untuk mencabut colokan”, termasuk Anthropic. Masalahnya, kata dia, cara itu belum tentu bisa dibuktikan oleh pihak di luar perusahaan.
“Apakah Anda akan mewajibkan perusahaan benar-benar memiliki tombol pemutus? Apakah tombol pemutus itu bisa diverifikasi pihak ketiga?” kata Jack Clark. Menurut dia, pertanyaan semacam itu adalah hal yang masyarakat akan ingin ketahui, dan mungkin ingin diatur lewat aturan resmi nanti. Jack Clark menambahkan bahwa detail soal kewajiban dan verifikasi tombol pemutus itu harus menjadi bagian dari pembahasan kebijakan AI yang lebih besar.
Tekanan Datang dari Dalam Industri Sendiri
Dorongan ini muncul di tengah alarm yang makin keras dari kalangan industri AI. Dario Amodei, yang memimpin Anthropic, akhir pekan lalu menyerukan agar laju pengembangan AI diperlambat dan diawasi lebih ketat. Dario Amodei menambahkan bahwa setiap langkah menahan laju AI harus dilakukan tanpa mengorbankan keunggulan komersial.
Sejumlah nama besar ikut bersuara. Ilmuwan komputer sekaligus penerima Nobel, Geoffrey Hinton, yang dikenal sebagai “Godfather of AI”, mengatakan kepada BBC bahwa peluang 10 persen AI memusnahkan seluruh manusia bukan angka yang tidak masuk akal. Geoffrey Hinton dan sejumlah pihak lain menduga hal itu bisa terjadi jika AI mengambil alih sistem penting yang terhubung ke internet, lalu membalikkannya kepada manusia. Di internal Anthropic, ilmuwannya, Evan Hubinger, mengaku secara pribadi menilai kemungkinan kepunahan manusia akibat AI berada di angka lebih dari 10 persen dalam satu dekade ke depan. Sebelumnya, tulisan seorang peneliti AI yang keluar dari Anthropic karena khawatir AI bisa menghapus umat manusia sempat menyebar luas.
Jack Clark sendiri menolak terjebak pada angka-angka. “Saya rasa statistik seperti itu tidak terlalu berguna,” katanya. Namun ia menegaskan membiarkan AI terus berjalan sebagai industri yang sepenuhnya tanpa aturan adalah ide buruk.
“Kami sedang melempar dadu dengan risiko yang luar biasa besar,” kata Jack Clark. “Dan intinya, kami harus mengubah arah industri ini.”
Pemerintah Inggris Menolak Gagasan Ini
Di Inggris, gagasan tombol pemutus darurat sudah dibawa ke parlemen oleh sejumlah bangsawan dan anggota parlemen dalam beberapa pekan terakhir. Namun kantor Kabinet, bagian pemerintahan Inggris yang memimpin urusan keamanan AI, menolaknya. Menurut juru bicaranya, Inggris “tidak bisa asal mematikan AI”. Alasan resminya: memblokir akses ke sebuah model AI di Inggris tidak akan mencegah model itu dikembangkan atau disalahgunakan di tempat lain.
Penolakan pemerintah tidak otomatis menggugurkan rancangan undang-undang tersebut, tapi membuat peluangnya menjadi hukum sangat kecil. Kantor Kabinet menegaskan perusahaan punya tanggung jawab jelas untuk mengembangkan produknya dengan aman dan menanamkan modal pada infrastruktur keamanan yang dibutuhkan teknologi tersebut, serta melanjutkan pendekatan jangka panjang dan berbasis sains dalam menghadapi risiko AI.
Kritik: Terlalu Lambat dan Tidak Bisa Sendirian
Penolakan itu juga sejalan dengan kritik teknis. Kritikus menilai tombol pemutus akan terlalu lambat, sebab butuh berbulan-bulan bagi serangan agen AI yang menyimpang untuk ketahuan, dan itu pun setelah peretasan besar selesai. Agar benar-benar berfungsi, perusahaan teknologi raksasa harus dipaksa menjalankannya dalam skala besar, terutama di Amerika Serikat, tempat data center terbesar berada.
Mantan peneliti OpenAI, Daniel Kokotajlo, menilai satu negara saja tidak bisa membuat tombol pemutus legal maupun teknis tanpa kesepakatan internasional. “Mematikan akses ke model AI dalam situasi darurat tidak akan banyak melindungi Anda,” ujar Daniel Kokotajlo. Menurut dia, tombol pemutus tetap lebih baik daripada tidak ada sama sekali, tetapi politisi sebaiknya lebih fokus pada diplomasi dengan Amerika Serikat agar regulasinya benar-benar bisa memperlambat pengembangan AI.
Di Amerika Serikat, politisi memang sedang membahas rancangan yang dijuluki Kill Switch Act, yang mewajibkan perusahaan punya cara mematikan alat AI bermasalah. Namun Presiden Amerika Serikat, Donald Trump, menolak menahan laju AI, bahkan menyebut isu AI mengambil alih dunia sebagai kabar bohong, dan menyebut industri ini sebagai “angsa bertelur emas”.
Sumber
Artikel ini disusun dari dua laporan BBC: AI ‘kill switch’ may need to be mandatory, Anthropic co-founder tells BBC dan UK government rejects ‘kill switch’ idea for dangerous AI.
