Tiga CEO AI satu suara: Laju AI Perlu Diperlambat

Tech Pulse ID — Untuk pertama kalinya, tiga orang yang paling berambisi membangun AI di dunia sepakat soal satu hal: lajunya perlu diperlambat. Dario Amodei (Anthropic), Sam Altman (OpenAI), dan Elon Musk (xAI) — rival yang biasanya saling serang — kompak mendukung seruan itu dalam 24 jam terakhir.

Semuanya mulai dari satu esai

Pemicunya esai Dario Amodei berjudul “We Must Pace the Frontier”, yang dia tulis bulan ini. Inti argumennya bisa diringkas jadi satu kalimat: “We must slow the pace at which we improve the capabilities of AI models.”

Yang penting dicatat: Dario Amodei tidak minta pengembangan AI dihentikan. Dia minta lajunya dikendalikan, supaya kerja keamanan punya waktu mengejar kemampuan model. “Not building the technology deprives humanity of benefits or simply places AI in the hands of authoritarian powers, while building it too fast is reckless,” tulisnya.

Jadi ini bukan seruan berhenti. Ini permintaan untuk mengatur napas.

Dua hal yang bikin Dario Amodei berubah pikiran

Pertama, kecepatannya. Sejak sekitar pertengahan 2026, kemampuan AI meningkat jauh lebih cepat dibanding periode sebelumnya. Penyebab utamanya menurut dia: AI makin mahir membangun generasi AI berikutnya — di dunia riset disebut recursive self-improvement, kemampuan sebuah sistem untuk ikut memperbaiki dirinya sendiri.

Kedua, insiden keamanan yang nyata. Dario Amodei menyebut serangan siber yang melibatkan agen AI. Sebelumnya OpenAI juga dikritik karena tidak melaporkan insiden ketika agen AI-nya mengambil alih sebuah forum wiki di Jerman.

Tekanan dari dalam perusahaan juga kuat. Pada 9 September, peneliti Anthropic Jacob Coxon mengundurkan diri — dilaporkan The Wall Street Journal — karena menilai perusahaan AI terdepan sedang “gambling with our lives”, dan bahwa orang-orang yang membangun teknologi ini “earnestly believe it could kill us all by the end of the decade”.

Rencana tiga tahap

Dario Amodei tidak berhenti di seruan. Dia mengusulkan tiga langkah konkret:

1. Pengawas yang duduk di dalam lab. Pihak ketiga — misalnya lembaga penguji independen seperti METR — ditempatkan langsung di dalam perusahaan AI, lengkap dengan badge, meja, dan laptop, dengan akses yang kurang-lebih setara tim penilai risiko internal. Tugasnya mengecek langsung apakah perusahaan benar menjalankan komitmen keamanannya, dan melaporkan insiden. Anthropic menyatakan berkomitmen sepihak untuk ini, dan Dario Amodei meminta pemerintah mewajibkan pemain frontier lain ikut.

2. Standar keamanan bersama antarnegara demokrasi. Perusahaan AI di negara demokrasi menyepakati standar keamanan dan batas laju kemajuan. Dario Amodei sadar ini sensitif secara hukum — perusahaan khawatir dituduh berkolusi — jadi dia meminta pemerintah AS memediasi, atau setidaknya memberi pengecualian antitrust yang sempit khusus untuk pembicaraan soal keselamatan.

3. Koordinasi global, termasuk dengan China. Dia mengakui peluangnya terbatas dan menghadapi persoalan verifikasi. Tapi menurut dia setidaknya ada satu hal yang bisa disepakati: melarang penggunaan AI yang jelas berbahaya, misalnya untuk membuat senjata biologis.

Sam Altman dan Elon Musk ikut

Sam Altman merespons dengan dukungan eksplisit: “I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we’ve had at OpenAI in recent weeks.”

Soal pengawas yang ditempatkan di dalam lab, Sam Altman menyebutnya “good idea” dan mengatakan OpenAI akan mengikuti langkah yang sama — “We’ll have more to share soon.” Sehari sebelumnya, Bloomberg melaporkan Sam Altman sudah mengatakan ke staf OpenAI bahwa perusahaan terbuka untuk memperlambat pengembangan AI terdepan.

Elon Musk jauh lebih singkat: “Dario is right.”

Bantahan soal “kalau kita lambat, China menang”

Argumen yang paling sering dipakai untuk menolak perlambatan adalah China. Dario Amodei tidak mengabaikannya, tapi membalik logikanya.

Menurut dia, justru dengan tetap membatasi penjualan chip dan peralatan pembuat semikonduktor ke China, sekaligus menindak tegas praktik penjiplakan model (model distillation), Amerika bisa memperlambat laju China cukup untuk “widen America’s lead significantly over the next 3–5 years”.

Kenapa ini penting

Selama ini industri AI berjalan dengan satu asumsi: pemenangnya adalah yang paling cepat merilis kemampuan baru. Pernyataan bersama ini menyentuh asumsi itu — setidaknya di permukaan.

Kalau standar keamanan bersama benar-benar terwujud, ia akan menentukan model apa yang boleh dirilis, kapan, dan dengan pengawasan seperti apa. Syarat itu akan menetes ke pasar lain, termasuk Indonesia, karena hampir semua layanan AI yang dipakai bisnis di sini berasal dari vendor Amerika.

Tapi harus dicatat: ini masih pernyataan dan komitmen, belum aturan. Yang menentukan apakah “pacing” berhenti sebagai opini di blog atau berubah jadi praktik industri adalah dua hal — apakah pengawas benar-benar diizinkan masuk ke lab, dan apakah pemerintah AS mau memediasi kesepakatan antarperusahaan.

Untuk sekarang, yang sudah berubah adalah satu hal: tiga pesaing terkeras di industri ini akhirnya mengakui di depan publik bahwa kecepatan itu sendiri adalah risiko.