Anthropic menyodorkan draf undang-undang buatannya sendiri ke pembuat kebijakan di Capitol Hill. Isinya satu hal yang jarang dibahas terbuka: kapan pemerintah Amerika Serikat boleh menghentikan sebuah model AI. Politico melaporkan Jumat (16/10), mengutip tiga orang yang mengetahui pembicaraan tertutup itu, bahwa dokumen tersebut belum pernah diberitakan sebelumnya.
Ambangnya tinggi. Menurut laporan itu, pemerintah federal hanya boleh memblokir peredaran atau penggunaan sebuah model kalau model tersebut menimbulkan risiko kerugian yang “foreseeable dan imminen” senilai lebih dari US$1 miliar, atau menyebabkan kematian dan luka serius pada lebih dari 50 orang. Risikonya pun harus berasal dari tiga jalur saja: pembuatan atau pelepasan senjata biologis, model yang lolos dari kendali pengembangnya, atau serangan siber.
Apa saja isi draf itu
Selain ambang kerugian, draf ini mengatur kewajiban baru untuk pengembang AI frontier dan sejumlah pembatas untuk pemerintah sendiri.
- Evaluator independen wajib mendaftar ke Departemen Perdagangan dan menilai laboratorium serta model frontier-nya secara berkala. Laboratorium boleh membayar mereka, asal bayarannya tidak dikaitkan dengan hasil evaluasi.
- Kalau evaluator menemukan “imminent enumerated risk”, temuan itu harus dilaporkan ke Departemen Perdagangan dalam 72 jam setelah penilaian selesai.
- Departemen Perdagangan tidak bisa menutup model sendirian; mereka harus meminta hakim Pengadilan Distrik District of Columbia memerintahkan penghentian. Badan atau pejabat federal lain dilarang menangguhkan pengembangan, penerapan, atau pemakaian internal model.
- Pengembang wajib menyusun kerangka kerja keselamatan, menerbitkan laporan transparansi untuk model frontier baru, melindungi pelapor, dan melaporkan insiden keselamatan kritis.
- Draf itu juga menganulir sebagian aturan negara bagian, khususnya soal pengungkapan risiko, evaluasi pihak ketiga, dan pelaporan insiden kritis.
Juru bicara Anthropic menyebut draf tersebut mewakili proposal di dokumen Advanced AI Framework perusahaan yang terbit Juni 2026. “These are sensible policies we believe Congress should act on,” katanya.
Kenapa perusahaan AI menulis aturan yang mengikat dirinya sendiri
Konteksnya menjelaskan banyak hal. Sepanjang 2026 Anthropic berulang kali jadi sasaran tindakan cepat Washington: dilarang masuk lingkup Pentagon pada Februari, lalu pada Juni diminta menangguhkan model-model paling canggihnya selama hampir tiga minggu. Liputan lain menyebut dua model tercanggihnya terhenti oleh kontrol ekspor yang diputuskan lewat telepon mendadak antara pejabat administrasi dan eksekutif perusahaan.
Pengalaman itulah yang membuat aturan ini terasa lahir dari kepentingan ganda. Di satu sisi Anthropic menawarkan mekanisme yang memberi pemerintah kewenangan memblokir model berbahaya. Di sisi lain, semua jalur penghentian dipersempit ke satu departemen dan satu hakim federal di Washington DC — sehingga tidak ada lagi tindakan mendadak dari badan lain yang bisa menghentikan produk mereka dalam semalam.
Jurnalis Kelsey Piper menangkapnya begini di X: Anthropic “terrified of the executive branch having the ability to flexibly make them stop at the drop of a hat”. Kritik lebih keras datang dari pegiat keselamatan AI yang menilai ambang US$1 miliar dan 50 korban terlalu tinggi untuk terpicu dalam praktik. Jay Shooster menyebutnya “outrageous and unacceptable and does not remotely represent the position of the AI safety community”.
Tidak semua pihak sepakat
Peneliti kebijakan AI Charlie Bullock dari Institute for Law & AI, lewat X, menilai lebih seimbang. Menurutnya Anthropic “deserves some credit for actually proposing a pretty reasonable AI safety bill; that’s more than other frontier labs have done”, tetapi ia menambahkan draf ini “weaker than the Trahan-Obernolte FRONTIER Act in some key ways”. Nat Purser menyebutnya langkah mundur dari FRONTIER Act, dan menilai sekarang bukan waktu yang tepat memasang batas federal yang lebih lemah secara permanen.
Matt Spence mengkritik sempitnya cakupan risiko: hanya siber dan biologis, sehingga tindakan terhadap risiko tak terduga nyaris mustahil. Zamaan Qureshi menyoroti hal serupa — Anthropic bisa saja mengusulkan aturan yang mewajibkan pelaporan cepat dan akses auditor, tetapi tidak melakukannya.
Soal preemption, Demokrat di Kongres menolak usulan yang dinilai melemahkan aturan negara bagian seperti California, Illinois, dan New York; kelompok industri berargumen tambal sulam aturan antarnegara bagian membebani kepatuhan. Menariknya, pada Juni Anthropic sendiri menulis: “Absent a strong federal law, states should retain full authority to legislate.”
Angka US$1 miliar, 50 korban, dan tenggat 72 jam tidak muncul di dokumen Advanced AI Framework yang dipublikasikan Anthropic; ketiganya dari isi draf menurut Politico.
Statusnya belum jadi RUU
Yang beredar adalah proposal informal, bukan rancangan resmi yang sudah diajukan ke Kongres. Belum ada anggota Kongres yang menautkan namanya, dan Politico tidak menyebut satu pun sponsor. Kongres reses sampai setelah pemilu midterm bulan depan dan belum pernah meloloskan undang-undang AI federal.
Draf ini masuk ke ruang yang sudah penuh usulan: FRONTIER Act dari Reps. Lori Trahan dan Jay Obernolte, pembahasan di Senat oleh Majority Leader John Thune bersama Amy Klobuchar dan Ted Cruz, dorongan Senator Maria Cantwell agar pemerintah punya peran peninjauan lebih besar, sampai tuntutan Bernie Sanders dan Rep. Greg Casar untuk menghentikan pengembangan AI canggih. Anthropic belum mendukung satu RUU tertentu.
Foto: Architect of the Capitol via Wikimedia Commons (public domain).
