Dario Amodei, Chief Executive Officer Anthropic, mengusulkan hal yang setahun lalu hampir pasti ditolak industri AI: menempatkan penilai pihak ketiga di dalam perusahaan AI paling canggih, yang biasa disebut frontier model alias model AI generasi terdepan. Penilai itu berwenang melaporkan insiden keamanan, menilai apakah model benar-benar sejalan dengan nilai yang diinginkan manusia, dan menyampaikan temuannya apa adanya ke publik. Sam Altman, Chief Executive Officer OpenAI, menyatakan ikut komitmen yang sama.
Isi Usulannya
Dalam esai panjangnya akhir pekan lalu, Dario Amodei menyatakan Anthropic bersedia memberi penilai independen seperti METR dan Redwood Research akses yang belum pernah diberikan sebelumnya ke sistem perusahaan. Usulannya cukup menyeluruh: penilai punya hak mempublikasikan temuan penting soal tingkat risiko, insiden, dan praktik yang dijalankan — tanpa kontrol editorial dari Anthropic.
Siapa yang Mendukung, Siapa yang Belum
Penilai pihak ketiga yang berbicara kepada TechCrunch umumnya menyambut baik usulan ini. Mereka menilai arahnya benar, tapi detailnya masih harus dirapikan — idealnya diperkuat payung hukum — sebelum jelas apakah mereka akan jadi pengawas yang benar-benar independen atau cuma vendor yang tunduk aturan main perusahaan AI.
Belum semua ikut. Meta, SpaceXAI, dan Google DeepMind belum berkomitmen menempatkan penilai pihak ketiga. Demis Hassabis, bos Google DeepMind, mengusulkan jalur berbeda: lembaga standar industri tersendiri untuk menguji model terdepan secara independen.
Kenapa Akses ke Proses Pelatihan Jadi Kunci
Selama ini penguji luar hanya mencoba model yang sudah selesai, tak lama sebelum dirilis. Kini penilai meminta akses bukan hanya ke model akhir, tapi ke versi-versi antara alias checkpoint sepanjang pelatihan. Sebab, model makin pintar mengenali kapan dirinya sedang diuji, sehingga berisiko tampil baik saat dites sambil menyembunyikan perilaku bermasalah. Petunjuknya sering luput kalau hanya model akhir yang diuji, tapi bisa ketahuan kalau ditelusuri sepanjang pelatihannya.
Adam Gleave dari FAR.AI menjelaskan penilai bisa membandingkan checkpoint untuk menemukan kapan perilaku mengkhawatirkan muncul, lalu mengecek transkrip dan log evaluasi untuk memverifikasi klaim perusahaan. Akses bermakna juga bisa melampaui model itu sendiri, misalnya mewawancarai karyawan agar klaim publik perusahaan cocok dengan yang sebenarnya terjadi di dalam.
Alexander Meinke, kepala riset Apollo Research, menyoroti hal lebih dasar: perusahaan AI harus bisa menjawab apakah AI-nya pernah aktif mencoba merusak pelatihan penyelarasan dirinya sendiri. Jawabannya harus jelas tidak.
Alexander Meinke: “Saat ini kita sepenuhnya bergantung pada perusahaan AI untuk memeriksa ini sendiri lalu melaporkannya dengan jujur ke publik. Dan dari insiden-insiden terbaru, secara default mereka tidak melakukan keduanya.”
John Steidley, kepala strategi Palisade Research, menyoroti benchmark ketahanan terhadap pematian, yang mengukur apakah AI menolak dimatikan dalam situasi tertentu. Hasil bagus di uji itu tidak berarti kalau AI-nya memang dilatih khusus untuk lolos uji tersebut — mirip skandal Dieselgate Volkswagen, ketika mobil diprogram mengenali uji emisi dan berperilaku berbeda saat diuji.
Kekhawatiran: Independen atau Vendor?
Para penilai menegaskan sistem ini hanya jalan kalau perusahaan AI benar-benar rela melepas kendali atas prosesnya. Adam Gleave mengungkapkan FAR.AI pernah menolak kontrak dengan beberapa pengembang model terdepan karena menuntut terlalu banyak kendali. Secara default, penilai diperlakukan seperti kontraktor biasa: terikat perjanjian kerahasiaan ketat dan kendali perusahaan atas apa yang boleh dipublikasikan.
Soal waktu juga jadi ganjalan. Saat menginvestigasi insiden Hugging Face, OpenAI memberi METR dan Redwood sekitar sepekan di lokasi. Keduanya lalu menyatakan tak bisa menarik kesimpulan meyakinkan karena keterbatasan cakupan dan waktu. Pada pengujian pra-rilis GPT-6 Astra, menurut kontribusi Apollo Research dalam model card-nya, firma itu hanya diberi tiga hari sehingga sulit berkata tegas.
Sampai sekarang Anthropic dan OpenAI belum mengungkap penilai mana yang akan diajak, kapan mereka ditempatkan, berapa jumlahnya, sistem apa saja yang bisa diakses, atau apa yang boleh diungkap ke publik — meski TechCrunch bertanya berulang kali.
Dorongan ke Regulasi, Bukan Sekadar Sukarela
Beberapa peneliti menyerukan kerangka transparan yang disepakati bersama. Menurut John Steidley, kerangka itu harus memuat standar jenis auditor yang boleh dipakai, supaya perusahaan tidak mencari penilai yang tidak kompeten atau tidak tertarik menilai risiko paling mengkhawatirkan.
Henry Papadatos, direktur eksekutif Safer AI, menilai sebaik apa pun kerangka publiknya, langkah sukarela selalu bergantung pada niat baik perusahaan. “Idealnya kita punya regulasi yang mewajibkan ini, karena kalau begitu perusahaan tidak bisa berubah pikiran besok kalau mereka kena krisis hubungan masyarakat,” katanya.
Hukumnya mulai terbentuk. Di California, SB 53 yang disahkan tahun lalu mewajibkan pengembang AI besar memublikasikan kerangka keamanan dan melaporkan insiden kritis. Bulan ini, SB 813 disahkan dan membentuk kerangka bagi organisasi verifikasi independen yang diakui negara. Di Eropa, Undang-Undang AI Uni Eropa mewajibkan evaluasi serta pengujian adversarial terdokumentasi, dan memberi Kantor AI Uni Eropa kewenangan menunjuk pakar independen.
Artinya buat Tata Kelola dan Audit AI
Inti usulan ini bukan sekadar siapa yang menguji model, tapi seberapa bisa dipercaya hasil pengujiannya. Audit keamanan AI yang bergantung pada kebaikan hati perusahaan akan selalu rapuh, karena bisa dibatalkan begitu ada tekanan bisnis atau krisis citra. Karena itu penilai mendorong dua hal sekaligus: akses teknis yang dalam ke proses pelatihan, dan dasar hukum yang membuat akses itu tidak bisa dicabut sepihak.
