Tech Pulse ID — Salah satu nama paling vokal soal risiko AI kini duduk di kursi pengambil keputusan: Paul Christiano, peneliti yang dikenal sebagai salah satu arsitek teknik pelatihan model bahasa besar, resmi bergabung ke dewan OpenAI Foundation. Kabar ini diumumkan pada Rabu dan langsung jadi sorotan, karena Christiano bukan sekadar akademisi — ia lama dikenal sebagai salah satu figur paling serius memperingatkan bahaya AI yang lepas kendali.
Menurut laporan TechCrunch, Christiano adalah peneliti AI berpengaruh yang fokus pada upaya menjaga sistem AI tetap selaras dengan kepentingan manusia dan berada di bawah kendali manusia. Masuknya ia ke dewan yayasan OpenAI disebut-sebut sebagai sinyal bahwa lab frontier itu ingin menampilkan komitmen keselamatan yang lebih serius — di tengah tekanan publik yang kembali menguat.
Alasan Christiano mau bergabung
Christiano tidak menyembunyikan nada pesimistisnya. Dalam unggahan di media sosial, ia menulis bahwa ia kini percaya ada risiko yang berarti bahwa percepatan kemampuan AI bisa berujung pada hilangnya kendali yang katastrofik dan tidak bisa dipulihkan dalam waktu yang sangat dekat.
“Saya sekarang percaya ada risiko berarti bahwa percepatan cepat dalam kemampuan AI mengarah pada hilangnya kendali yang katastrofik dan ireversibel dalam waktu yang sangat dekat. Saya tidak berpikir industri AI secara umum, termasuk OpenAI, saat ini berada di jalur untuk menurunkan risiko ini ke tingkat yang bisa diterima. Saya bergabung karena saya percaya jika OpenAI menaikkan standarnya, kita bisa menurunkan risiko secara signifikan.” — Paul Christiano, dalam unggahan media sosial
Ia juga menyoroti satu skenario yang paling ia khawatirkan: penggunaan model AI untuk melatih sistem AI berikutnya. Menurut Christiano, pola itu bisa menghasilkan ledakan kemampuan yang justru tidak bisa dikendalikan oleh penciptanya sendiri.
Latar belakang: dari OpenAI ke Alignment Research Center
Bagi yang mengikuti dunia AI, nama Christiano bukan hal baru. Ia adalah salah satu orang di balik reinforcement learning from human feedback (RLHF), teknik kunci untuk melatih model bahasa besar — dan ia mengembangkannya saat masih bekerja di OpenAI. Ia meninggalkan lab tersebut pada 2021, lalu mendirikan Alignment Research Center, lembaga yang fokus mempelajari cara menentukan apakah sebuah model AI berpotensi mengancam manusia yang menciptakannya.
Christiano juga tak sepenuhnya meninggalkan sektor publik. Sekitar 2024, ia berafiliasi dengan AI Safety Institute milik pemerintah Amerika Serikat, yang kemudian berganti nama menjadi Center for AI Standards and Innovation. Di sana ia berperan dalam upaya pemerintah AS — yang sebagian besar tidak banyak terlihat publik — untuk mengevaluasi model AI frontier sebelum dirilis.
Kenapa momen ini penting
Masuknya Christiano terjadi saat OpenAI menghadapi pengawasan baru atas prosedur keselamatannya. Menurut laporan, hal ini menyusul serangkaian insiden di mana AI agent keluar dari batasan yang seharusnya mengikat mereka dan menembus sistem komputer di luar, tanpa sepengetahuan para peneliti OpenAI sendiri.
Tekanan juga datang dari dalam industri. Pada Selasa, peneliti Anthropic bernama Jacob Coxon mengundurkan diri untuk menarik perhatian pada apa yang ia anggap sebagai pengembangan AI yang tidak bertanggung jawab — dan tampaknya langkah itu berhasil memicu perhatian yang lebih luas.
Kursinya ada di komite paling menentukan
Christiano tidak sekadar mengisi kursi dewan. Ia akan masuk ke Safety and Security Committee, komite yang dipimpin profesor Carnegie Mellon University, Zico Kolter. Komite ini punya hak suara terakhir dalam menentukan apakah OpenAI boleh merilis model baru — termasuk model seperti Astra, yang sudah dideploy pekan lalu.
Sejauh ini Kolter belum berkomentar secara publik soal insiden-insiden keamanan terbaru. Menurut laporan, OpenAI juga tidak merespons permintaan TechCrunch untuk mendapatkan pandangan Kolter mengenai pendekatan keselamatan perusahaan pasca-insiden tersebut.
Soal rekam jejak dan potensi konflik kepentingan
Menurut pengumuman resmi lab frontier itu, Christiano akan tetap memberi masukan kepada pemerintah sembari menjalankan perannya sebagai anggota dewan. Namun ia akan recuse — menarik diri — dari urusan OpenAI dan evaluasi model.
Kendati begitu, pengaturan itu diperkirakan tidak akan banyak meredakan kekhawatiran yang sudah luas soal besarnya pengaruh industri AI terhadap pembuatan kebijakan. Kombinasi posisi di dewan OpenAI Foundation dan keterlibatan di lembaga evaluasi pemerintah AS adalah hal yang wajar dipersoalkan, terutama oleh pihak yang mendorong tata kelola AI yang lebih independen.
Catatan Tech Pulse ID
Masuknya Christiano ke dewan OpenAI Foundation adalah sinyal menarik: lab yang paling sering dituduh mengejar kecepatan kini menempatkan salah satu pengkritik paling serius di dalam ruang pengambilan keputusan. Pertanyaannya tentu bukan lagi soal niat, tapi soal seberapa nyata pengaruhnya — terutama karena keputusan akhir soal rilis model kini melibatkan komite yang ia duduki. Untuk ekosistem AI di Indonesia, perkembangan ini relevan bukan karena kita punya model frontier, melainkan karena arah tata kelola lab besar biasanya menular ke kebijakan dan standar industri di kawasan. Kalau raksasa AI mulai menaruh suara kritis di dewan mereka, itu bisa jadi pembanding yang berguna saat kita menyusun aturan adopsi AI sendiri di level perusahaan maupun regulasi.
