OpenAI dikabarkan memakai teknik penalaran baru di model terbarunya, Astra, yang membuat sebagian pakar keamanan AI waspada. Teknik bernama “recurrent depth” — atau disebut juga “opaque recurrence” — memungkinkan model berpikir di luar pola penalaran berurutan (sequential reasoning) yang selama ini jadi ciri khas model reasoning.
Apa Itu “Recurrent Depth”?
Kabar ini pertama kali dilaporkan The Information, lalu ditulis ulang TechCrunch. Pada model reasoning biasa, chain of thought (CoT) menyediakan langkah-langkah berurutan yang diambil model saat memecahkan masalah. Meski representasinya tidak sempurna, CoT tetap jadi alat penting untuk memantau perilaku menyimpang atau ketidakselarasan model. Dalam kasus aktivitas “rogue agent” OpenAI baru-baru ini, catatan CoT berperan penting untuk memahami mengapa agen berperilaku seperti itu.
Pada opaque recurrence, model justru memproses query yang sama berulang kali dalam sebuah loop. Hasilnya, jejak yang tertinggal jauh lebih sedikit, sehingga secara efektif “menyiasati” catatan chain-of-thought konvensional.
Reaksi Para Pakar Keamanan
CEO Redwood, Buck Shlegeris, menyatakan kekhawatiran serius. “Saya sangat khawatir dengan laporan bahwa Astra memakai opaque recurrence,” tulisnya. “Kalau OpenAI terus mendorong teknik ini, mereka punya opsi untuk meningkatkan recurrence secara besar-besaran dan benar-benar menghancurkan monitorabilitas CoT.”
Advokat keamanan AI Zvi Mowshowitz bahkan menilai regulasi mungkin diperlukan untuk mencegah “race to the bottom” antar laboratorium AI. Menurutnya, teknik ini “bermain api” karena merusak norma yang selama ini dijaga OpenAI dan Anthropic soal transparansi chain-of-thought.
Catatan Penting: Penggunaannya Masih Terbatas
Penting untuk dicatat, penggunaan teknik ini di Astra sejauh ini masih terbatas. CoT model tetap diharapkan bisa dibaca, dan OpenAI membantah akan beralih ke “neuralese” (komunikasi internal yang tak terbaca manusia). Chief scientist OpenAI, Jakub Pachocki, menegaskan komitmen perusahaan pada chain-of-thought yang legible, dan OpenAI sudah mengumumkan rencana sistem pemantauan CoT ekstensif sebagai bagian dari rencana keamanannya.
Isu intinya tetap: semakin sulit cara berpikir model diaudit, semakin besar pertanyaan tentang siapa yang memastikan model tetap aman dan terkendali. Bagi publik umum, ini pengingat bahwa perkembangan AI bukan cuma soal “semakin pintar”, tapi juga soal akuntabilitas dan kemampuan manusia memantaunya.
Sumber: TechCrunch — OpenAI’s new reasoning technique alarms AI safety experts.
