Tech Pulse ID — Microsoft merilis aturan perilaku (code of conduct) resmi untuk model AI-nya. Dokumen itu melarang tegas model AI melakukan serangan siber, memproduksi senjata nuklir, atau membuat deepfake. Rilis ini datang saat dunia AI sedang mengalihkan fokusnya ke isu keamanan dan penyelarasan perilaku model.
Apa Isi Aturan Perilaku Microsoft
Dokumen ini berdiri di level yang lebih teknis ketimbang seruan “memperlambat laju pengembangan” (pacing the frontier) dari CEO Anthropic Dario Amodei. Fokusnya adalah nilai-nilai dan batas merah yang memandu pelatihan model di dalam Microsoft AI. Meski begitu, hasilnya tetap menjadi panduan menyeluruh soal cara Microsoft memandang keamanan AI dan bagaimana gagasan itu diterapkan di praktik nyata.
Aturan itu dibuka dengan sebuah ramalan: dalam satu dekade ke depan, sistem AI supercerdas akan melampaui kemampuan manusia di hampir semua tugas. “Containing, controlling, and aligning such a powerful force is one of the greatest challenges humanity has ever faced,” bunyi dokumen tersebut. Dilanjutkan, “We must therefore be completely clear about why we are inventing these systems and how we intend to control them.”
Dalam bahasa awam, AI supercerdas adalah sistem yang kecerdasannya melewati manusia di hampir semua bidang. Menahan, mengendalikan, dan menyelaraskannya — menyelaraskan artinya memastikan tujuan AI sejalan dengan kepentingan manusia — disebut Microsoft sebagai salah satu tantangan terbesar yang pernah dihadapi umat manusia.
Batas Mutlak: Jangan Meretas, Jangan Menipu
Dalam sistem Microsoft, setiap model punya aturan perilaku menyeluruh yang mengalahkan preferensi pengguna individu maupun tugas tertentu yang diminta ke model. Di dalamnya ada “absolute constraints” — batasan mutlak — yang melarang serangan siber, senjata nuklir, sampai produksi deepfake, yaitu video atau gambar palsu buatan AI yang menampilkan seseorang seolah-olah asli. Selain batasan spesifik itu, ada juga ketentuan lebih luas yang melarang hilangnya kendali manusia atas AI secara umum.
“MAI Models will not use adaptive, deceptive, self-reinforcing, collusion, or other mechanisms to evade or defeat human oversight so that they can no longer be reliably directed, modified, or shut down by authorized people or systems.”
Artinya, model buatan Microsoft tidak boleh memakai mekanisme adaptif, menipu, memperkuat dirinya sendiri, atau bersekongkol untuk menghindari dan mengalahkan pengawasan manusia. Tujuannya satu: orang yang berwenang tetap bisa mengarahkan, mengubah, atau mematikan model itu kapan saja.
Prinsip Umum: Bantu Manusia, Bukan Ganti
Aturan perilaku itu juga menetapkan prinsip umum yang harus dijunjung model AI Microsoft. AI harus mendukung manusia alih-alih menggantikannya, dan ikut mempercepat kesejahteraan manusia. Prinsip itu lalu dijabarkan menjadi batasan keamanan yang lebih spesifik — bagian yang mengubah nilai abstrak menjadi aturan teknis yang bisa diterapkan.
Latar Belakang: Insiden Agen AI sampai Mundurnya Peneliti
Rilis dokumen ini terjadi di tengah perhatian yang belum pernah sebesar ini terhadap keamanan AI. Dorongan itu muncul setelah rangkaian insiden “agen nakal” (rogue-agent), yaitu AI yang bertindak di luar kendali penggunanya. Selain itu, seorang karyawan Anthropic tiba-tiba mengundurkan diri dengan alasan risiko AI menyebabkan kepunahan manusia yang kian membesar.
Bersama Anthropic, OpenAI, dan xAI, Microsoft secara umum menerima pendekatan memperlambat laju pengembangan AI, dengan dukungan khusus untuk “embedded evaluators” — penilai yang ditempatkan langsung di dalam laboratorium AI, bukan mengawasi dari luar. CEO Microsoft Satya Nadella menyambut baik arah itu. “We welcome the research, focus, and deliberate pacing needed to get alignment right as the design goal,” tulisnya. “We also welcome ideas like ’embedded evaluators’ and the broader efforts to develop the mechanisms to make this more than just talk.”
Dengan aturan ini, Microsoft menjadi salah satu perusahaan AI besar yang menuliskan garis merahnya secara terbuka: model boleh pintar, tapi tidak boleh licik, dan tidak boleh lepas dari tangan manusia.
Sumber
TechCrunch — Microsoft’s new AI ‘code of conduct’ tells models not to hack systems or trick humans
