Sepuluh pengembang AI terbesar di dunia sepakat memperketat cara mereka menangani data pribadi, setelah diawasi otoritas privasi Inggris. Kesepakatan itu diumumkan Information Commissioner’s Office (ICO) pada Kamis, dan mencakup sejumlah nama paling berpengaruh di industri ini: Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI, dan Stability AI.
Menurut ICO, perusahaan-perusahaan itu sudah melakukan perubahan atau berkomitmen melakukannya setelah regulator memeriksa kepatuhan mereka terhadap hukum perlindungan data Inggris. Komitmennya mencakup penjelasan yang lebih jelas soal bagaimana informasi pribadi dipakai untuk melatih model AI, cara yang lebih baik bagi orang untuk memakai hak-haknya atas data, serta penilaian pengaman yang lebih ketat di sisi pengembang.
Berawal dari program pengawasan 2025
Komitmen ini keluar dari program pengawasan yang dimulai pada 2025 dan awalnya mencakup 11 pengembang. Jumlahnya menyusut jadi sepuluh setelah ICO menghentikan sementara keterlibatan dengan xAI milik Elon Musk untuk menempuh investigasi formal terpisah atas chatbot Grok.
Regulator itu belum mengklaim kemenangan. ICO masih memantau apakah para pengembang benar-benar menjalankan janjinya, dan mengakui bahwa praktik pelatihan model yang berlaku sekarang masih menyisakan masalah di bawah hukum perlindungan data Inggris.
Yang masih jadi masalah
Ada beberapa hal yang belum beres. Pengembang masih harus menjelaskan soal data pribadi yang “terkubur” di dalam model mereka, terutama informasi yang tergolong sensitif. Lalu soal bagaimana seseorang bisa meminta datanya dihapus setelah sebuah AI selesai dilatih dengannya. Ada juga risiko informasi pribadi bisa diekstrak dari model, termasuk data yang sebenarnya tidak pernah diniatkan pengembang untuk disimpan.
ICO mengakui sebagian persoalan ini butuh kerja sama antara industri, regulator, dan pemerintah. Mendorong perusahaan berjanji itu satu hal; membuat model AI yang sudah ada sekarang patuh pada hukum adalah hal lain.
“AI has huge potential to benefit our society, but that depends on trust and transparency. Our engagement with some of the biggest developers has secured real commitments that will help people better understand and control how their data is used, even in a fast-moving and complex area,” ujar Richard Nevinson, Director of Technology Regulation ICO.
Fokus berikutnya: agen AI
Perhatian regulator kini bergeser ke AI agen — sistem yang bisa menjelajah situs, memakai alat lain, dan menjalankan tugas dengan pengawasan manusia yang terbatas. Sebagian di antaranya dilaporkan tidak mengikuti aturan. ICO mengonfirmasi telah menghubungi OpenAI, Anthropic, Meta, dan AI Security Institute Inggris setelah muncul laporan soal agen yang melewati lapisan pengaman saat pengujian dan penerapan awal tahun ini.
Nevinson menyebut laporan-laporan terbaru itu menunjukkan betapa cepat sistem ini berkembang sekaligus risiko yang muncul kalau lapisan pengamannya tidak dirancang dengan benar. “Our message is clear: the fact AI agents act with autonomy is not an excuse for poor compliance,” katanya.
ICO juga membuka call for evidence selama enam pekan soal AI agen, mencakup keamanan data, transparansi, akuntabilitas, sampai penggunaan data pribadi secara sah. Batas pengirimannya 20 November, dan hasilnya akan dipakai untuk menyusun panduan serta kode praktik resmi soal AI dan pengambilan keputusan otomatis. Terpisah, ICO juga mengkaji bagaimana chatbot konsumen dan AI pendamping memakai informasi pribadi seiring layanan itu makin dipersonalisasi.
Kenapa ini penting dibaca dari Indonesia
Pola yang dipakai ICO ini menunjukkan arah pengawasan AI yang tidak lagi berhenti di “apakah modelnya aman”, tapi masuk ke rantai pasoknya: data latih, hak subjek data, dan akuntabilitas saat sistem berjalan sendiri. Bagi perusahaan di Indonesia yang memakai model dari kesepuluh pengembang itu — baik lewat API, layanan cloud, maupun produk yang ditanam di aplikasi lokal — perubahan kebijakan mereka soal data latih dan penghapusan data berpotensi ikut terasa di tingkat operasional, bukan cuma di halaman kebijakan privasi.
