Menlo Park — Instagram akhirnya mengambil langkah tegas terhadap maraknya akun influencer AI yang kian sulit dibedakan dari manusia sungguhan. Platform milik Meta ini akan “memburu” akun-akun yang menampilkan sosok buatan AI namun tidak melabeli profilnya secara jujur, lalu menghukum mereka dengan membatasi jangkauan kontennya.
Tak hanya menindak, Instagram juga mengganti nama label “AI creator” menjadi “AI-generated profile” agar lebih gamblang. Langkah ini lahir dari keluhan pengguna yang kerap merasa tertipu saat menemukan profil yang tampak manusia, belakangan baru sadar bahwa sosok di dalamnya sepenuhnya buatan AI. “Kami mendengar banyak orang tidak suka melihat profil yang tampak manusia, hanya untuk kemudian tahu bahwa orang di dalamnya dibuat oleh AI,” tulis Instagram dalam unggahan blog resminya.
Jangkauan Dipangkas, Bukan Dihapus
Akun yang tidak melabeli diri sebagai AI-generated bakal mendapat penalti berupa pembatasan reach: postingan mereka tidak akan direkomendasikan ke non-pengikut di Reels maupun Explore. Pemilik akun tetap diberi jalan banding apabila merasa salah ditandai. Namun, perlu dicatat, kebijakan ini tidak mewajibkan label untuk semua orang yang memakai alat AI sekadar membuat konten. Artinya, aksi hari ini belum memungkinkan pengguna menyaring habis “AI slop” yang membanjiri linimasa.
Garis Kian Tipis antara Asli dan Sintetis
Fenomena “AI creator” seperti Aitana Lopez—influencer virtual berwajah manusia dengan jutaan pengikut—menunjukkan betapa tipisnya garis antara konten asli dan sintetis di era sekarang. Akun-akun semacam ini makin mudah dibuat berkat murahnya alat generatif, sehingga volume profil “manusia palsu” pun membengkak dan makin sulit diidentifikasi kasat mata. Alhasil, pengguna kerap berinteraksi, mengikuti, bahkan terpengaruh rekomendasi produk dari sosok yang sebenarnya tidak pernah ada.
Di tengah maraknya deepfake dan manipulasi visual, kejelasan soal siapa—atau apa—yang sebenarnya di balik sebuah akun menjadi isu kepercayaan yang serius. Pengguna berhak tahu apakah mereka sedang mengikuti orang nyata atau sekadar render algoritma yang dikurasi untuk tampil menarik dan menjual produk.
Langkah ini memang masih dianggap “langkah pertama” oleh banyak pengamat. Tidak sedikit yang mendesak agar Instagram, di bawah kendali bosnya Adam Mosseri, menyediakan filter AI yang jauh lebih kuat. Namun setidaknya platform kini mengakui persoalannya: ketika profil buatan AI menyamar sebagai manusia, batas antara realitas dan rekayasa di media sosial makin kabur, dan transparansi adalah tuntutan minimum yang tak bisa ditawar.
Apa yang berubah secara teknis
Perubahan ini bukan sekadar ganti nama label. Menurut TechCrunch, Instagram mengubah penanda dari “AI creator” menjadi “AI-generated profile” agar lebih gamblang, sekaligus menerapkan pembatasan pada profil yang belum diungkap. Artinya, sistem akan menganggap sebuah akun sebagai profil yang menampilkan sosok buatan AI, bukan manusia, dan kalau tidak jujur, jangkauannya yang dipangkas.
Unite.AI menambahkan bahwa akun yang menampilkan orang hasil AI — bukan manusia sungguhan — diharapkan menyatakan diri secara terbuka. Bagi yang mengabaikan, distribusi kontennya dibatasi, yang artinya postingan mereka tidak lagi mudah muncul di rekomendasi pengguna lain.
Kasus Aitana dan ekonomi influencer virtual
Praktik ini bukan hipotetis. Salah satu pengingat paling jelas adalah profil seperti Aitana Lopez, sosok virtual berwajah manusia yang mengumpulkan jutaan pengikut dan menarik kerja sama merek, padahal tak ada manusia di baliknya. Ketika biaya alat generatif makin murah, memproduksi “manusia palsu” jadi pekerjaan seharian bagi sebagian orang.
Di sinilah ketegangan utamanya: influencer virtual jelas punya pasar dan bisa jadi bentuk ekspresi kreatif. Yang jadi masalah adalah ketika sosok itu dipakai untuk menipu, baik menipu soal identitas maupun soal rekomendasi produk, tanpa pengguna sadar bahwa yang mereka ikuti adalah render algoritma.
Konteks Indonesia dan langkah berikutnya
Di Indonesia, perdebatan soal transparansi AI di media sosial juga makin relevan. Banyak brand lokal sudah memakai avatar AI untuk kampanye, dan pengguna sering kali tidak diberi tahu. Langkah Instagram ini, meski terbatas, setidaknya meletakkan preseden: platform punya tanggung jawab menandai konten sintetis, bukan sekadar menyerahkan urusan itu ke kesadaran penonton.
Yang masih jadi pekerjaan rumah adalah eksekusi. Selama penegakannya bergantung pada pelaporan dan audit internal, para pelaku yang paling lihai bisa lolos. Pengamat mendorong filter yang lebih kuat dan verifikasi identitas untuk akun besar. Langkah pertama sudah diambil, tapi jalan menuju ekosistem yang benar-benar transparan masih panjang.
