Meta Disorot, Puluhan Iklan Diduga Muat Konten AI Eksploitasi Anak

Suara Kalbar – Meta kembali menjadi sorotan setelah investigasi menemukan puluhan iklan berbayar di platformnya yang diduga berkaitan dengan konten eksploitasi seksual anak berbasis kecerdasan buatan atau artificial intelligence (AI).

Temuan tersebut memunculkan pertanyaan mengenai efektivitas sistem moderasi iklan Meta. Terlebih, perusahaan sebelumnya telah berulang kali menyatakan bahwa konten eksploitasi seksual anak tidak diperbolehkan berada di platformnya.

Laporan investigasi Wired, dikutip dari Digital Trends, menyebut sejumlah iklan tersebut telah beredar selama berbulan-bulan. Bahkan, beberapa iklan dilaporkan masih aktif setelah Meta diberi tahu mengenai keberadaannya.

Kasus tersebut kembali memicu kritik terhadap upaya Meta dalam menjaga keamanan ekosistem platform, terutama dalam melindungi anak-anak dari penyalahgunaan teknologi AI.

Investigasi Temukan Puluhan Iklan Bermasalah

Temuan tersebut berasal dari Technology Transparency Project (TTP) yang menelusuri Meta Ad Library, basis data publik yang disediakan Meta untuk meningkatkan transparansi iklan pada platformnya.

Menurut hasil penyelidikan, iklan yang diduga bermasalah telah tayang sejak November 2025 hingga awal Agustus 2026. Iklan tersebut disebut menjangkau pengguna di Amerika Serikat, Inggris, serta lebih dari belasan negara di Eropa.

Salah satu iklan bahkan dilaporkan telah menjangkau lebih dari 2.500 akun di kawasan Eropa.

Direktur TTP Katie Paul mengatakan sejumlah iklan yang ditemukan tidak berupaya menyamarkan tujuan kontennya.

Yang menjadi sorotan adalah materi tersebut merupakan iklan berbayar, bukan sekadar unggahan organik dari pengguna. Artinya, iklan harus melewati mekanisme peninjauan sebelum dapat ditayangkan di platform Meta.

Iklan Diduga Mengarahkan Pengguna ke Layanan AI

Investigasi juga menemukan sejumlah iklan yang mengarahkan pengguna menuju aplikasi berbasis AI yang menawarkan layanan manipulasi foto atau dikenal sebagai aplikasi nudifying.

Salah satu aplikasi yang disebut dalam laporan adalah MaskAI. Aplikasi tersebut kemudian dihapus dari App Store Apple setelah mendapat laporan dari Wired.

Peneliti awalnya menemukan sekitar dua lusin iklan yang diduga melanggar kebijakan Meta. Menjelang laporan tersebut dipublikasikan, jumlah iklan yang ditemukan bertambah sekitar 30.

Beberapa iklan bahkan dilaporkan mulai muncul setelah Wired meminta klarifikasi kepada Meta.

Katie Paul mengatakan sebagian iklan memiliki kemiripan dengan konten yang sebelumnya telah dihapus Meta karena pelanggaran serupa.

Kondisi tersebut menimbulkan pertanyaan mengenai kemampuan sistem moderasi Meta dalam mendeteksi pelanggar yang kembali menggunakan pola atau materi serupa.

Investigasi juga menemukan sejumlah akun pengiklan memiliki sedikit pengikut atau bahkan tidak memiliki pengikut sama sekali. Beberapa identitas pengiklan disebut terkait dengan perusahaan yang berbasis di China.

Respons Meta

Menanggapi temuan tersebut, Meta menyatakan materi yang ditemukan merupakan konten mengerikan dan tidak memiliki tempat di platformnya.

Perusahaan mengatakan sebagian besar iklan yang dimaksud memiliki jangkauan terbatas. Meta juga mengeklaim terus menggunakan teknologi berbasis AI untuk meningkatkan kemampuan sistem dalam mendeteksi dan menghapus konten yang melanggar kebijakan.

Meta menyebut telah menghapus sekitar 36 juta konten eksploitasi anak sepanjang tahun sebelumnya sebagai bagian dari upaya penegakan kebijakan di platformnya.

Namun, temuan terbaru tetap menjadi perhatian karena sebagian konten yang dilaporkan peneliti disebut sempat lolos dari sistem moderasi dan dapat ditayangkan kepada pengguna.

Rekam Jejak Meta dalam Perlindungan Anak

Persoalan mengenai perlindungan anak bukan pertama kalinya membuat Meta mendapat sorotan.

Pada 2017, Facebook dilaporkan menangani puluhan ribu laporan setiap bulan yang berkaitan dengan eksploitasi seksual dan penyalahgunaan gambar pribadi. Situasi tersebut kemudian mendorong perusahaan meningkatkan jumlah moderator konten.

Pada 2019, dokumen internal yang terungkap dalam proses hukum menunjukkan adanya perubahan mekanisme pertukaran informasi melalui Messenger dengan aparat penegak hukum terkait laporan dugaan eksploitasi anak.

Pada 2021, mantan karyawan Meta Frances Haugen mengungkap sejumlah penelitian internal mengenai dampak negatif Instagram terhadap sebagian pengguna muda.

Pada tahun yang sama, mantan insinyur Meta Arturo Bejar juga menyampaikan kekhawatiran mengenai pengalaman anaknya yang menjadi korban pelecehan seksual di Instagram.

Kemudian pada 2023, investigasi yang dilakukan The Wall Street Journal bersama peneliti dari Stanford University dan University of Massachusetts Amherst menemukan dugaan bahwa sistem rekomendasi Instagram dapat membantu mempertemukan jaringan akun yang berkaitan dengan konten eksploitasi anak.

Bejar kemudian memberikan kesaksian di hadapan Senat Amerika Serikat mengenai persoalan keselamatan pengguna di platform Meta.

Meta Pernah Didenda Ratusan Juta Dolar

Meta juga menghadapi gugatan dari jaksa agung New Mexico terkait dugaan kegagalan melindungi anak-anak dari aktivitas berbahaya di platformnya.

Dalam penyelidikan tersebut, aparat menggunakan akun penyamaran yang merepresentasikan seorang anak untuk menguji sistem keamanan platform.

Kasus tersebut berakhir pada Maret 2026 ketika juri memutuskan Meta harus membayar ganti rugi sebesar US$375 juta. Putusan itu berkaitan dengan tuduhan bahwa platform tersebut membahayakan anak-anak dan menyesatkan publik.

Dalam persidangan juga muncul persoalan mengenai sistem moderasi berbasis AI yang disebut dapat menghasilkan laporan berkualitas rendah sehingga berpotensi menyulitkan proses penyelidikan.

Efektivitas Moderasi Kembali Dipertanyakan

Temuan terbaru kembali menimbulkan pertanyaan mengenai kemampuan sistem moderasi Meta dalam mencegah konten berbahaya sebelum iklan ditayangkan.

Pola yang menjadi perhatian adalah konten bermasalah dilaporkan terlebih dahulu oleh peneliti independen atau media, kemudian baru mendapat tindakan dari platform.

Kondisi tersebut menjadi tantangan tersendiri bagi perusahaan teknologi yang menggunakan sistem otomatis dan kecerdasan buatan dalam skala besar untuk memoderasi miliaran konten.

Perlindungan anak menjadi salah satu area yang membutuhkan tingkat kehati-hatian paling tinggi. Karena itu, kemampuan sistem untuk mendeteksi dan mencegah penyalahgunaan teknologi AI perlu terus diperkuat.

Kasus ini juga menunjukkan bahwa transparansi iklan dan pengawasan independen memiliki peran penting dalam mengidentifikasi celah keamanan yang mungkin tidak terdeteksi oleh sistem internal perusahaan.

Di tengah perkembangan teknologi AI yang semakin cepat, Meta menghadapi tekanan untuk memastikan inovasi tidak justru dimanfaatkan sebagai sarana menghasilkan atau menyebarkan konten berbahaya.

Penguatan moderasi, verifikasi pengiklan, mekanisme pelaporan, serta kerja sama dengan penegak hukum menjadi sejumlah langkah yang dinilai penting untuk memastikan platform digital tetap aman, terutama bagi anak-anak.

Sumber: Beritasatu.com