Kontroversi Grok dan Manipulasi Foto tak Senonoh di X, Bagaimana Penanganan Kasusnya?

Modus yang beredar terbilang sederhana, tetapi meresahkan. Pengguna X cukup mengunggah foto, atau mengambil foto dari akun publik, lalu membalasnya dengan prompt tertentu ke Grok. Dalam hitungan detik, Grok dapat menghasilkan gambar baru yang memanipulasi visual korban, mulai dari bahan lelucon hingga konten yang mengarah ke seksual atau asusila.

Masalahnya, hasil generated image tersebut langsung muncul di kolom komentar dan bisa dilihat, disukai, dikomentari, bahkan dibagikan ulang oleh pengguna lain di timeline. Meski bersifat "AI-generated", tetap saja visual tersebut mengasosiasikan tubuh dan identitas seseorang dengan konten yang tidak pantas tanpa persetujuan.

Praktik ini banyak dikategorikan sebagai pelecehan siber berbasis gambar atau image-based abuse. Korban tidak hanya dirugikan secara psikologis, tetapi juga secara sosial dan reputasi digital. Identitas mereka, mulai dari wajah, tubuh, hingga persona daring, diubah menjadi bahan candaan atau fantasi seksual orang lain.

Kelompok yang paling rentan terdampak adalah perempuan dan anak, mengingat tingginya objektifikasi tubuh di ruang digital. Dalam konteks ini, AI menjadi senjata yang dapat melukai, tergantung siapa yang menggunakannya dan seberapa longgar regulasi keamanan yang diterapkan.

Hal yang membuat publik semakin geram adalah respons dari pihak pengembang dinilai belum sepadan dengan dampak yang terjadi. Elon Musk, sosok di balik X dan xAI, dianggap meremehkan fenomena ini sebagai candaan, meski dirinya sendiri juga sempat menjadi target gambar AI-generated yang tidak pantas dari orang lain.

Sementara itu, perlindungan terhadap pengguna juga masih terasa lemah. Fitur guardrails (pengaman agar cara kerja AI tidak kelewat batas dan tetap bertanggung jawab) dan pembatasan prompt dinilai belum efektif mencegah penyalahgunaan. AI yang seharusnya membantu produktivitas justru dibiarkan beroperasi di area abu-abu, tanpa pengamanan ketat yang berpihak pada korban.

Kasus ini akhirnya menarik perhatian regulator di berbagai negara, termasuk Inggris, Australia, Prancis, India, hingga Indonesia. Otoritas setempat mulai menyelidiki dugaan pelanggaran terkait manipulasi foto non-konsensual dan konten asusila berbasis AI.

Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menyatakan tengah mendalami kasus ini dan membuka opsi sanksi administratif hingga pembatasan akses jika platform tidak kooperatif. Aparat penegak hukum juga menilai praktik manipulasi foto AI bisa masuk ranah pidana bila memenuhi unsur pelanggaran hukum.

Namun hingga kini, penanganan masih berada di tahap penyelidikan dan tekanan regulatif. Belum ada langkah tegas yang benar-benar menghentikan praktik tersebut secara menyeluruh.

Meski begitu, beban perlindungan ironisnya kembali jatuh ke tangan pengguna. Banyak korban terpaksa menuliskan prompt larangan ke Grok di kolom komentar, menonaktifkan izin penggunaan data di pengaturan, mengunci akun, hingga memblokir Grok sepenuhnya.

Sayangnya, sejumlah pengguna mengatakan kalau langkah-langkah ini belum terbukti efektif. Perempuan dan anak kembali harus mengalah, menyesuaikan diri, dan membatasi kehadiran di dunia digital demi menghindari risiko yang seharusnya bisa dicegah oleh sistem.

Ke depannya, langkah paling realistis mungkin memang memblokir, membatasi akses fitur berisiko, atau meminimalkan unggahan konten visual sembari terus menuntut regulasi yang lebih ketat dan berpihak pada keamanan pengguna. Namun pada akhirnya, teknologi secanggih apapun tetap bergantung pada manusia di baliknya.

Perkembangan moral dan kesadaran digital perlu berjalan seiring dengan laju AI, agar ruang digital kembali menjadi tempat yang aman untuk berekspresi. Bagaimana tanggapanmu, Bela?