Darurat Digital: Kecanggihan AI Picu Gelombang Baru Kekerasan Berbasis Gender pada Perempuan

JAKARTA, JClarity – Perkembangan teknologi kecerdasan buatan (Artificial Intelligence/AI) yang semakin canggih telah memicu "Darurat Digital" baru, dengan munculnya gelombang kekerasan berbasis gender online (KBGO) yang semakin brutal dan terstruktur terhadap perempuan. Alih-alih menjadi alat pemberdayaan, teknologi seperti *deepfake* disalahgunakan secara masif, menciptakan bentuk-bentuk kekerasan seksual digital non-konsensual yang dampaknya merusak hingga ke ranah nyata.

Data global menunjukkan skala ancaman yang mengkhawatirkan. Menurut Program Pembangunan Perserikatan Bangsa-Bangsa (UNDP) Indonesia, konten kekerasan terhadap perempuan menggunakan teknologi *deepfake* meningkat hingga 550 persen setiap lima tahun di Indonesia. Secara global, hampir 99 persen korban penyalahgunaan *deepfake* adalah perempuan . Volume file *deepfake* yang beredar pun diproyeksikan meningkat drastis dari 500 ribu pada tahun 2023 menjadi sekitar 8 juta pada tahun 2025, menandakan pergeseran KBGO ke level yang lebih kompleks dan sulit dideteksi .

Kekerasan jenis baru ini didominasi oleh pornografi *deepfake*, yaitu manipulasi wajah korban ke dalam konten seksual eksplisit tanpa persetujuan, yang dapat menghancurkan reputasi dan memicu trauma psikologis mendalam . Head of Programmes UN Women Indonesia, Dwi Yuliawati, menyoroti bahwa kecanggihan AI tidak hanya menjadi ladang pornografi, tetapi juga dimanfaatkan untuk *doxing* (penyebaran informasi pribadi) dan bahkan *astroturfing* yang menciptakan ilusi untuk memantik kebencian terhadap peran perempuan. Dwi menegaskan, kekerasan yang terjadi di dunia virtual memiliki konsekuensi nyata yang serius, membuktikan bahwa fenomena ini bukan lagi sekadar isu keamanan siber, melainkan ancaman terhadap keselamatan individu .

Di Indonesia, tren peningkatan kasus KBGO terekam signifikan. Catatan Tahunan (CATAHU) Komnas Perempuan tahun 2024 mencatat kenaikan kasus KBGO hingga 40,8 persen, dengan bentuk-bentuk kekerasan mencakup ancaman *online*, pelecehan seksual digital, penyebaran konten berbahaya, eksploitasi, dan penipuan berbasis digital . Sementara itu, Southeast Asia Freedom of Expression Network (SAFEnet) melaporkan lonjakan aduan KBGO sebesar 80,8 persen pada tahun 2024, menargetkan sebagian besar kelompok usia muda 18-25 tahun .

Komisioner Komnas Perempuan, Chatarina Pancer Istiyani, menyebut kenaikan signifikan ini dipicu oleh lemahnya literasi digital berbasis gender dan minimnya dukungan teknologi forensik digital yang memadai untuk penanganan kasus. "Ketiadaan pemahaman menyeluruh mengenai risiko digital membuat perempuan semakin rentan mengalami kekerasan berbasis gender *online*," ujarnya . UNDP juga menekankan bahwa AI seharusnya berfungsi untuk memberdayakan, bukan membahayakan, dan mendesak penguatan kapasitas aparat penegak hukum serta pentingnya pendekatan yang berpihak kepada korban .

Para ahli mendesak perlunya intervensi kebijakan yang tegas. Meskipun Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS) telah mengatur KBGO, belum ada regulasi spesifik yang secara komprehensif mengatasi penyalahgunaan teknologi *deepfake* berbasis AI . Urgensi regulasi khusus dibutuhkan untuk memastikan mekanisme *takedown* konten ilegal yang cepat, memperkuat literasi digital bagi masyarakat, dan memaksa platform digital bertanggung jawab atas penyebaran konten kekerasan. Langkah kolektif, mulai dari pemerintah, platform, hingga masyarakat, sangat krusial untuk melindungi perempuan dan memastikan ruang digital menjadi area yang aman dan setara .