Peneliti Australia Kembangkan Alat AI untuk Atasi Gambar Deepfake Berbahaya

Jakarta, JClarity – Universitas Monash di Australia, bekerja sama dengan Kepolisian Federal Australia (AFP), telah mengembangkan sebuah alat kecerdasan buatan (AI) baru yang bertujuan untuk memerangi penyebaran gambar dan video deepfake berbahaya, sebuah langkah signifikan dalam melindungi masyarakat dari penyalahgunaan teknologi generatif.

Alat disruptif AI yang dinamakan Silverer ini berfungsi sebagai solusi proaktif dengan menggunakan teknik yang dikenal sebagai 'peracunan data' (data poisoning). Metode ini melibatkan perubahan halus pada piksel data visual, seperti foto atau video, sebelum diunggah ke media sosial atau internet. Tujuannya adalah untuk mengecoh model AI generatif.

Ketika model AI berusaha menggunakan gambar yang telah 'diracuni' oleh Silverer sebagai data pelatihan, hasilnya akan terdistorsi. Alih-alih menghasilkan konten deepfake yang realistis, AI akan memproduksi output dengan kualitas sangat rendah, buram, atau bahkan sama sekali tidak dapat dikenali.

Pengembangan ini dipimpin oleh Elizabeth Perry, seorang kandidat PhD di Monash University sekaligus peneliti di AI for Law Enforcement and Community Safety (AiLECS) Lab, sebuah kolaborasi antara AFP dan Universitas Monash. Silverer dirancang untuk mempermudah masyarakat umum dalam melindungi data pribadi mereka di dunia maya.

Kolaborasi ini merupakan respons langsung terhadap peningkatan kasus kejahatan yang memanfaatkan teknologi AI, termasuk produksi materi pelecehan anak berbasis AI, propaganda teknologi ekstremis, dan penipuan investasi menggunakan deepfake selebriti. Ahli forensik digital dan Direktur Bersama AiLECS, Campbell Wilson, menekankan bahwa pembuatan gambar dan video berbahaya melalui teknologi sumber terbuka saat ini memiliki hambatan akses yang sangat rendah, menjadikan Silverer alat vital untuk memperlambat laju konten berbahaya.

Meskipun saat ini Silverer masih dalam tahap prototipe, para peneliti berharap teknologi ini dapat menjadi lapisan pertahanan yang mudah digunakan, berfungsi seperti 'polisi tidur' digital yang menghambat kemampuan pelaku kejahatan siber untuk menyalahgunakan data daring guna tujuan manipulatif dan penipuan.