SOLOPOS.COM - Ilustrasi deepfake. (Freepik)
Solopos.com, JAKARTA – Sebagian konten deepfake dinilai kian meresahkan. Pemerintah pun diminta menjadi pengambil komando untuk memerangi konten deepfake yang meresahkan di Internet.
Konten ini banyak diproduksi untuk kejahatan pornografi dan konten hitam pemilu. Dikutip Bisnis dari Cloud Computing Indonesia, Rabu (24/4/2024), deepfake merupakan teknologi manipulasi audio dan video yang menggunakan kecerdasan buatan Artificial Intelligence (AI) untuk menciptakan konten yang membuat orang terlihat atau terdengar melakukan hal-hal yang sebenarnya tidak dilakukan.
Direktur Ekonomi Digital dan Ekonom Center of Economic and Law Studies (Celios) Nailul Huda mengatakan bahwa deepfake berupa manipulasi gambar atau video pornografi yang disertai ancaman terhadap korban pornografi sering kali terjadi. Bahkan, tambah Huda, sering berujung pada depresi berkelanjutan.
“Kasus lainnya terjadi ketika pemilu, di mana video pejabat kita banyak yang ‘dipalsukan’ menggunakan deepfake dengan suara dan wajah pejabat namun isinya berbeda,” kata Huda kepada Bisnis, Rabu (24/4/2024). Huda menambahkan, konten deepfake lain yang sering ditemukan adalah artis yang dipalsukan mengiklankan judi online.
Padahal, yang dibicarakan di video asli berbeda dari konten deepfake. Berkaca dari sejumlah kasus tersebut, Huda memandang bahwa teknologi ini sangat berbahaya jika deepfake digunakan oleh orang yang tidak bertanggung jawab.
Huda menuturkan bahwa untuk mencegah penipuan deepfake, maka dibutuhkan peran sentral dari pemerintah untuk memerangi teknologi ini. “Salah satunya adalah bekerja sama dengan media sosial untuk mendeteksi ada konten deepfake. Sekarang banyak tools yang melihat originalitas konten, tinggal pemerintah dan pelaku media sosial mau melakukan kerja sama pemberantasan deepfake atau tidak,” ujarnya.
Dia mengatakan bahwa di negara lain juga melakukan hal yang sama untuk memberantas penipuan deepfake, yaitu pemerintah menjadi komando untuk pemberantasan deepfake. Di samping itu, sambung dia, penyedia media sosial juga harus membantu menyisir konten bermuatan deepfake.
Artikel ini telah tayang di Bisnis.com dengan judul “Konten Deepfake Makin Gawat, Pengamat: Butuh Peran Pemerintah”