Kemenkominfo Berantas Ribuan Konten Deepfake, Termasuk Penipuan Konglomerat

Rifinet.com, Jakarta – Kementerian Komunikasi dan Informatika (Kemenkominfo) terus menggencarkan upaya pemberantasan konten deepfake yang meresahkan masyarakat. Dalam sebuah konferensi pers pada Jumat (13/9), Direktur Jenderal Informasi dan Komunikasi Publik (IKP) Kemenkominfo, Prabunindya Revta Revolusi, mengungkapkan bahwa pihaknya telah melakukan takedownterhadap ribuan konten penipuan, termasuk yang menggunakan teknologi deepfake.

Salah satu kasus terbaru yang berhasil ditangani adalah penyalahgunaan deepfake untuk menyamar sebagai seorang konglomerat ternama. Akun palsu tersebut berhasil menggaet 300.000 hingga 400.000 pengikut sebelum akhirnya diblokir oleh Kemenkominfo.

“Akun tersebut menggunakan teknologi AI untuk membuat video deepfake sang konglomerat seolah-olah mengajak masyarakat untuk mengikuti akunnya dan mendaftar pada sebuah nomor tertentu agar bisa menjadi kaya,” ungkap Prabu.

Kejadian ini menunjukkan betapa meyakinkannya konten deepfake yang dihasilkan oleh teknologi AI saat ini. Bahkan, Prabu sendiri mengakui bahwa konten tersebut terlihat sangat asli. Untungnya, sang konglomerat yang asli segera menghubungi Kemenkominfo dan mengklarifikasi bahwa video tersebut adalah palsu.

Prabu menegaskan bahwa Kemenkominfo tidak bekerja sendirian dalam memerangi konten deepfake. Pihaknya juga berkolaborasi dengan berbagai platform digital untuk melakukan moderasi konten.

“Setiap platform memiliki mekanisme moderasi konten sendiri. Mereka juga proaktif melaporkan kepada kami akun atau konten yang terindikasi melakukan penipuan agar bisa segera ditindaklanjuti,” jelas Prabu.

Penyalahgunaan deepfake tidak hanya merugikan individu, tetapi juga berdampak serius pada bisnis. Sebuah laporan dari PT Indonesia Digital Identity (VIDA) mengungkapkan bahwa 55% bisnis di Indonesia pernah mengalami kehilangan data dan informasi akibat penipuan deepfake. Selain itu, 48% bisnis kehilangan kemitraan, 46% mengalami gangguan operasional, dan 45% mengalami kerusakan reputasi perusahaan.

Seiring dengan perkembangan teknologi AI, konten deepfake semakin canggih dan sulit dibedakan dari aslinya. Hal ini membuat penipuan berbasis deepfake semakin sulit dideteksi.

“Penipuan peniruan identitas dan serangan rekayasa sosial menjadi semakin sulit dideteksi karena penipu menggunakan teknologi deepfake untuk membuat video, audio, atau gambar palsu yang sangat meyakinkan,” tulis laporan VIDA.

Kemenkominfo mengajak masyarakat untuk lebih waspada dan kritis terhadap konten-konten yang beredar di internet. Jangan mudah percaya pada video, audio, atau gambar yang terlihat meyakinkan, terutama jika konten tersebut berisi ajakan atau permintaan yang mencurigakan.

“Jika Anda menemukan konten yang mencurigakan, segera laporkan kepada Kemenkominfo atau platform digital terkait,” imbau Prabu.

Pemerintah terus berupaya untuk menanggulangi ancaman deepfake. Selain melakukan takedownterhadap konten-konten yang melanggar, Kemenkominfo juga aktif melakukan sosialisasi dan edukasi kepada masyarakat tentang bahaya deepfake.

“Kami juga terus bekerja sama dengan berbagai pihak, termasuk akademisi, peneliti, dan industri teknologi, untuk mengembangkan teknologi yang mampu mendeteksi dan melawan deepfake,” pungkas Prabu.

Deepfake adalah tantangan global yang membutuhkan solusi kolaboratif dari berbagai pihak. Pemerintah, platform digital, akademisi, peneliti, dan masyarakat harus bekerja sama untuk memerangi ancaman deepfake dan melindungi masyarakat dari dampak negatifnya.

Dengan upaya bersama, diharapkan kita dapat menciptakan lingkungan digital yang lebih aman dan terpercaya bagi semua.

Selain kasus penipuan yang melibatkan konglomerat, Kemenkominfo juga telah menangani berbagai kasus penyalahgunaan deepfake lainnya. Misalnya, pada awal tahun 2024, Kemenkominfo berhasil memblokir sebuah video deepfake yang menampilkan seorang politisi ternama sedang memberikan pernyataan kontroversial. Video tersebut sempat viral di media sosial dan menimbulkan keresahan di masyarakat.

Kemenkominfo juga terus berupaya untuk meningkatkan literasi digital masyarakat agar lebih mampu mengenali dan menghindari konten deepfake. Berbagai program edukasi dan kampanye telah dilakukan, baik secara online maupun offline.

Meskipun tantangan dalam memerangi deepfake semakin kompleks, Kemenkominfo optimis bahwa dengan kolaborasi dan upaya bersama dari semua pihak, kita dapat menciptakan lingkungan digital yang lebih aman dan terpercaya bagi semua.