New Policy: Wamenkomdigi nilai “deepfake” tingkatkan ancaman penipuan digital

Wamenkomdigi: Deepfake Tingkatkan Ancaman Penipuan Digital

New Policy – Jakarta – Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mengingatkan bahwa penyalahgunaan kecerdasan buatan (AI) melalui teknologi “deepfake” membawa risiko besar terhadap keamanan digital. Ia menekankan bahwa fenomena ini harus diantisipasi dengan serius, karena berpotensi meningkatkan jumlah skema penipuan yang sulit dideteksi oleh masyarakat. Dalam pidatonya di acara Indonesia Ethical AI Summit, Rabu lalu, Nezar menjelaskan bagaimana teknologi deepfake mampu menciptakan video, gambar, atau suara palsu yang sangat menyerupai bentuk aslinya, sehingga membingungkan pengguna untuk membedakannya dari kenyataan.

Ancaman Deepfake dalam Dunia Digital

Menurut Nezar, kemampuan AI untuk meniru suara, wajah, atau bahkan perilaku manusia memperparah kelemahan masyarakat dalam mengenali konten yang dimanipulasi. “Sekarang, suara kita bisa ditiru, wajah kita bisa disalin, dan bahkan kita bisa muncul dalam video deepfake yang dihasilkan AI dengan sangat alami,” ujarnya. Ia menyoroti bahwa keberadaan teknologi ini tidak hanya memperluas ruang untuk kejahatan siber, tetapi juga menciptakan skenario penipuan yang lebih kompleks dan mudah menipu korban.

“Pelaku kejahatan digital kini menggunakan deepfake untuk membuat video palsu yang menyerupai aslinya, sehingga korban sulit menilai mana yang benar dan mana yang palsu,” kata Nezar Patria.

Dalam konteks keamanan siber, Nezar mengungkapkan bahwa deepfake menjadi alat yang efektif untuk menipu publik. Contohnya, video yang menampilkan seseorang dalam situasi tertentu—seperti mengucapkan pesan penipuan atau menunjukkan perbuatan tidak terduga—dapat disebarkan secara masif dengan cepat. Dampaknya, kepercayaan masyarakat terhadap informasi digital berpotensi berkurang, sehingga meningkatkan risiko penipuan yang bisa merugikan individu maupun institusi.

Perkembangan Teknologi AI dan Risiko yang Muncul

Kemajuan teknologi AI dewasa ini berjalan sangat pesat, bahkan melampaui fase generative AI menuju agentic AI. Nezar mengatakan, perpindahan ini memungkinkan sistem kecerdasan buatan mengambil keputusan secara mandiri, yang menimbulkan tantangan baru dalam pemanfaatan teknologi. “AI kini tidak hanya membuat konten, tetapi juga mampu berinteraksi dengan data dan lingkungan secara dinamis, sehingga risiko penyalahgunaan meningkat secara eksponensial,” jelasnya.

Menurut Nezar, selain menghasilkan manfaat besar bagi berbagai sektor, seperti pendidikan, kesehatan, dan layanan perbankan, perkembangan AI juga membawa ancaman yang memerlukan pengawasan ketat. Ia mencontohkan bahwa pelaku kejahatan digital bisa menggunakan AI untuk menciptakan konten yang terlihat sangat autentik, seperti video orang terkenal berbicara tentang investasi berisiko tinggi atau mengucapkan janji palsu yang bisa menipu banyak orang.

Pola Masyarakat dan Literasi Teknologi

Nazar Patria mengkritik tingkat literasi masyarakat terhadap AI, yang berdampak pada kemampuan mereka untuk mengenali manipulasi digital. “Kebanyakan orang masih tidak paham sejauh mana AI bisa mengubah wajah atau suara mereka, sehingga mudah terkecoh oleh konten yang dibuat secara sintetik,” tambahnya. Ia menegaskan bahwa kurangnya pemahaman ini membuat skema penipuan digital semakin efektif dan sulit dideteksi oleh masyarakat awam.

Sebagai contoh, beberapa korban penipuan online mengaku terjebak karena melihat video yang menampilkan orang dekat mereka memberikan informasi mengenai investasi atau transaksi keuangan. Tanpa pengetahuan tentang teknologi deepfake, mereka mempercayai video tersebut sebagai bukti sah, sehingga mengalami kerugian besar. Nezar menekankan bahwa literasi digital harus ditingkatkan, terutama dalam mengenali kemampuan AI untuk menyintesis data dan menghasilkan konten yang tidak terdeteksi secara langsung.

“Karena masyarakat kita belum paham tentang AI, banyak yang terkecoh. Itu sebabnya skema penipuan digital kini sangat rumit dan berbahaya,” ujarnya.

Keperluan Regulasi dan Partisipasi Manusia

Dalam upaya mengatasi ancaman ini, Nezar menyarankan penerapan protokol ketat yang melibatkan keterlibatan manusia dalam pengambilan keputusan. Ia mengatakan bahwa teknologi deepfake dan AI yang lebih maju, seperti agentic AI, memerlukan peninjauan secara terus-menerus untuk memastikan tidak ada penyalahgunaan yang terjadi. “Banyak pakar menekankan pentingnya prinsip ‘human in the loop’ dalam proses pengambilan keputusan AI, agar tidak ada kesalahan yang tidak terdeteksi sejak awal,” jelasnya.

Nazar juga mengingatkan bahwa etika AI tidak lagi bisa bersifat sukarela. Ia menegaskan bahwa prinsip transparansi, akuntabilitas, dan keamanan harus diterapkan sejak tahap perancangan produk AI. “Kami harus memastikan bahwa setiap produk yang dirilis memiliki standar etika yang jelas, agar tidak menimbulkan konsekuensi buruk terhadap kehidupan nyata masyarakat,” tambahnya. Hal ini penting untuk menjaga keseimbangan antara inovasi dan perlindungan digital.

Solusi Melalui Kolaborasi dan Pemantauan Berkelanjutan

Dalam rangka menghadapi realitas sintetik yang dihasilkan AI, Nezar menekankan perlu kolaborasi antara pemerintah, industri, akademisi, dan masyarakat. Ia menyebutkan bahwa pengembang teknologi harus memperkuat tata kelola risiko dan menyediakan fitur pengecekan untuk membantu pengguna mengidentifikasi konten palsu. “Kolaborasi ini bisa membantu mencegah penyebaran deepfake yang merugikan masyarakat,” katanya.

Ia juga mengusulkan adanya regulasi yang lebih ketat, termasuk pengaturan standar teknis untuk memastikan keandalan konten digital. Nezar menilai bahwa keberhasilan mitigasi risiko deepfake bergantung pada penerapan teknologi dengan prinsip kejelasan dan tanggung jawab. “Jika kita tidak mengawasi penggunaan AI secara berkala, risiko penipuan akan terus meningkat,” ujarnya.

Konteks Global dan Upaya Nasional

Menyadari bahwa deepfake adalah masalah global, Nezar Patria menilai Indonesia perlu mempercepat upaya mitigasi melalui penguasaan teknologi dan peningkatan kesadaran masyarakat. Ia mencontohkan bahwa negara-negara lain sudah memperkenalkan pedoman penggunaan AI secara etis, dan Indonesia tidak boleh kalah dalam menghadapi tantangan serupa. “Kami harus membangun sistem yang mengintegrasikan etika ke dalam setiap tahap pengembangan teknologi, mulai dari perancangan hingga penerapan,” jelasnya.

Menurutnya, penggunaan AI secara etis sejak awal bisa mengurangi risiko penipuan digital yang terus berkembang. “Dengan memperkuat kebijakan dan regulasi, kita bisa menciptakan lingkungan digital yang lebih aman dan transparan,” pungkas Nezar. Ia berharap kolaborasi lintas sektor bisa menghasilkan solusi yang efektif untuk mengatasi ancaman dari deepfake dan teknologi AI yang semakin maju.

Implementasi Praktis dan Pelatihan Masyarakat

Untuk memastikan keberhasilan strategi ini, Nezar menyarankan penerapan prinsip ‘ethics by design’ dalam pengembangan produk AI. Prinsip ini melibatkan penerapan etika ke dalam proses desain teknologi, sehingga mencegah potensi penyalahgunaan sejak awal. “Kami perlu mengajarkan etika AI ke pengembang dan pengguna, agar mereka mampu memahami dampak teknologi mereka ciptakan,” ujarnya.

Nazar Patria juga menekankan pentingnya pelatihan dan edukasi terhadap masyarakat untuk mengenali ciri-ciri deepfake. Ia menyebutkan bahwa kesadaran tentang teknologi ini bisa menjadi pelindung pert