Jakarta (ANTARA) - Direktur Jenderal Informasi dan Komunikasi Publik di Kementerian Komunikasi dan Informatika Usman Kansong mengingatkan perlu mengantisipasi adanya fenomena deepfake yang bisa mengecoh siapa pun menjelang Pemilihan Umum (Pemilu) 2024.

Deepfake merupakan salah satu tipe dari kecerdasan buatan (AI) yang digunakan untuk membuat foto, audio, video hoaks yang cukup meyakinkan. Deepfake dibuat menggunakan dua algoritma AI yang saling bertentangan: satunya disebut generator, yang lain disebut diskriminator.

"Ini satu fenomena yang kami khawatirkan jelang pemilu yakni, deepfake," ujar Usman saat pembukaan Focus Group Discussion (FGD) dengan tema 'Peran Media Pemerintah Dalam Menyukseskan Pemilu Damai 2024' di Jakarta, Kamis.

Menurutnya, AI harus diantisipasi agar tidak digunakan untuk kepentingan yang tidak baik atau merugikan. Ia mencontohkan penggunaan AI secara tidak bertanggung jawab menimpa Paul Vallas, salah satu kandidat pemilihan wali kota di Chicago, Illinois, Amerika Serikat.

Ia menuturkan beredar video deepfake yang memuat foto Vallas dengan suara di bawahnya yang mengkritik polisi di Amerika Serikat yang melakukan kekerasan terhadap para demonstran.

"Tentu itu tidak menguntungkan bagi Vallas, akhirnya dia kalah dalam pemilihan di Chicago," katanya.

Usman mengatakan kondisi itu harus menjadi peringatan bagi semua pihak dalam menghadapi Pemilu 2024. Untuk itu, ia berharap momentum ini dapat digunakan media negara atau media pemerintah dalam mengambil posisi sebagai clearing house atau sebagai rumah penjernih bagi media sosial.

Sebelumnya, Jumat (22/10), Menteri Komunikasi dan Informatika Budi Arie Setiadi mengatakan bahwa pedoman etika Artificial Intelligence (AI) diperlukan guna menghadapi potensi munculnya gangguan informasi baru dalam pemanfaatan teknologi kecerdasan buatan.

Kemajuan teknologi AI, menurut Budi, berpotensi menimbulkan bentuk gangguan informasi baru, salah satunya teknologi AI DeepFake.

"Melalui deepfake, penggunanya dapat memanipulasi gambar atau video menyerupai orang tertentu untuk melakukan pembohongan publik atau penipuan," katanya saat berbicara dalam The 2nd MASTEL's 5G Summit - Acceleration of 5G Network and AI Towards Indonesia as Digital Economy Country di Jakarta Selatan.

Padahal, kata dia sebagaimana dikutip dari pernyataan pers, Jumat, potensi pemanfaatan AI cukup besar. Di berbagai negara lebih dari 50 persen responden dari Studi Forbes (2023) menggunakan AI untuk layanan customer service, hingga mekanisme penanganan penipuan.

Bahkan, pemanfaatan AI diproyeksikan akan berkontribusi sebesar 366 miliar dollar AS (sekitar Rp5,1 kuadriliun) terhadap produk domestik bruto (PDB) Indonesia pada tahun 2030.

Kementerian Kominfo, lanjut Budi, sekarang tengah menyusun pedoman etika pemanfaatan kecerdasan buatan di Indonesia sebagai respons terhadap berbagai tantangan pemanfaatan AI.

Budi mengatakan, pemerintah telah menyusun Strategi Nasional Kecerdasan Artifisial 2020-2045 seiring peningkatan tren penggunaan AI.

Selain itu, melalui Peraturan Menteri Kominfo No. 3 Tahun 2021, Kementerian Kominfo mengatur Klasifikasi Baku Lapangan Industri Aktivitas Pemrograman Berbasis AI.
Baca juga: KTT AIS digelar agar suara negara kepulauan dapat didengar
Baca juga: Kemenkominfo: Gangguan akses Google Docs karena masalah teknis
Baca juga: Kemenkominfo intensif pantau ruang digital jelang pemilu