Jakarta (ANTARA) - Pemerintah India Jumat (24/11) memberikan peringatan kepada perusahaan media sosial, termasuk Facebook dan YouTube, untuk secara berulang mengingatkan pengguna bahwa undang-undang setempat melarang mereka mengunggah deepfake dan konten yang menyebarkan kecabulan atau informasi yang salah.

Dikutip Reuters, Jumat (24/11), peringatan ini disampaikan oleh Wakil Menteri IT India Rajeev Chandrasekhar dalam pertemuan tertutup di mana dia mengatakan banyak perusahaan yang belum memperbarui syarat penggunaan mereka meskipun terdapat aturan pada tahun 2022 yang melarang konten yang mengganggu bagi anak-anak, cabul, atau meniru identitas orang lain.

Ini terjadi seiring dengan keprihatinan yang semakin meningkat terhadap deepfake, yakni video yang realistis namun difabrikasi oleh algoritma kecerdasan buatan (AI) yang dilatih pada rekaman online. Seorang menteri terkemuka negara itu mengungkapkan bahwa India sedang menyusun aturan untuk mengatasi hal ini.

Baca juga: Kaspersky bagikan tips hindari penipuan deepfake pada Pemilu 2024

Chandrasekhar mengatakan perusahaan-perusahaan tersebut harus meningkatkan kesadaran aturan dengan mengingatkan pengguna setiap kali mereka masuk bahwa mereka tidak boleh mengunggah konten tersebut atau dengan mengeluarkan pengingat.

Dia mengatakan jika tidak, pihaknya akan mengeluarkan arahan memaksa mereka untuk melakukannya, kata dua sumber Reuters, yang enggan disebutkan namanya karena pertemuan itu bersifat pribadi.

Kementerian IT India mengatakan dalam pernyataan pers bahwa semua platform setuju untuk menyelaraskan pedoman kontennya dengan aturan pemerintah.

Ketika dikonfirmasi, Facebook dan Chandrasekhar tidak segera menanggapi permintaan untuk berkomentar.

Google milik Alphabet Inc, yang memiliki YouTube, mengatakan dalam sebuah pernyataan bahwa perusahaan tersebut berkomitmen pada pengembangan AI yang bertanggung jawab dan memiliki kebijakan dan sistem yang kuat untuk mengidentifikasi dan menghapus konten berbahaya di seluruh produk dan platformnya.

Baca juga: Lemhannas: Regulasi dan teknologi alat lawan hoaks dan "deepfake"

Pemerintah India dan Perdana Menteri Narendra Modi baru-baru ini mengekspresikan keprihatinan terkait deepfake.

Selama pertemuan virtual negara-negara G20 pada Rabu, Perdana Menteri Modi menyerukan pemimpin global untuk bersama-sama bekerja menuju regulasi AI, dan mengungkapkan keprihatinan atas dampak negatif deepfake terhadap masyarakat.

Negara-negara di seluruh dunia berlomba-lomba untuk menyusun aturan untuk mengatur AI. India telah memperketat regulasi perusahaan media sosial, yang menganggap negara Asia Selatan ini sebagai pasar pertumbuhan utama.

Tahun lalu, pemerintah India secara pribadi mengkritik perusahaan-perusahaan tersebut karena tidak menghapus apa yang disebut sebagai berita palsu di situs mereka, yang menurut pemerintah telah memaksa pemerintah untuk memerintahkan penghapusan konten.

Baca juga: Publik diminta tak percaya pada satu informasi guna cegah "deepfake"