Korea Selatan Selidiki Telegram atas Dugaan Pornografi Anak dan ”Deepfake”

Telegram menolak bekerja sama dengan kepolisian Korsel.

KOMPAS/FRANSISKUS WISNU WARDHANA DANY

Deretan video porno anak-anak yang dijual di Telegram, Selasa (27/2/2024). Penjual memanfaatkan sosial media X, dulu Twitter, dan Telegram untuk berkomunikasi dan transaksinya melalui dompet digital atau bank.

SEOUL, SENIN — Korea Selatan menyusul Perancis meluncurkan penyelidikan atas pelantar media sosial Telegram. Perusahaan milik Pavel Durov itu dituduh menyebarluaskan konten pornografi anak meskipun hasil dari kecerdasan buatan. Di dalam konten itu, wajah siswa-siswa di Korsel diedit ke tubuh digital seolah berada di dalam foto ataupun video porno.

Kantor berita Korsel, Yonhap, edisi Senin (2/9/2024) melaporkan bahwa aparat penegak hukum menyelidiki sekelompok mahasiswa. Mereka memiliki kanal terenkripsi di Telegram yang isinya menyebarkan konten pornografi yang diolah dengan menggunakan foto-foto mahasiswi. Ketika ditelisik lebih lanjut, di kanal itu juga ada konten dengan subyek anak-anak dan remaja.

Baca juga: Kasus Telegram di Perancis dan X di Brasil, Kenapa Medsos Jadi Target?

”Kami berusaha meminta Telegram bekerja sama, tetapi tidak ditanggapi,” kata Kepala Biro Penyelidikan Kepolisian Nasional Korsel Woo Joong-soo.

Kepolisian menerima 88 aduan mengenai konten pornografi deepfake dan telah menetapkan 24 orang sebagai pelaku. Deepfake adalah gambar, video, atau audio hasil editan atau dibuat menggunakan kecerdasan buatan, yang mungkin menyerupai orang nyata atau sebenarnya tidak ada.

AFP/ANTHONY WALLACE

Para aktivis, dengan mengenakan topeng mata, berunjuk rasa menentang pornografi deepfake di Seoul, Korea Selatan, 30 Agustus 2024. Poster yang mereka angkat bertuliskan ”Kejahatan seks deepfake terus berulang, negara ikut bertanggung jawab”.

Terlepas dari aturan melindungi kebebasan berpendapat dan berekspresi, pornografi anak adalah kejahatan di semua negara di dunia. Di Korsel, pemerintah memiliki wewenang memantau dan memastikan tidak ada konten pornografi anak yang beredar secara fisik ataupun digital. Kepemilikan atas konten tersebut juga melanggar hukum.

Baca juga: Anak-anak Keliru Memakai ”Skincare” Khusus Dewasa

Berdasarkan kajian lembaga perlindungan data pribadi Security Hero, Korsel adalah negara dengan konten pornografi deepfake terbanyak di dunia. Bahkan, 53 persen para pesohor—model, pemain film, dan penyanyi—tercatat menjadi korban konten tersebut. Foto dan video mereka diedit sedemikian rupa agar menjadi film porno.

Polisi mencatat, per Agustus 2024 ada 297 kasus pornografi deepfake di internet. Jumlah ini melonjak dari tahun 2021, yaitu 156 kasus. Modus pembuatan konten pornografi deepfake ini macam-macam, mulai dari balas dendam karena cinta ditolak sampai sekadar iseng.

Berdasarkan kajian lembaga perlindungan data pribadi Security Hero, Korsel adalah negara dengan konten pornografi deepfake terbanyak di dunia.

Presiden Korsel Yoon Suk Yeol yang mantan jaksa penuntut umum memiliki sikap keras terhadap konten ini. Ia memerintahkan penyelidikan dan penindakan yang tegas terhadap para pelaku ataupun segala jenis individu serta lembaga yang mewadahi produksi dan penyebaran konten tersebut.

Pendiri sekaligus Direktur Utama Telegram Pavel Durov saat ini berada di bawah penahanan Kepolisian Nasional Perancis di Paris. Ia digugat abai memoderasi ataupun bekerja sama dengan penegak hukum terkait peredaran konten pornografi anak, peredaran narkoba, ideologi teroris, dan kejahatan terorganisasi di pelantar media sosialnya.

AFP/GETTY IMAGES NORTH AMERICA/STEVE JENNINGS

Pavel Durov, salah satu pendiri dan CEO Telegram, berbicara pada acara TechCrunch Disrupt SF 2015 at Pier 70 di San Francisco, California, Amerika Serikat, 21 September 2015.

Durov ditangkap pada 24 Agustus 2024 di pinggiran Paris, Perancis. Penangkapan Durov merupakan kasus pertama bagi seorang CEO dari pelantar pengiriman pesan besar.

Pengacara David-Olivier Kaminski, yang mewakili Durov di Perancis, mengatakan, dakwaan bagi Durov berarti menuntut pengelola pelantar atau petingginya bertanggung jawab secara hukum atas tindakan dan segala penyalahgunaan oleh penggunanya.

Tekanan terhadap medsos

Berbagai negara di dunia mulai menekan perusahaan-perusahaan pelantar media sosial. Di Brasil, Hakim Agung Alexander de Moraes memerintahkan pemblokiran X.

Baca juga: Tak Patuhi Perintah Pengadilan Brasil, X Diblokir

Tindakan itu dikecam oleh Direktur Utama X Elon Musk yang menuduh Moraes memberangus kebebasan berekspresi. Musk berkomitmen membiarkan setiap orang mengunggah konten apa pun yang mereka mau tanpa sensor.

AP/ERALDO PERES

Hakim Agung Brasil Alexandre de Moraes tiba untuk mengikuti sebuah persidangan di Brasilia, Brasil, 22 Juni 2023.

Pemerintah Brasil menuduh X membiarkan berbagai konten berbahaya merajalela. Konten yang dimaksud adalah berbagai unggahan dari ekstrem kanan, terutama para pendukung Presiden Brasil 2019-2023 Jair Bolsonaro. Kekalahan Bolsonaro pada pemilihan umum Januari 2023 mengakibatkan pendukungnya menyerang gedung DPR di Brasilia.

Baca juga: Cegah Kekacauan, Siswa di Inggris Diajarkan Mengenali Informasi Palsu

Pelantar-pelantar media sosial sejatinya telah lama diminta turut bertanggung jawab atas konten yang mereka edarkan. Umumnya, mereka berkilah bahwa pemilik dan direktur tidak bisa disalahkan apabila pelantar dipakai oleh para penjahat. Argumen ini dipakai oleh pelantar media sosial Sky ECC yang bosnya juga sedang ditahan oleh kepolisian Perancis.

Langkah Irlandia

Media Irlandia, RTE, melaporkan negara itu akan menjadi yang pertama di Eropa menetapkan peraturan bahwa para pemimpin media sosial wajib bertanggung jawab atas konten yang beredar di pelantar mereka. ”Tanpa berbagai konten pidana itu pun, media sosial harus bertanggung jawab membiarkan perundungan daring terjadi,” kata Perdana Menteri Irlandia Simon Harris.

Baca juga: Bersiap Menjadi Warga Negara Digital

Pada Januari 2020, lembaga penelitian AS, Carnegie Council for Ethics in International Affair, menerbitkan esai bahwa pelantar media sosial memang harus dikenai aturan. Beberapa contoh yang mereka pakai ialah pemilu presiden AS 2016 ketika Rusia menggunakan Facebook untuk membentuk opini masyarakat AS melalui berbagai iklan dan unggahan dari para pendengung.

AP PHOTO

Kombinasi logi media sosial per 6 Desember 2019. Twitter (kiri), Youtube, dan Facebook.

Pada 2019, penembakan di masjid di Selandia Baru disiarkan secara langsung oleh pelaku di media sosial. Baru-baru ini, kerusuhan yang melanda berbagai kota di Inggris juga terjadi gara-gara kebohongan yang disebar oleh pendukung sayap kanan di media sosial.

Baca juga: Kerusuhan Besar di Inggris, Mengapa Meluas dalam Waktu Singkat?

Hukum mengenai kebebasan berpendapat dan berekspresi umumnya tidak dipahami secara mendalam. Pada dasarnya, kebebasan berekspresi menjadi kejahatan ketika memasuki ranah pidana sesuai dengan peraturan di negara masing-masing.

Dari semua negara di dunia, setidaknya pandangan mengenai pornografi anak, peredaran narkoba, dan penyebaran ideologi teroris dipandang sebagai kejahatan universal. (AFP/Reuters)