Jakarta – Menteri Keuangan Sri Mulyani (mungkin menteri pertama di Indonesia yang menjadi korban deepfake)menjadi korban video palsu hasil polesan kecerdasan buatan atau AI.
Video tersebut viral beberapa hari terakhir dan memantik komentar banyak pihak termasuk PGRI karena Sri Mulyani menyebut “guru sebagai beban negara”.
Padahal, kata Sri Mulyani, dia tidak pernah mengatakan demikian. Ucapannya di video palsu itu hasil manipulasi deepfake dan potongan pidato yang tidak utuh. Pidato aslinya disampaikan Sri Mulyani di Institut Teknologi Bandung (ITB), yang membahas alokasi anggaran untuk guru dan dosen sebagai salah satu tantangan bagi keuangan negara, bukan sebagai beban.
Seberapa Bahaya Deepfake?
Deepfake merupakan teknologi media sintetis yang dihasilkan AI untuk mereplikasi gambar, video, atau audio yang sangat mirip dengan aslinya, namun sepenuhnya palsu.
Istilah deepfake sendiri gabungan dari deep atau deep learning (pembelajaran mendalam), sebuah cabang AI, dan kata fake (palsu).
Deep learning merupakan jenis pembelajaran mesin yang menggunakan jaringan saraf tiruan atau artificial neural networks dengan banyak lapisan untuk memproses data.
Fenomena tersebut mulai dikenal luas pada 2017 ketika seorang moderator di forum internet Reddit membuat sebuah subreddit bernama “deepfakes”. Moderator tersebut mengunggah video menggunakan teknologi face-swapping untuk menukar wajah selebriti ke dalam video pornografi yang ada.
Pada Januari 2018, aplikasi desktop “FakeApp” dirilis. Lewat aplikasi ini, siapa saja dengan komputer yang memadai bisa membuat video menukar wajah atau face-swapping dengan mudah. Aplikasi ini kemudian digantikan oleh alat sumber terbuka yang lebih canggih seperti “Faceswap” dan “DeepFaceLab”.
Baca juga: Menkeu Sri Mulyani Bantah Sebut Guru Beban Negara: Itu Video Deepfake
Mekanisme teknis di balik deepfake sering kali melibatkan dua algoritma AI yang bekerja sama dalam sebuah struktur yang dikenal sebagai Generative Adversarial Networks (GANs).
Algoritma pertama, yang disebut generator, bertugas menciptakan replika konten palsu yang paling realistis. Sementara algoritma kedua, yang dikenal sebagai discriminator, berfungsi sebagai detektor pemeriksa apakah replika tersebut palsu dan melaporkan perbedaan antara konten palsu dan aslinya.
Laporan dari perusahaan keamanan siber Deeptrace pada 2019 mengungkapkan fakta bahwa 96 persen video deepfake yang mereka analisis berisi pornografi non-konsensual. Proporsi yang mengkhawatirkan ini diperkuat oleh studi lain yang menunjukkan 47 persen kasus penyalahgunaan deepfake berhubungan langsung dengan pelecehan individu, sebagian besar menargetkan perempuan.
Di Hong Kong, deepfake berhasil mengelabui seorang pekerja hingga tertipu USD 25 juta atau sekira Rp392 miliar pada 2024.
Dipakai Industri Film dan Politisi
Namun, Deepfake tak melulu dijadikan sebagai alat kejahatan. Di industri kreatif, Deepfake dipakai untuk meremajakan karakter film, seperti Rogue One dan The Mandalorian. Bahkan dipakai untuk menghidupkan kembali aktor yang sudah meninggal seperti John Lennon dan Elvis Presley dalam iklan atau acara televisi.
Perusahaan seperti Disney bahkan menggunakan deepfake beresolusi tinggi untuk menghemat biaya produksi visual efek mereka.
Sementara di India, banyak politisi menggunakan Deepfake selama Pemilu 2024. Mereka memakainya untuk menerjemahkan pidato kampanye ke dalam berbagai bahasa lokal di negara tersebut.[]
Komentar
Tanggapilah dengan bijak dan bertanggung jawab. Setiap tanggapan komentar di luar tanggung jawab redaksi. Privacy Policy