Musuh asing diharapkan menggunakan algoritme AI untuk membuat deepfake yang semakin realistis dan menyebarkan disinformasi sebagai bagian dari operasi militer dan intelijen seiring dengan peningkatan teknologi.
Deepfakes mendeskripsikan kelas konten yang dihasilkan oleh model pembelajaran mesin yang mampu menempelkan wajah seseorang ke tubuh orang lain secara realistis. Mereka bisa dalam bentuk gambar atau video, dan dirancang untuk membuat orang percaya bahwa seseorang telah mengatakan atau melakukan sesuatu yang tidak mereka lakukan. Teknologi ini sering digunakan untuk membuat video porno palsu selebriti wanita.
Namun, seiring kemajuan teknologi, media sintetik juga telah digunakan untuk menyebarkan disinformasi untuk memicu konflik politik. Video Presiden Ukraina Volodymyr Zelensky mendesak tentara untuk meletakkan senjata dan menyerah, misalnya, muncul tak lama setelah Rusia menginvasi negara itu, tahun lalu.
Zelensky membantah telah mengatakan hal seperti itu dalam sebuah video yang diposting di Facebook. Perusahaan media sosial menghapus video tersebut dalam upaya untuk menghentikan penyebaran informasi palsu.
Namun upaya untuk membuat deepfake akan terus meningkat dari negara musuh, berdasarkan AI dan peneliti kebijakan luar negeri dari Northwestern University dan Brookings Institute di Amerika.
Sebuah tim ilmuwan komputer dari Universitas Northwestern sebelumnya mengembangkan Pengurangan Terorisme dengan algoritma Artificial Intelligence Deepfakes (TREAD) yang menunjukkan video palsu menampilkan teroris ISIS yang tewas, Mohammed al Adnani.
“Kemudahan pengembangan deepfake untuk individu dan target tertentu, serta pergerakan cepat mereka — baru-baru ini melalui bentuk AI yang dikenal sebagai difusi stabil — mengarah ke dunia di mana semua negara dan aktor nonnegara akan memiliki kapasitas untuk menyebarkan deepfake dalam operasi keamanan dan intelijen mereka,” penulis laporan itu dikatakan. “Pejabat keamanan dan pembuat kebijakan perlu mempersiapkan diri sesuai dengan itu.”
Model difusi yang stabil saat ini mendukung model teks-ke-gambar, yang menghasilkan gambar palsu yang dideskripsikan dalam teks oleh pengguna. Mereka sekarang diadaptasi untuk memalsukan video palsu juga dan menghasilkan konten yang semakin realistis dan tampak meyakinkan. Musuh asing pasti akan menggunakan teknologi ini untuk melakukan kampanye disinformasi, menyebarkan berita palsu untuk menabur kebingungan, mengedarkan propaganda, dan merusak kepercayaan online, menurut laporan tersebut.
Para peneliti mendesak pemerintah di seluruh dunia untuk menerapkan kebijakan yang mengatur penggunaan deepfake. “Dalam jangka panjang, kita membutuhkan kesepakatan global tentang penggunaan deepfake oleh badan pertahanan dan intelijen,” VS Subrahmanian, salah satu penulis laporan dan seorang profesor ilmu komputer di Northwestern University, mengatakan kepada Pendaftaran.
“Mendapatkan kesepakatan seperti itu akan sulit, terutama dari negara-negara pemilik hak veto. Bahkan jika kesepakatan semacam itu tercapai, beberapa negara kemungkinan besar akan melanggarnya. Oleh karena itu, kesepakatan semacam itu perlu menyertakan mekanisme sanksi untuk mencegah dan menghukum pelanggar.”
Mengembangkan teknologi yang mampu mendeteksi deepfake tidak akan cukup untuk mengatasi disinformasi. “Hasilnya akan menjadi permainan kucing-dan-tikus yang serupa dengan yang terlihat pada malware: Ketika perusahaan keamanan siber menemukan malware jenis baru dan mengembangkan tanda tangan untuk mendeteksinya, pengembang malware membuat ‘penyesuaian’ untuk menghindari detektor,” kata laporan tersebut. .
“Siklus deteksi-hindari-deteksi-hindari berlangsung dari waktu ke waktu…Akhirnya, kita dapat mencapai titik akhir di mana deteksi menjadi tidak layak atau terlalu intensif secara komputasi untuk dilakukan dengan cepat dan dalam skala besar.” ®