Sebuah studi baru-baru ini menemukan bahwa potret wajah yang dihasilkan oleh kecerdasan buatan (Artificial Intelligence) tidak hanya sangat realistis, tetapi juga terlihat lebih berbudi luhur daripada wajah asli.
Para peneliti mencatat bahwa “penilaian kami terhadap wajah yang dihasilkan Artificial Intelligence fotorealistik menunjukkan bahwa mesin sintesis telah melewati lembah yang luar biasa, mampu menciptakan wajah yang tidak dapat dibedakan dan lebih dapat dipercaya daripada yang asli.”
Orang Ini Tidak Ada
Kedua peneliti, Dr Sophie Nightingale dari Lancaster University dan Profesor Hani Farid dari University of California, Berkeley, melakukan eksperimen setelah mengenali ancaman deep fake yang dipublikasikan dengan baik, mulai dari semua jenis penipuan online hingga mengaktifkan kampanye disinformasi.
Para peneliti menekankan bahwa, “Mungkin yang paling berbahaya adalah hasil bahwa, di dunia digital di mana gambar atau video apa pun dapat dipalsukan, keaslian rekaman yang tidak nyaman atau tidak diinginkan dapat dipertanyakan.”
Mereka berpendapat bahwa meskipun ada kemajuan dalam mengembangkan teknik otomatis untuk mendeteksi konten palsu yang dalam, teknologi saat ini tidak cukup efektif dan akurat untuk mengikuti arus konstan konten baru yang diunggah secara online. Duo ini menyarankan bahwa ini berarti terserah pada konsumen konten online untuk memilah yang asli dari yang palsu.
Gili Weeringa, seorang advokat kesadaran keamanan di KnowBe4, setuju. Dia mengatakan kepada media kami melalui email bahwa perang melawan pemalsuan yang sebenarnya sangat sulit dilakukan tanpa teknologi khusus. “[Teknik mitigasi] bisa mahal dan sulit diterapkan dalam operasi waktu nyata, dan deep fake sering kali baru ditemukan setelah terjadi.”
Dengan asumsi ini, para peneliti melakukan serangkaian eksperimen untuk menentukan apakah partisipan manusia dapat membedakan wajah palsu modern dari wajah asli. Dalam pengujian mereka, mereka menemukan bahwa meskipun pelatihan untuk membantu mengidentifikasi palsu, tingkat akurasi hanya meningkat menjadi 59%, naik dari 48% tanpa pelatihan.
Ini mengarahkan para peneliti untuk menguji apakah persepsi kepercayaan dapat membantu orang mengidentifikasi gambar sintetis. Dalam studi ketiga, mereka meminta peserta untuk menilai seberapa dapat dipercaya wajah-wajah itu, hanya untuk menemukan bahwa peringkat rata-rata wajah sintetis adalah 7,7% lebih dapat dipercaya daripada peringkat rata-rata wajah asli. Jumlahnya mungkin tidak terlalu banyak, tetapi para peneliti mengklaim bahwa itu signifikan secara statistik.
Palsu Yang Lebih Dalam (Deep Fake)
Kepalsuan yang dalam sudah menjadi perhatian utama, dan sekarang air semakin diperkeruh oleh penelitian ini, menunjukkan bahwa foto palsu berkualitas tinggi yang di buat dengan kecerdasan buatan seperti itu dapat menambah dimensi baru pada penipuan online, misalnya, dengan membantu membuat file Definisi palsu yang paling meyakinkan on line.
“Satu hal yang mendorong keamanan siber adalah kepercayaan orang-orang pada teknologi, proses, dan orang-orang yang berusaha menjaganya tetap aman,” kata Weringa. “Kepalsuan yang mendalam, terutama ketika itu menjadi faktual, merusak kepercayaan itu, dan dengan demikian adopsi dan penerimaan keamanan siber. Mereka dapat menyebabkan orang tidak mempercayai semua yang mereka lihat.”
Chris Hook, Consumer Privacy Champion di Pixel Privacy, setuju. Dalam pertukaran email singkat, dia mengatakan kepada media bahwa deep fake fotorealistik dapat menyebabkan “kekacauan” online, terutama saat ini ketika semua jenis akun dapat diakses menggunakan teknologi ID foto.
Tindakan Perbaikan
Untungnya, Greg Kohn, direktur IoT, Prosegur Security, mengatakan ada proses yang dapat menghindari otentikasi penipuan semacam itu. Dia mengatakan kepada media melalui email bahwa sistem sertifikasi berbasis Kecerdasan Buatan (AI) mencocokkan individu yang diverifikasi dengan daftar, tetapi banyak yang memiliki perlindungan verifikasi “kehidupan” bawaan.
“Jenis sistem ini dapat meminta dan mengarahkan pengguna untuk melakukan tugas-tugas tertentu seperti tersenyum atau menoleh ke kiri, lalu ke kanan. Ini adalah hal-hal yang tidak dapat dilakukan oleh wajah yang dihasilkan secara statis,” kata Kuhn.
Para peneliti mengusulkan pedoman untuk mengatur pembuatan dan distribusinya untuk melindungi publik dari gambar buatan. Sebagai permulaan, mereka menyarankan untuk memasukkan tanda air yang tertanam dalam ke dalam jaringan sintesis foto dan video yang sama untuk memastikan bahwa semua media sintetis dapat dikenali dengan andal.
Sampai saat itu, kata Paul Bischoff, advokat privasi dan editor riset Infosec di Comparitech, orang-orang sendirian. “Orang-orang harus belajar untuk tidak mempercayai wajah di Internet, sama seperti kita semua telah belajar (semoga) tidak mempercayai nama yang disajikan dalam email kami,” Bischoff mengatakan kepada media kami melalui email.