Beritabaru.co Dapatkan aplikasi di Play Store

 Berita

 Network

 Partner

wajah

Studi Eksperimen : Wajah hasil dari AI Lebih Dipercaya Dibanding Wajah Asli

Berita Baru, Amerika Serikat – Sebuah studi baru yang mengkhawatirkan mengungkapkan, wajah “palsu” yang dibuat oleh kecerdasan buatan (AI) ternyata terlihat lebih dapat dipercaya daripada wajah orang sungguhan.

Para peneliti melakukan beberapa eksperimen untuk melihat apakah wajah palsu yang dibuat oleh kerangka pembelajaran mesin AI mampu menipu manusia.

Mereka menemukan wajah yang dibuat secara sintetis tidak hanya sangat realistis untuk foto, tetapi juga hampir tidak dapat dibedakan dari wajah asli, dan bahkan dinilai lebih dapat dipercaya.

Karena hasil tersebut, para peneliti menyerukan perlindungan untuk mencegah fitur AI ‘deepfakes’ beredar secara online.

Deepfake telah digunakan untuk apa yang disebut balas dendam pornografi, atau penipuan dan propaganda, yang mengarah ke identitas yang salah tempat dan penyebaran berita palsu.

Studi baru dilakukan oleh Sophie J. Nightingale di Lancaster University dan Hany Farid di University of California, Berkeley.

“Evaluasi kami terhadap realisme foto wajah yang disintesis AI menunjukkan bahwa mesin sintesis telah melewati “lembah luar biasa” dan mampu menciptakan wajah yang tidak dapat dibedakan – dan lebih dapat dipercaya – daripada wajah asli,” kata mereka.

“Mungkin yang paling merusak adalah konsekuensi bahwa di dunia digital di mana setiap gambar atau video dapat dipalsukan, keaslian rekaman yang tidak menyenangkan atau tidak diinginkan dapat dipertanyakan.”

Untuk penelitian ini, para ahli menggunakan wajah palsu yang dibuat dengan software StyleGAN2, “jaringan permusuhan generatif” dari perusahaan teknologi AS Nvidia.

Jaringan permusuhan generatif (atau GAN) bekerja dengan mengadu dua algoritma satu sama lain, dalam upaya untuk menciptakan representasi yang meyakinkan dari dunia nyata.

Dalam percobaan pertama, 315 peserta mengklasifikasikan 128 wajah yang diambil dari 800 wajah sebagai nyata atau sintesis.

Tingkat akurasi mereka adalah 48 persen, mendekati peluang kinerja 50 persen, peneliti menemukan.

Dalam percobaan kedua, 219 peserta baru dilatih dan diberi umpan balik tentang cara mengklasifikasikan wajah.

Mereka mengklasifikasikan 128 wajah yang diambil dari 800 wajah yang sama seperti pada percobaan pertama tetapi meskipun mereka telah berlatih, tingkat akurasinya hanya meningkat menjadi 59 persen.

Jadi, para peneliti kemudian memutuskan untuk mencari tahu apakah persepsi kepercayaan dapat membantu orang mengidentifikasi gambar buatan dengan percobaan ketiga.

“Wajah menyediakan sumber informasi yang kaya, dengan paparan hanya beberapa milidetik yang cukup untuk membuat kesimpulan implisit tentang ciri-ciri individu seperti kepercayaan,” kata para penulis.

A representative set of matched real and synthetic faces (in terms of gender, age, race, and overall appearance)
Satu set perwakilan wajah asli dan sintetis yang cocok (dalam hal jenis kelamin, usia, ras, dan penampilan keseluruhan)

Eksperimen ketiga meminta 223 peserta untuk menilai kepercayaan dari 128 wajah yang diambil dari 800 wajah yang sama dalam skala 1 (sangat tidak dapat dipercaya) hingga 7 (sangat dapat dipercaya).

Peringkat rata-rata untuk wajah sintetis adalah 7,7 persen lebih dapat dipercaya daripada peringkat rata-rata untuk wajah asli yang “signifikan secara statistik.”

Wajah kulit hitam dinilai lebih dapat dipercaya daripada wajah Asia Selatan, tetapi sebaliknya, tidak ada efek di seluruh ras.

Namun, wanita dinilai secara signifikan lebih dapat dipercaya daripada pria.

Para peneliti mengklaim bahwa apakah wajah tersenyum atau tidak yang dapat meningkatkan persepsi kepercayaan – tidak mempengaruhi hasil.

“Wajah yang tersenyum lebih cenderung dinilai dapat dipercaya, tetapi 65,5 persen dari wajah asli dan 58,8 persen dari wajah sintetis tersenyum, jadi ekspresi wajah saja tidak dapat menjelaskan mengapa wajah sintetis dinilai lebih dapat dipercaya,” mereka menunjukkan .

Sebaliknya, mereka menyarankan bahwa wajah yang disintesis dapat dianggap lebih dapat dipercaya karena mereka menyerupai wajah rata-rata, yang dianggap lebih dapat dipercaya.

Untuk melindungi publik dari ‘deepfake’, para peneliti juga mengusulkan pedoman untuk pembuatan dan distribusi gambar yang disintesis.

“Perlindungan dapat mencakup, misalnya, memasukkan tanda air yang kuat ke dalam jaringan sintesis gambar dan video yang akan menyediakan mekanisme hilir untuk identifikasi yang andal.”

The four most (top) and four least (bottom) trustworthy faces and their trustworthy rating on a scale of 1 (very untrustworthy) to 7 (very trustworthy). Synthetic faces (S) are, on average, more trustworthy than real faces (R)
Empat wajah yang paling (paling atas) dan empat yang paling tidak dapat dipercaya (bawah) dan peringkat mereka yang dapat dipercaya pada skala 1 (sangat tidak dapat dipercaya) hingga 7 (sangat dapat dipercaya). Wajah sintetis (S), rata-rata, lebih dapat dipercaya daripada wajah asli (R)

“Karena demokratisasi akses ke teknologi canggih inilah yang menimbulkan ancaman paling signifikan, kami juga mendorong pertimbangan ulang terhadap pendekatan yang sering dilakukan secara laissez-faire kepada publik dan pelepasan kode tanpa batas bagi siapa pun untuk dimasukkan ke dalam aplikasi apa pun.”

“Pada momen penting ini, dan seperti yang telah dilakukan bidang ilmiah dan teknik lainnya, kami mendorong komunitas grafis dan visi untuk mengembangkan pedoman untuk pembuatan dan distribusi teknologi media sintetis yang menggabungkan pedoman etis bagi peneliti, penerbit, dan distributor media.”

Studi ini telah diterbitkan dalam jurnal Proceedings of the National Academy of Sciences.