Dalam sebuah kejanggalan yang memalukan dan ironis, seorang profesor terkemuka di Universitas Stanford dituduh menyebarkan misinformasi yang dihasilkan oleh AI sambil menjadi saksi ahli dalam mendukung undang-undang yang dirancang untuk mencegah misinformasi yang dihasilkan oleh AI dalam pemilu.
Jeff Hancock, direktur pendiri Lab Media Sosial Stanford, menyampaikan pendapat ahlinya awal bulan ini dalam Kohls v. Ellison, gugatan yang diajukan oleh YouTuber dan perwakilan negara bagian Minnesota yang mengklaim undang-undang baru negara bagian tersebut mengkriminalisasi penggunaan deepfake untuk mempengaruhi pemilu. Amandemen Pertama mereka mengenai hak kebebasan berpendapat.
Pendapatnya mencakup referensi ke penelitian yang konon menemukan “bahkan ketika seseorang diberi tahu tentang keberadaan deepfake, mereka mungkin masih kesulitan membedakan antara konten nyata dan konten yang dimanipulasi.” Namun menurut pengacara penggugat, penelitian yang dikutip Hancock—berjudul “Pengaruh Video Deepfake terhadap Sikap dan Perilaku Politik” dan diterbitkan dalam Journal of Information Technology & Politics—sebenarnya tidak ada.
“Kutipan tersebut memiliki ciri-ciri 'halusinasi' kecerdasan buatan (AI), yang menunjukkan bahwa setidaknya kutipan tersebut dihasilkan oleh model bahasa besar seperti ChatGPT,” tulis penggugat dalam mosi yang berusaha mengecualikan pendapat ahli Hancock. “Penggugat tidak mengetahui…
