AI generatif memiliki banyak penyalahgunaan yang terdokumentasi dengan baik, mulai dari mengarang makalah akademis hingga meniru artis. Dan sekarang, hal ini tampaknya mulai muncul dalam operasi pengaruh negara.
Salah satu kampanye baru-baru ini “sangat mungkin” terbantu oleh produk-produk penghasil suara AI komersial, termasuk teknologi yang dirilis secara publik oleh startup terkenal ElevenLabs, menurut laporan terbaru dari perusahaan intelijen ancaman Recorded Future yang berbasis di Massachusetts.
Laporan tersebut menggambarkan kampanye yang melibatkan Rusia yang dirancang untuk melemahkan dukungan Eropa terhadap Ukraina, yang dijuluki “Operation Undercut,” yang secara mencolok menggunakan sulih suara yang dihasilkan AI pada video “berita” palsu atau menyesatkan.
Video-video tersebut, yang menargetkan pemirsa Eropa, menyerang politisi Ukraina karena dianggap korup atau mempertanyakan manfaat bantuan militer ke Ukraina, dan tema-tema lainnya. Misalnya, sebuah video menyebutkan bahwa “bahkan jammer pun tidak dapat menyelamatkan tank Abrams Amerika,” mengacu pada perangkat yang digunakan tank AS untuk membelokkan rudal yang masuk – memperkuat pernyataan bahwa mengirim kendaraan lapis baja berteknologi tinggi ke Ukraina tidak ada gunanya.
Laporan tersebut menyatakan bahwa pembuat video “sangat mungkin” menggunakan AI yang dihasilkan suara, termasuk teknologi ElevenLabs, untuk membuat konten mereka tampak lebih sah. Untuk memverifikasi hal ini, peneliti Recorded Future mengirimkan klip tersebut ke AI Speech Classifier milik ElevenLabs, yang memberikan kemampuan bagi siapa saja untuk “mendeteksi apakah klip audio dibuat menggunakan…