Evolv, perusahaan di balik sistem “kecerdasan buatan” kontroversial yang digunakan untuk mendeteksi senjata di kereta bawah tanah New York dan di sekolah-sekolah di seluruh negeri, telah dituduh oleh Komisi Perdagangan Federal menyesatkan pelanggan, menurut siaran pers baru dari FTC. Badan tersebut menuduh pemindai Evolv Express, yang digunakan di sekitar 800 sekolah di 40 negara bagian, tidak seakurat yang diklaim perusahaan dalam mendeteksi senjata. Dan FTC ingin Evolv berhenti melebih-lebihkan kemampuan AI-nya.
“Dalam usulan penyelesaian FTC, Evolv akan dilarang membuat klaim yang tidak didukung tentang kemampuan produknya untuk mendeteksi senjata dengan menggunakan kecerdasan buatan dan juga harus memberikan pilihan kepada pelanggan sekolah K-12 tertentu untuk membatalkan kontrak mereka, yang umumnya mengunci pelanggan ke dalam kesepakatan multi-tahun,” kata FTC dalam siaran pers Selasa.
Detektor senjata Evolv mendapat perhatian luas di pers nasional awal tahun ini ketika sistem tersebut dipasang di sistem kereta bawah tanah New York. Namun bahkan CEO pada saat itu menyatakan bahwa sistem kereta bawah tanah bukanlah kasus penggunaan yang baik.
FTC mengatakan Evolv telah secara salah menyiratkan bahwa pengguna dapat menghindari keharusan untuk melakukan pengorbanan yang diperlukan untuk memiliki sistem deteksi senjata yang sangat aman dan “pengalaman yang mulus” bagi orang-orang yang memasuki sebuah gedung. Inti masalahnya, menyetel pemindai ke tingkat yang lebih rendah…
