Google telah mengubah persyaratannya untuk memperjelas bahwa pelanggan dapat menerapkan alat AI generatifnya untuk membuat “keputusan otomatis” di bidang “berisiko tinggi”, seperti layanan kesehatan, selama ada manusia yang terlibat.
Menurut Kebijakan Larangan Penggunaan AI Generatif perusahaan yang diperbarui, yang diterbitkan pada hari Selasa, pelanggan dapat menggunakan AI generatif Google untuk membuat “keputusan otomatis” yang dapat memiliki “dampak merugikan yang signifikan terhadap hak-hak individu.” Asalkan ada manusia yang melakukan pengawasan dalam kapasitas tertentu, pelanggan dapat menggunakan AI generatif Google untuk mengambil keputusan mengenai pekerjaan, perumahan, asuransi, kesejahteraan sosial, dan area “berisiko tinggi” lainnya.
Dalam konteks AI, keputusan otomatis mengacu pada keputusan yang dibuat oleh sistem AI berdasarkan data faktual dan kesimpulan. Sebuah sistem mungkin membuat keputusan otomatis untuk memberikan pinjaman, misalnya, atau menyaring kandidat pekerjaan.
Draf persyaratan Google sebelumnya menyiratkan larangan menyeluruh terhadap pengambilan keputusan otomatis berisiko tinggi yang melibatkan AI generatif perusahaan. Namun Google mengatakan kepada TechCrunch bahwa pelanggan selalu dapat menggunakan AI generatifnya untuk pengambilan keputusan otomatis, bahkan untuk aplikasi berisiko tinggi, selama ada manusia yang mengawasi.
“Persyaratan pengawasan manusia selalu ada dalam kebijakan kami, untuk semua domain berisiko tinggi,” kata juru bicara Google saat dihubungi untuk memberikan komentar melalui email. “[W]kami sedang mengkategorikan ulang beberapa item [in our terms] Dan…
