OpenAI mendanai penelitian akademis mengenai algoritma yang dapat memprediksi penilaian moral manusia.
Dalam pengajuan ke IRS, OpenAI Inc., organisasi nirlaba OpenAI, mengungkapkan bahwa mereka memberikan hibah kepada peneliti Duke University untuk proyek bertajuk “Research AI Morality.” Saat dihubungi untuk dimintai komentar, juru bicara OpenAI merujuk pada siaran pers yang menunjukkan bahwa penghargaan tersebut merupakan bagian dari hibah tiga tahun senilai $1 juta yang lebih besar kepada para profesor Duke yang mempelajari “membuat AI yang bermoral.”
Sedikit yang dipublikasikan tentang penelitian “moralitas” yang didanai OpenAI ini, selain fakta bahwa hibah tersebut berakhir pada tahun 2025. Peneliti utama studi tersebut, Walter Sinnott-Armstrong, seorang profesor etika praktis di Duke, mengatakan kepada TechCrunch melalui email bahwa dia “tidak akan dapat berbicara” tentang pekerjaan itu.
Sinnott-Armstrong dan rekan penyelidik proyek tersebut, Jana Borg, telah menghasilkan beberapa penelitian — dan sebuah buku — tentang potensi AI untuk berfungsi sebagai “GPS moral” untuk membantu manusia membuat penilaian yang lebih baik. Sebagai bagian dari tim yang lebih besar, mereka telah menciptakan algoritma yang “selaras secara moral” untuk membantu memutuskan siapa yang menerima donasi ginjal, dan mempelajari skenario mana yang lebih disukai orang-orang jika AI mengambil keputusan moral.
Menurut siaran persnya, tujuan dari penelitian yang didanai OpenAI ini adalah untuk melatih algoritma untuk “memprediksi penilaian moral manusia” dalam skenario yang melibatkan konflik “di antara fitur-fitur yang relevan secara moral dalam bidang kedokteran, hukum, dan bisnis.”…
