Salah satu pendiri OpenAI, Ilya Sutskever, berbicara tentang berbagai topik di NeurIPS, konferensi AI tahunan, Jumat sore sebelum menerima penghargaan atas kontribusinya di bidang ini.
Sutskever memberikan prediksinya tentang AI “supercerdas”, AI yang lebih mampu melakukan banyak tugas dibandingkan manusia, yang ia yakini akan tercapai suatu saat nanti. AI supercerdas akan “berbeda secara kualitatif” dari AI yang kita miliki saat ini, kata Sutskever – dan dalam beberapa aspek tidak dapat dikenali.
“[Superintelligent] sistem sebenarnya akan menjadi agen secara nyata,” kata Suksever, berbeda dengan AI yang “sangat sedikit agen” saat ini. Mereka akan “bernalar”, dan akibatnya, menjadi semakin tidak dapat diprediksi. Mereka akan memahami berbagai hal dari data yang terbatas. Dan mereka akan sadar diri, Sutskever yakin.
Faktanya, mereka mungkin menginginkan hak. “Ini bukanlah hasil akhir yang buruk jika Anda memiliki AI dan yang mereka inginkan hanyalah hidup berdampingan dengan kami dan mendapatkan hak,” kata Sutskever.
Setelah meninggalkan OpenAI, Sutskever mendirikan laboratorium, Safe Superintelligence (SSI), yang berfokus pada keamanan AI secara umum. SSI mengumpulkan $1 miliar pada bulan September.
