OpenAI meluncurkan alat pembuat videonya, Sora, pada hari Senin. Namun perusahaan memilih untuk tidak merilis fitur utama bagi sebagian besar pengguna sambil menunggu pengujian lebih lanjut.
Fitur yang dimaksud menghasilkan video menggunakan foto atau rekaman orang sungguhan yang diunggah sebagai referensi. OpenAI mengatakan bahwa mereka akan memberikan “sebagian” pengguna Sora akses terhadapnya, namun mereka tidak akan meluncurkan kemampuan tersebut secara luas sampai mereka memiliki kesempatan untuk menyempurnakan “pendekatan terhadap keamanan.”
“Kemampuan untuk menghasilkan video menggunakan foto atau video yang diunggah dari orang sungguhan sebagai 'benih' adalah vektor potensi penyalahgunaan sehingga kami mengambil pendekatan bertahap untuk belajar dari pola awal penggunaan,” tulis OpenAI dalam sebuah postingan blog. “Masukan awal dari para seniman menunjukkan bahwa ini adalah alat kreatif yang mereka hargai, namun mengingat potensi penyalahgunaan, pada awalnya kami tidak menyediakannya untuk semua pengguna.”
OpenAI juga tidak akan membiarkan pengguna membagikan video yang dihasilkan yang berisi klip atau gambar orang sungguhan ke umpan penemuan beranda Sora.
“Kami jelas memiliki target besar sebagai OpenAI, jadi kami ingin mencegah aktivitas ilegal dengan Sora, namun kami juga ingin menyeimbangkannya dengan ekspresi kreatif,” Will Peebles, anggota staf teknis OpenAI dan pemimpin penelitian Sora , katanya saat presentasi streaming langsung hari ini. “Kami tahu itu [this will be] tantangan yang berkelanjutan — kita mungkin tidak mendapatkannya…
