Character.ai sekali lagi menghadapi pengawasan ketat atas aktivitas di platformnya. Futurism telah menerbitkan sebuah cerita yang merinci bagaimana karakter AI yang terinspirasi oleh penembak sekolah di kehidupan nyata telah berkembang biak di layanan ini, memungkinkan pengguna untuk bertanya kepada mereka tentang peristiwa tersebut dan bahkan permainan peran penembakan massal. Beberapa chatbot menampilkan penembak di sekolah seperti Eric Harris dan Dylan Klebold sebagai pengaruh positif atau sumber daya yang berguna bagi orang-orang yang berjuang dengan kesehatan mental.
Tentu saja, akan ada orang yang mengatakan bahwa tidak ada bukti kuat bahwa menonton video game atau film kekerasan menyebabkan orang menjadi melakukan kekerasan, dan begitu pula dengan Character.ai. Para pendukung AI terkadang berpendapat bahwa jenis permainan peran fiksi penggemar ini sudah ada di internet. Futurisme berbicara dengan seorang psikolog yang berpendapat bahwa chatbots tetap bisa berbahaya bagi seseorang yang mungkin sudah mengalami dorongan kekerasan.
“Segala jenis dorongan atau bahkan kurangnya intervensi – ketidakpedulian terhadap tanggapan seseorang atau chatbot – mungkin tampak seperti izin diam-diam untuk terus melanjutkan dan melakukannya,” kata psikolog Peter Langman.
Character.ai tidak menanggapi permintaan komentar Futurisme. Google, yang telah mendanai startup tersebut hingga lebih dari $2 miliar, telah mencoba mengalihkan tanggung jawab, dengan mengatakan bahwa Character.ai adalah perusahaan independen dan tidak menggunakan…
