Setiap prospektus IPO S-1 menyertakan bagian yang mencantumkan semua jenis faktor risiko yang menyebabkan sahamnya mungkin tidak layak dibeli. Banyak di antaranya merupakan peringatan biasa, peringatan atas kinerja keuangan, atau tindakan perang dan alam. Namun beberapa di antaranya lebih spesifik untuk perusahaan.
Dengan ServiceTitan, startup layanan cloud yang mengajukan dokumen IPO publik ke SEC pada hari Senin, kita mungkin menyaksikan lahirnya peringatan baru: model bahasa besar (LLM) yang membantu mengembangkan bisnis juga dapat menyebabkan kerusakan.
ServiceTitan memiliki faktor risiko sebanyak 1.150 kata mengenai bagaimana penggunaan AI, khususnya AI generatif, dapat berdampak buruk pada bisnisnya. Laporan tersebut memperingatkan bahwa: Perilaku halusinasi LLM dapat menghasilkan informasi yang “tidak akurat” dan terlibat dalam perilaku “diskriminatif”; LLM-nya dapat melanggar hak cipta atau kekayaan intelektual pihak lain; menggunakan LLM berarti memaparkan lebih banyak data pada potensi peretasan dan bahaya; namun, jika perusahaan tidak mendapatkan cukup data, perusahaan mungkin tidak dapat terus menawarkan produk AI atau membuat produk baru. Selain itu, perusahaan memperingatkan bahwa karyawan atau kontraktornya mungkin secara keliru membagikan data pribadi pelanggannya dengan sistem pihak ketiga yang kemudian dapat menyebabkan pelanggaran keamanan, atau penggunaan data tersebut untuk melatih model mereka.
ServiceTitan memperingatkan bahwa penggunaan AI suatu hari nanti mungkin akan bertabrakan dengan masalah sosial dan etika. Atau peraturan di masa depan dapat menimbulkan kerugian.
