ChatGPT Search, mesin pencari bertenaga AI yang diluncurkan bulan ini, dapat tertipu dengan menghasilkan ringkasan yang sepenuhnya menyesatkan, demikian temuan surat kabar Inggris The Guardian.
Fitur pencarian ChatGPT dimaksudkan untuk mempercepat penjelajahan dengan melakukan hal-hal seperti merangkum ulasan produk halaman web. Namun The Guardian menemukan bahwa ChatGPT dapat mengabaikan ulasan negatif dan menghasilkan ringkasan yang “sepenuhnya positif” dengan menyisipkan teks tersembunyi ke dalam situs web yang dibuatnya. Pencarian ChatGPT juga dapat dibuat untuk mengeluarkan kode berbahaya menggunakan metode ini.
Serangan teks tersembunyi semacam ini merupakan risiko yang umum terjadi pada LLM, namun ini tampaknya pertama kalinya terjadi pada produk penelusuran langsung yang didukung AI. Google, pemimpin dalam pencarian, memiliki lebih banyak pengalaman dalam menangani masalah serupa, kata The Guardian.
OpenAI tidak berkomentar mengenai kejadian spesifik ini ketika TechCrunch menghubunginya, namun mengatakan pihaknya menggunakan berbagai metode untuk memblokir situs web jahat dan terus melakukan perbaikan.
