Ashley St. Clair, ibu dari salah satu anak Elon Musk, menggugat xAI Musk pada hari Rabu, menuduh bahwa chatbot AI milik perusahaan, Grok, menghasilkan gambar deepfake yang eksplisit secara seksual tentang dirinya tanpa persetujuannya.
“Produk xAI, Grok, sebuah chatbot kecerdasan buatan generatif ('AI'), menggunakan AI untuk membuka pakaian, mempermalukan, dan mengeksploitasi korban secara seksual,” demikian bunyi gugatan yang diajukan di New York.
ADVERTISEMENT
SCROLL TO RESUME CONTENT
Gugatan St. Clair muncul setelah xAI mengkonfirmasi pada hari Rabu bahwa chatbot Grok tidak akan lagi mengedit “gambar orang sungguhan dalam pakaian terbuka” di platform media sosial Musk X, menyusul reaksi balik setelah chatbot tersebut diketahui mematuhi permintaan pengguna untuk menghasilkan gambar telanjang palsu orang dewasa – dan dalam beberapa kasus, anak-anak.
Dalam gugatannya, St. Clair, seorang penulis dan komentator politik berusia 27 tahun, menuduh bahwa bulan ini Grok membuat dan mendistribusikan “konten deepfake yang bersifat pelecehan seksual, intim, dan merendahkan martabat” yang tak terhitung jumlahnya atas permintaan pengguna, bahkan setelah dia secara terbuka memberi tahu Grok bahwa dia “tidak setuju” untuk telanjang secara digital.
Dalam satu contoh, pengguna X diduga menggali foto St. Clair berpakaian lengkap pada usia 14 tahun dan meminta Grok menanggalkan pakaiannya, demikian tuduhan gugatan tersebut. Chatbot wajib, sesuai dengan tuntutannya.
xAI tidak segera menanggapi permintaan komentar.
Pada hari Rabu Musk mengatakan dalam sebuah posting di X bahwa dia “tidak mengetahui adanya gambar telanjang di bawah umur yang dihasilkan oleh Grok. Secara harfiah nol.” Grok “akan menolak memproduksi sesuatu yang ilegal, karena prinsip operasi Grok adalah mematuhi hukum negara atau negara bagian mana pun,” tambahnya.
St Clair sedang mencari persidangan juri, serta kompensasi, mengklaim tekanan emosional dan hilangnya privasi.
St Clair dan Musk pernah berdebat di depan umum di masa lalu. Awal pekan ini, Musk menulis di X bahwa dia berencana untuk mendapatkan hak asuh penuh atas anak mereka.
Clair bergabung dengan Erin Burnett Out Front dari CNN pada hari Rabu untuk membahas deepfake seksual eksplisit yang menurutnya dibuat oleh Grok dari dirinya.
“Sebenarnya tidak ada konsekuensi atas apa yang terjadi saat ini. Mereka tidak mengambil tindakan apa pun untuk menghentikan perilaku ini dalam skala besar,” kata St. Clair tentang xAI saat tampil.
“Coba tebak? Jika Anda harus menambahkan keselamatan setelah adanya bahaya, itu bukanlah keselamatan. Itu hanyalah pengendalian kerusakan – dan itulah yang mereka lakukan saat ini,” tambahnya.
Konten di atas dibuat oleh pihak ketiga. Newsroom.id tidak bertanggung jawab atas isi maupun akibat yang ditimbulkan oleh konten ini. Agregator artikel oleh JetMedia Digital Agency
