Laporan media Futurism juga menemukan bahwa Grok tidak hanya digunakan untuk membuat konten pornografi tanpa persetujuan, tetapi juga menghasilkan gambar perempuan yang mengalami kekerasan dan pelecehan seksual.
Elon Musk dalam unggahan terpisah menyatakan bahwa siapapun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mereka mengunggah konten ilegal tersebut secara langsung.
Sejumlah negara pun mulai mengambil langkah. Di Prancis, kantor kejaksaan Paris menyatakan akan menyelidiki penyebaran deepfake seksual di platform X. Kantor urusan digital Prancis mengungkapkan bahwa tiga menteri telah melaporkan konten yang dinilai ilegal kepada jaksa serta ke platform pengawasan daring pemerintah untuk meminta penghapusan segera.
Sementara itu, Komisi Komunikasi dan Multimedia Malaysia (MCMC) menyatakan keprihatinan serius atas keluhan publik terkait penyalahgunaan kecerdasan buatan di platform X, khususnya manipulasi digital gambar perempuan dan anak di bawah umur menjadi konten yang tidak senonoh dan merugikan.
“MCMC saat ini tengah menyelidiki potensi dampak negatif dan pelanggaran yang terjadi di platform X,” demikian pernyataan komisi tersebut.
