CARAPANDANG - Pemerintah Prancis dan Malaysia mengecam chatbot Grok milik perusahaan rintisan kecerdasan buatan (AI) xAI, yang didirikan Elon Musk, setelah AI tersebut diketahui menghasilkan gambar deepfake bernuansa seksual yang melibatkan perempuan dan anak di bawah umur.
Grok, yang terintegrasi dengan platform media sosial X, sebelumnya mengunggah permintaan maaf melalui akun resminya terkait insiden konten tidak senonoh yang terjadi pada 28 Desember 2025 lalu.
Dilansir dari Tech Crunch pada Senin, dalam pernyataan itu, Grok mengakui telah menghasilkan dan membagikan gambar AI yang menampilkan dua anak perempuan berusia sekitar 12–16 tahun dalam busana yang diseksualisasi berdasarkan permintaan pengguna.
“Ini melanggar standar etika dan berpotensi melanggar hukum Amerika Serikat terkait materi pelecehan seksual anak. Ini merupakan kegagalan sistem pengamanan, dan saya menyesal atas dampak yang ditimbulkan,” kata Grok dalam pernyataan tersebut.
Grok menambahkan bahwa xAI tengah melakukan peninjauan untuk mencegah kejadian serupa terulang.
Namun, sebagian pihak menilai permintaan maaf tersebut tidak jelas pertanggungjawabannya. Jurnalis teknologi Albert Burneko dari Defector menilai bahwa Grok bukan entitas yang dapat dimintai tanggung jawab secara hukum atau moral, sehingga pernyataan maaf itu dinilai tidak substantif.
