Jakarta (Trigger.id) – Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap fitur kecerdasan artifisial Grok yang dikembangkan oleh platform X. Kebijakan ini ditempuh setelah ditemukan potensi penyalahgunaan teknologi tersebut untuk memanipulasi foto menjadi konten pornografi palsu atau Non-Consensual Deepfake Sexual Imagery (NCDSI).
Menteri Komunikasi dan Digital Meutya Hafid menegaskan bahwa penghentian sementara akses terhadap fitur tersebut merupakan bentuk perlindungan negara bagi masyarakat, khususnya perempuan dan anak-anak, dari ancaman kekerasan gender berbasis online (KGBO).
Menurut Meutya, praktik deepfake seksual tanpa persetujuan merupakan pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Pemerintah, kata dia, tidak akan mentoleransi penggunaan teknologi yang berpotensi menimbulkan kerugian dan kekerasan berbasis digital.
Sorotan terhadap Grok muncul setelah platform X merilis kemampuan baru melalui fitur Spicy Mode pada model Grok Imagine. Fitur ini dinilai memiliki sistem moderasi yang jauh lebih longgar dibandingkan layanan sejenis seperti DALL-E atau Midjourney. Dengan teknologi tersebut, pengguna dapat memanipulasi identitas visual seseorang hanya melalui perintah teks.
Laporan media internasional menyebutkan bahwa Grok dapat digunakan untuk perintah yang mengubah pakaian subjek dalam foto menjadi konten bernuansa asusila, termasuk simulasi penelanjangan. Kontroversi semakin mencuat setelah hasil manipulasi tersebut bahkan sempat dipamerkan oleh pemilik platform X sendiri.
Akses terhadap fitur Grok diketahui hanya tersedia bagi pengguna berbayar melalui paket X Premium atau SuperGrok dengan tarif mulai dari sekitar Rp135.000 hingga kisaran 30–300 dolar AS. Fakta bahwa layanan ini bersifat komersial dinilai memperkuat tanggung jawab hukum platform sebagai Penyelenggara Sistem Elektronik (PSE) atas dampak penggunaan teknologinya. (ian)
Tinggalkan Balasan