X AI Grok diblokir di Indonesia dan Malaysia karena fitur pembuat gambar eksplisit, sementara Inggris meluncurkan penyelidikan
Liga335 daftar – Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk, setelah pihak berwenang menyatakan bahwa platform tersebut disalahgunakan untuk menghasilkan gambar-gambar bermuatan seksual eksplisit dan tanpa persetujuan.
Hal ini terjadi saat regulator media Inggris mengonfirmasi bahwa mereka telah meluncurkan penyelidikan terhadap platform tersebut untuk melihat apakah platform tersebut melanggar undang-undang Inggris, sementara pemerintah Inggris juga mengumumkan rencananya untuk membuat undang-undang yang akan melarang perusahaan menyediakan alat yang dirancang untuk membuat deepfake.
Langkah-langkah ini mencerminkan meningkatnya kekhawatiran global terhadap alat AI generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara pengamanan yang ada gagal mencegah penyalahgunaannya.
Uni Eropa, India, dan Prancis juga telah menyampaikan kekhawatiran mereka terhadap platform tersebut.
Chatbot Grok, yang dapat diakses melalui platform media sosial milik Musk, X, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita dalam bikini atau pose eksplisit secara seksual, serta gambar yang melibatkan anak-anak.
Regulator Malaysia dan Indonesia menyatakan bahwa pengawasan yang ada saat ini tidak mampu mencegah pembuatan dan penyebaran konten pornografi palsu, terutama yang melibatkan perempuan dan anak di bawah umur.
Elon Musk sebelumnya menggambarkan Grok sebagai AI “anti-woke”. (AP: Leon Neal/Arsip)
Pemerintah Indonesia sementara memblokir akses ke Grok pada Sabtu, disusul oleh Malaysia pada Minggu.
AI milik Musk membatasi pembuatan gambar Selama lebih dari seminggu, bot AI X bernama Grok telah menghasilkan gambar-gambar seksual perempuan dan anak-anak atas permintaan pengguna lain
“Pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” kata Menteri Komunikasi dan Informatika Indonesia Meutya Hafid dalam sebuah pernyataan pada Sabtu.
Kementerian tersebut menyatakan bahwa langkah ini dimaksudkan untuk melindungi perempuan, anak-anak, dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan AI.
Temuan awal menunjukkan bahwa Grok tidak memiliki pengamanan yang efektif untuk menghentikan pengguna agar tidak membuat dan menyebarkan konten pornografi yang menggunakan foto asli warga Indonesia, kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam pernyataan terpisah.
Ia mengatakan praktik semacam itu berisiko melanggar privasi dan hak atas citra ketika foto dimanipulasi atau dibagikan tanpa izin, yang dapat menimbulkan dampak psikologis, sosial, dan merusak reputasi.
Ofcom Inggris meluncurkan penyelidikan terhadap Grok
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara terhadap Grok pada hari Minggu setelah apa yang disebutnya sebagai “penyalahgunaan berulang” alat tersebut untuk menghasilkan gambar-gambar yang cabul, eksplisit secara seksual, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator tersebut mengatakan bahwa pemberitahuan yang dikeluarkan bulan ini kepada X Corp. dan xAI yang menuntut perlindungan yang lebih kuat mendapat tanggapan yang sebagian besar mengandalkan mekanisme pelaporan pengguna.
“Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional sementara proses hukum dan regulasi sedang berlangsung,” katanya, sambil menambahkan bahwa Akses akan tetap diblokir sampai langkah-langkah pengamanan yang efektif diterapkan.
Di Inggris, undang-undang yang lebih ketat yang akan melarang pembuatan deepfake seksual akan segera diberlakukan.
Dalam pidatonya di depan parlemen Inggris, Menteri Sains dan Teknologi Liz Kendall mengatakan bahwa pemerintah juga merencanakan undang-undang baru untuk melarang perusahaan teknologi menyediakan alat untuk membuat gambar seksual menggunakan AI.
Uni Eropa dan Inggris mengutuk penyebaran gambar-gambar seksual di X. Maraknya aksi “digital undressing” di situs media sosial milik Elon Musk telah memicu penyelidikan dari berbagai negara, termasuk Prancis, India, dan Malaysia.
Menolak tuduhan dari Elon Musk bahwa pemerintah Inggris berusaha membatasi kebebasan berbicara, Ms Kendall mengatakan undang-undang baru ini bertujuan untuk “menangani kekerasan terhadap perempuan dan anak perempuan”.
“Ini tentang mempertahankan nilai-nilai dasar Inggris tentang kesopanan dan rasa hormat, serta memastikan bahwa standar yang kami harapkan di dunia nyata juga diterapkan di dunia maya, dan ini tentang menggunakan kekuasaan kedaulatan kami.”
Dia mengatakan korban dan masyarakat mengharapkan sw tindakan tegas dan cepat dari Ofcom, sambil menambahkan bahwa X dapat bertindak sekarang untuk memastikan materi ilegal tidak dapat dibagikan di platformnya.
Regulator media Inggris, Ofcom, mengonfirmasi pada Senin waktu setempat bahwa penyelidikannya akan meneliti apakah platform tersebut telah melanggar kewajiban untuk melindungi masyarakat di Inggris dari konten yang berpotensi ilegal.
“Telah ada laporan yang sangat mengkhawatirkan mengenai akun chatbot Grok AI di X yang digunakan untuk membuat dan membagikan gambar orang tanpa busana — yang mungkin termasuk penyalahgunaan gambar intim atau pornografi — serta gambar anak-anak yang diseksualisasi yang mungkin termasuk materi pelecehan seksual anak,” kata Ofcom dalam sebuah pernyataan.
Jika ditemukan bahwa X telah melanggar hukum, Ofcom dapat memaksanya untuk mengambil langkah-langkah agar mematuhi peraturan, dan jika tidak, Ofcom dapat menjatuhkan denda hingga 10 persen dari pendapatan globalnya yang memenuhi syarat.
Ketika dimintai komentar pada hari Senin mengenai dimulainya penyelidikan resmi tersebut, X merujuk pada pernyataan sebelumnya yang menyatakan bahwa mereka mengambil tindakan terhadap konten ilegal di platform tersebut, termasuk materi pelecehan seksual terhadap anak, dengan menghapusnya, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.
“Siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti jika mereka mengunggah konten ilegal,” kata perusahaan itu.
Diluncurkan pada tahun 2023, Grok dapat digunakan secara gratis di X. Pengguna dapat mengajukan pertanyaan kepada Grok di platform media sosial tersebut dan menandai postingan yang mereka buat langsung atau balasan terhadap postingan dari pengguna lain.
Musim panas lalu, perusahaan tersebut menambahkan fitur pembuat gambar, Grok Imagine, yang mencakup apa yang disebut “mode pedas” yang dapat menghasilkan konten dewasa.
Grok pekan lalu membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar menyusul reaksi keras global atas deepfake yang mengkontekstualisasikan orang secara seksual, namun para kritikus mengatakan hal itu tidak sepenuhnya mengatasi masalah tersebut.
