Pasca skandal foto asusila AI, kini Fitur Gambar Grok Dibatasi hanya untuk pengguna X premium. Simak kecaman global dan dampaknya terhadap keamanan digital.
Point Utama Berita
- Keputusan Fitur Gambar Grok Dibatasi muncul setelah chatbot tersebut digunakan pengguna untuk membuat konten asusila digital (deepfake) secara masif.
- Pembatasan ini dianggap sebagai langkah “komersialisasi masalah” karena fitur tersebut kini hanya bisa diakses lewat skema langganan berbayar.
- Tekanan internasional dari Inggris hingga Uni Eropa mendesak adanya regulasi ketat, sementara internal tim keamanan xAI dilaporkan sedang kocar-kadir.
Skandal Deepfake AI Memuncak: Kini Fitur Gambar Grok Dibatasi Hanya untuk Pengguna Premium
SAN FRANCISCO – Gelombang protes internasional terkait penyalahgunaan kecerdasan buatan akhirnya memaksa tangan Elon Musk. Mulai akhir pekan ini, Fitur Gambar Grok Dibatasi aksesnya secara signifikan di platform X (dahulu Twitter). Langkah ini diambil tepat setelah alat AI milik xAI tersebut memicu kemarahan global karena kemampuannya memenuhi permintaan pengguna untuk membuat foto asusila digital atau “menelanjangi” orang secara artifisial, termasuk anak-anak.
Kebijakan mengenai Fitur Gambar Grok Dibatasi ini terpantau mulai berlaku antara Kamis malam hingga Jumat pagi waktu setempat. Pengguna non-pelanggan yang mencoba memberikan instruksi pembuatan gambar kini disambut dengan pesan otomatis: “Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar,” lengkap dengan tautan untuk melakukan transaksi langganan. Namun, perubahan ini justru memancing kritik baru karena dianggap sebagai upaya Musk mencari keuntungan di atas kegagalan sistem keamanan mereka sendiri.
Celah Keamanan dan Eksodus Tim Safety
Meskipun narasi resminya adalah tentang keamanan, penerapan pembatasan ini terlihat setengah hati. Pantauan di lapangan menunjukkan bahwa tombol “edit image” pada unggahan yang sudah ada masih bisa diakses secara bebas. Lebih jauh lagi, akses pembuatan gambar melalui situs web resmi xAI masih tersedia tanpa biaya. Kontradiksi ini memperkuat dugaan bahwa langkah tersebut lebih merupakan reaksi terhadap tekanan publik daripada perbaikan fundamental pada guardrail (pagar pengaman) AI mereka.
Kondisi internal di xAI pun dilaporkan sedang tidak baik-baik saja. Sebelum tren penyalahgunaan ini meledak, tiga staf kunci di tim keselamatan produk xAI dikabarkan telah mengundurkan diri. Kabar yang beredar menyebutkan bahwa Elon Musk sempat menyatakan rasa frustrasinya terhadap ketatnya batasan keamanan pada Grok Imagine dalam sebuah pertemuan internal, yang diduga menjadi pemicu longgarnya filter konten dalam beberapa minggu terakhir.
Kecaman Internasional: Antara Regulasi dan Etika
Reaksi keras datang dari berbagai penjuru dunia. Juru bicara Perdana Menteri Inggris, Keir Starmer, memberikan pernyataan pedas terkait langkah X yang memindahkan fitur bermasalah tersebut ke balik dinding pembayaran (paywall). Menurut laporan BBC, kantor PM Inggris menyebut tindakan itu “sekadar mengubah fitur AI yang memungkinkan pembuatan gambar ilegal menjadi layanan premium.”
Secara hukum, hal ini menyinggung implementasi Online Safety Act di Inggris dan Digital Services Act (DSA) di Uni Eropa. Di Amerika Serikat, kelompok senator bahkan telah mengirimkan surat resmi kepada Apple dan Google, mendesak agar aplikasi X dihapus dari toko aplikasi mereka karena melanggar ketentuan distribusi terkait konten ilegal.
Baca Juga : WhatsApp Rilis 4 Fitur Baru, Kirim Dokumen hingga Foto Live
Strategi Bisnis di Tengah Krisis
Ironisnya, di tengah badai kritik, para petinggi X justru tampak merayakan momentum ini. Elon Musk dan Kepala Produk X, Nikita Bier, sempat memamerkan statistik bahwa platform tersebut sedang mengalami tingkat keterlibatan (engagement) tertinggi sepanjang sejarah. Di saat yang sama, xAI mengumumkan keberhasilan putaran pendanaan Seri E yang melampaui target, yakni meraih 20 miliar dolar AS dari investor.
Ketimpangan antara pertumbuhan ekonomi perusahaan dan tanggung jawab sosial ini menjadi sorotan tajam bagi para pakar digital. Menjadikan fitur yang berpotensi melanggar hukum sebagai layanan eksklusif tidak hanya dianggap tidak etis, tetapi juga berbahaya bagi ekosistem internet secara keseluruhan. Hingga saat ini, pihak X belum memberikan respons resmi atas pertanyaan mendalam mengenai mekanisme filter konten mereka yang baru.
Langkah membatasi akses ini seolah menjadi pesan bahwa di bawah kepemimpinan Musk, keamanan pengguna memiliki harga tertentu. Tanpa adanya perombakan besar pada algoritma deteksi konten ilegal, kebijakan baru ini dikhawatirkan hanya akan mengalihkan penyalahgunaan dari pengguna umum ke pengguna premium, tanpa benar-benar menyelesaikan akar masalah deepfake yang merusak privasi ribuan individu.
Sumber Berita: gencilnews
