Komdigi Siap Jatuhkan Sanksi Pemutusan Akses Terhadap X dan Grok AI Terkait Konten Deepfake

Semarang (usmnews) – Dikutip dari cnnindonesia.com Kementerian Komunikasi dan Digital (Komdigi) telah mengeluarkan ultimatum tegas kepada platform media sosial X (sebelumnya Twitter) beserta fitur kecerdasan buatan miliknya, Grok AI. Pemerintah Indonesia menyatakan kesiapannya untuk menjatuhkan sanksi berat, mulai dari sanksi administratif hingga pemutusan akses alias pemblokiran total, apabila platform tersebut tidak menunjukkan sikap kooperatif dan kepatuhan terhadap regulasi di Indonesia. Langkah drastis ini diambil menyusul temuan adanya dugaan penyalahgunaan fitur Grok AI yang memfasilitasi pembuatan dan penyebaran konten asusila, termasuk manipulasi foto pribadi tanpa izin (deepfake) yang merugikan masyarakat.

‎Kewajiban Hukum dan Ancaman Pidana Baru Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, menekankan posisi X sebagai Penyelenggara Sistem Elektronik (PSE) yang terikat mutlak dengan hukum nasional. Peringatan ini semakin relevan mengingat Indonesia telah memasuki babak baru penegakan hukum dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) secara efektif pada 2 Januari 2026.

‎Dalam payung hukum terbaru ini, aturan mengenai kesusilaan diperketat. Pasal 172 KUHP mendefinisikan pornografi secara luas sebagai media yang memuat eksploitasi seksual atau kecabulan yang melanggar norma. Konsekuensinya tidak main-main; berdasarkan Pasal 407, pelaku produksi maupun penyebar konten manipulasi citra tubuh tanpa hak dapat dijerat pidana penjara minimal 6 bulan hingga maksimal 10 tahun, serta denda yang signifikan. Ancaman ini berlaku bagi penyedia layanan (platform) maupun pengguna individu.

‎Celah Keamanan Grok AI dan Pelanggaran Hak Citra Kekhawatiran Komdigi didasarkan pada penelusuran awal yang menemukan celah fatal pada sistem Grok AI. Fitur ini dinilai belum memiliki mekanisme pengaturan yang spesifik dan memadai untuk menyaring atau mencegah pembuatan konten pornografi yang berbasis foto asli warga Indonesia. Ketiadaan filter ini berisiko tinggi melanggar right to one’s image atau hak atas citra diri seseorang.

‎Alexander menegaskan bahwa manipulasi digital terhadap foto seseorang bukan sekadar masalah moralitas atau kesusilaan semata. Tindakan ini merupakan bentuk perampasan kendali individu atas identitas visual mereka sendiri. Dampaknya sangat destruktif, mulai dari guncangan psikologis, sanksi sosial, hingga hancurnya reputasi korban yang fotonya disalahgunakan. Oleh karena itu, Komdigi menegaskan bahwa ruang digital bukanlah zona tanpa hukum; hak privasi warga negara harus tetap menjadi prioritas yang dilindungi.

‎Langkah Mitigasi dan Jalur Pengaduan Guna mengatasi krisis ini, Komdigi tengah berkoordinasi intensif dengan para PSE untuk memastikan adanya sistem perlindungan yang nyata. Komdigi menuntut X dan platform lain untuk memperkuat moderasi konten, menciptakan teknologi pencegahan deepfake asusila, serta menyediakan prosedur penanganan laporan yang cepat dan responsif.

‎Bagi masyarakat yang menjadi korban kejahatan manipulasi digital ini, pemerintah membuka pintu selebar-lebarnya untuk menempuh jalur hukum. Korban didorong untuk melapor kepada aparat penegak hukum atau mengajukan aduan langsung ke Komdigi agar kasus dapat segera ditindaklanjuti. Pesan utamanya jelas: teknologi kecerdasan buatan harus digunakan secara bertanggung jawab tanpa mengorbankan martabat manusia.