Penyalahgunaan teknologi akal imitasi Grok (Grok AI) pada platform X (Twitter) meresahkan seluruh kalangan. Selain berguna untuk mendapatkan informasi dengan cepat, Grok AI akhir-akhir ini digunakan untuk membuat gambar pornografi dari foto yang diupload oleh pengguna. Fitur tersebut memberikan dampak negatif karena dapat menyerang mental dan psikis pengguna. Kementerian Komunikasi dan Digital (Komdigi) RI telah memutus akses ke aplikasi Grok AI demi melindungi masyarakat dari risiko terpapar konten pornografi palsu. Langkah pemerintah ini menjadi sorotan media asing karena RI disebut sebagai negara pertama yang secara tegas memblokir Grok atas kekhawatiran penyebaran konten pornografi berbasis kecerdasan buatan.
Menanggapi soal penutupan akses ke Grok AI ditanggapi positif oleh Deputi Sekretaris Eksekutif Pusat Masyarakat Digital (CfDS) UGM, Iradat Wirid. Menurutnya, tindakan yang dilakukan pemerintah sudah cukup bagus untuk menjaga privasi serta mengurangi keinginan orang menggunakan Grok AI untuk hal negatif.
Bagi Iradat, kejadian penyalahgunaan teknologi Grok AI ini, logika bisnis tidak sejalan dengan logika moral kemanusiaan. Hal ini juga menunjukkan adanya proses AI etik yang bermasalah dalam Grok AI pada platform X. Permasalahan ini turut membersamai dalam segala inovasi teknologi baru. Untuk mengurangi potensi negatif yang muncul, pemerintah harus memiliki kejelasan pengamanan AI. “Pemerintah Indonesia harus memiliki independensi terkait kebijakan yang melanggar batas-batas demokrasi dan tidak hanya berpacu pada aturan luar,” ujarnya, Senin (19/1).
Lebih lanjut, Iradat menyatakan bahwa proteksi literasi dan inovasi teknologi harus selaras. Namun, situasi ini memiliki ketidakseimbangan antara informasi teknologi dan literasi masyarakat terutama terkait dengan penggunaan data pribadi dan penggunaan media sosial. Masyarakat perlu memahami aturan Undang-Undang Pemerintahan yang mengatur hal ini seperti UU Perlindungan Data Pribadi dan UU Tindak Pidana Kekerasan Seksual.
Pemerintah harus tegas terhadap platform yang merugikan masyarakat hingga mengakibatkan potensi munculnya kasus kekerasan seksual online berbasis gender. Apalagi mayoritas yang menjadi korban dalam kejadian ini adalah perempuan. Oleh karena itu, Pemerintah perlu memberikan perhatian lebih dalam edukasi masyarakat terkait perlindungan data diri di ranah media sosial.“Satu-satunya yang bisa melindungi diri kita saat ini adalah diri sendiri dengan mengurangi porsi postingan, serta meramaikan kesadaran literasi masyarakat,” kata Iradat.
Iradat menekankan bahwa dalam pengembangan teknologi, keterlibatan manusia menjadi aspek penting mulai dari proses algoritma, krisis teknologi, hingga penerapannya. Hal ini diperlukan karena hanya manusia yang memiliki rasa moral dan tanggung jawab. Manusia harus mampu menjadi kendali utama dalam perkembangan teknologi agar teknologi dan realitas manusia dalam ruang digital asgar dapat selaras sehingga mengurangi kejadian yang merugikan manusia. “Inovasi teknologi tanpa tanggung jawab termasuk dalam pengunduran peran manusia,” tekannya.
Penulis : Jesi
Editor : Gusti Grehenson
Foto : Reuters