Box Redaksi Media Suara Rakyat Indonesia

MSRI, SURABAYA - Di balik visual penuh warna, wahana kreativitas dan kebebasan berekspresi yang ditawarkan Roblox, tersimpan persoalan besar yang masih jarang dibicarakan secara jujur seperti seberapa aman ruang digital ini bagi anak-anak? Moderasi berbasis Artificial Intelligence (AI) sering kali digadang-gadang sebagai solusi praktis untuk menyaring konten berbahaya.

Namun realitanya, kehadiran sistem ini justru mengundang tanda tanya. Benarkah AI mampu mengawal interaksi anak dengan baik, atau justru menutupi lalu lintas predator yang semakin lihai menyamar?

Teknologi Moderasi Otomatis Belum Cukup Cerdas, Oleh Supangat

Secara sistem, platform seperti Roblox memang telah mengadopsi AI untuk menyaring kata-kata kasar, konten kekerasan, dan perilaku yang melanggar standar komunitas. Tapi kita tak bisa menutup mata, AI masih sangat bergantung pada pola bahasa yang eksplisit. Padahal, tak semua bentuk ancaman muncul dalam kalimat frontal atau baku.

Modus seperti grooming, misalnya, sering kali dibungkus dengan pendekatan emosional yang lembut, mengajak berteman, memberi perhatian, atau pura-pura menjadi teman sebaya. Interaksi seperti ini tidak akan terbaca sebagai ancaman oleh sistem yang hanya mengandalkan logika blokir kata. Pendekatan emosional yang dimaksud lebih bertujuan untuk membuat calon target merasa nyaman, membutuhkan bahkan ketergantungan dengan pelaku.

Inilah kelemahan moderasi yang terlalu teknis. Ia tidak mengenali konteks dan tidak memahami niat. Teknologi bisa menyaring makian, tapi belum tentu bisa menangkap manipulasi halus. Butuh sistem yang lebih adaptif dan kontekstual, bukan sekadar reaktif. Bahkan dalam konteks hukum, kemampuan deteksi AI belum sepenuhnya sejalan dengan kebutuhan perlindungan anak yang utuh.

Karena itu, sekuat apa pun teknologi yang dikembangkan, ia tetap membutuhkan dukungan pendekatan manusia, baik melalui desain sistem yang lebih cerdas maupun integrasi dengan pendampingan sosial yang memadai.

Saat Anak Merasa Aman Padahal Tidak

Oleh Amanda Pascarini

Dari perspektif psikologi, ada persoalan yang tak kalah berbahaya, misalnya dengan munculnya rasa aman palsu. Ketika sebuah platform mengklaim aman karena “sudah dimoderasi AI”, anak-anak cenderung menurunkan kewaspadaan. Mereka merasa tidak sedang berada dalam situasi yang perlu dicurigai. Dan di situlah risiko terbesar justru bersembunyi. Penurunan kewaspadaan menyebabkan anak cenderung lengah dan mengesampingkan aspek antisipasi.

Salah satu ancaman yang sering luput dari pantauan sistem adalah grooming digital, yakni upaya pelaku untuk mendekati anak secara perlahan, membangun kepercayaan, lalu menyisipkan ajakan atau percakapan yang menjurus pada pelecehan.

Pelaku bisa menyamar sebagai teman sebaya, memberi perhatian berlebih, hingga membuat korban merasa istimewa dan tergantung secara emosional. Ini bukan bentuk ancaman yang bisa disaring oleh sistem berbasis kata. Yang terjadi di balik layar adalah proses psikologis yang tidak bisa dibaca oleh mesin.

Anak-anak sendiri, terutama di usia pra-remaja, masih membentuk konsep tentang siapa yang bisa dipercaya. Mereka belum mampu membedakan antara perhatian tulus dan manipulasi tersembunyi. Di beberapa kasus, mereka bahkan merasa bersalah ketika hubungan itu berubah menjadi ancaman, dan justru enggan bercerita pada orang dewasa. Kondisi ini semakin pelik, mengingat masa perkembangan anak dan remaja merupakan masa yang penuh pertumbuhan, perubahan dan adaptasi, sehingga secara emosional mereka masih belum matang dan cenderung mudah dipengaruhi. Lingkungan dan role model yang ada disekitar anak atau remaja memiliki peran yang sangat signifikan untuk menentukan perkembangan kepribadian mereka.

Tidak hanya grooming, moderasi AI yang tidak kontekstual juga kerap gagal mendeteksi cyberbullying terselubung. Sindiran halus, pengucilan di ruang obrolan, atau komentar menyakitkan yang dikemas dalam nada bercanda bisa lolos dari penyaringan otomatis.

Padahal bagi anak-anak, pengalaman ini bisa meninggalkan luka psikologis yang dalam, menurunkan kepercayaan diri, menyebabkan kecemasan sosial, bahkan depresi. Ketika sistem gagal mengenali dinamika emosional, anak dibiarkan menghadapi tekanan tanpa perlindungan yang layak. Dalam jangka panjang berbagai dampak diatas akan mempengaruhi secara langsung perkembangan diri maupun kepribadian anak atau remaja.

Karena itu, pendampingan dari orang tua dan pendidik tetap menjadi garda depan. Literasi digital bukan cuma soal menghindari situs dewasa, tapi juga memahami dinamika hubungan sosial daring. Anak perlu dibekali keterampilan mengenali situasi yang tidak sehat secara emosional—dan itu tidak bisa dibebankan sepenuhnya pada mesin.

Kolaborasi Mesin dan Nurani

Kami tidak sedang menolak kehadiran AI. Justru sebaliknya, kami percaya teknologi bisa menjadi alat bantu luar biasa dalam menciptakan ruang digital yang lebih aman. Tapi sistem secerdas apa pun tidak akan berguna jika digunakan secara tunggal, tanpa sentuhan empati manusia.

Jika hari ini anak-anak diberi keleluasaan menjelajah dunia virtual, maka dunia orang dewasalah yang bertanggung jawab membentengi mereka. Bukan dengan ketakutan, tapi dengan sistem yang terintegrasi: antara AI yang semakin cerdas, regulasi yang berpihak pada korban, dan manusia yang hadir secara sadar, baik sebagai pendidik, orang tua, maupun pembuat kebijakan.

Anak-anak akan terus hadir di ruang digital, dengan atau tanpa pengawasan kita. Roblox hanya salah satu contoh. Dunia digital akan terus berkembang, dan anak-anak kita akan terus menjadi bagian darinya. Maka, keselamatan mereka bukan sekadar urusan sistem, tapi juga soal siapa yang memilih untuk peduli dan benar-benar hadir.

Penulis :

Supangat, Ph.D., ITIL., COBIT., CLA., CISA. Dosen Sistem dan Teknologi Informasi (Sistekin), Fakultas Teknik, Universitas 17 Agustus 1945 (Untag) Surabaya.

Dr. Rr. Amanda Pascarini, M.Si., Psikolog. Dosen Psikologi, Fakultas Psikologi, Universitas 17 Agustus 1945 (Untag) Surabaya.

{Redaksi}

Baca Juga

dibaca