Jakarta (SOHIB21) – Pengamat Budaya dan Komunikasi Digital dari Universitas Indonesia Firman Kurniawan menyebutkan bahwa pemangku kepentingan dalam ekosistem digital mulai dari pemerintah hingga platform perlu aktif meliterasi orang tua di Indonesia agar menciptakan pemanfaatan Artificial Intelligence (AI) yang aman bagi anak-anak.
Firman menyebutkan bahwa saat ini ada banyak penyimpangan yang menargetkan anak-anak dengan menyalahgunakan AI dan berujung merugikan dan hal itu dapat terjadi karena kurangnya pendampingan orang tua pada anak.
“Orang tua itu harus tahu persis kalau semua penyimpangan yang melibatkan AI pada anak-anak itu mengandalkan pada penyalahgunaan data. Sayangnya, banyak orang tua belum memahami keamanan data. Di sinilah peran pemerintah, platform, dan lembaga terkait untuk memberikan penyuluhan yang sistematis,” katanya kepada SOHIB21, Jumat.
Membahas beberapa contoh penyalahgunaan AI yang akhirnya membahayakan anak-anak karena penyalahgunaan data, Firman mengambil rujukan dari artikel yang dipublikasikan pada 2025 oleh lembaga nirlaba asal AS bernama Child Rescue Coalition bertajuk “The Dark Side of AI: Risks to Children”.
Mulai dari AI-Generated Child Sexual Abuse Material (CSAM) hingga AI- Driven Online Grooming, dua kejahatan siber ini dapat terjadi karena kelalaian orang tua yang tidak mendampingi anak untuk menjaga datanya di ruang digital.
CSAM secara sederhana menjadi alat pemerasan kepada anak di ruang digital dengan menggunakan algoritma AI untuk kemudian membuat foto atau video menargetkan wajah korban yang berakhir menjadi materi pelecehan seksual sekaligus pemerasan.
Lalu AI-Driven Online Grooming, kejahatan ini adalah child grooming yang mengandalkan algoritma AI untuk mengenali korbannya memanfaatkan data korban dari ruang digital dan akhirnya digunakan menjadi bahan manipulasi. Korban menjadi rentan memenuhi bujukan dan niat jahat pelaku.
Maka dari itu, melihat potensi bahaya AI terhadap anak yang sudah ada dan mungkin terus berkembang, Firman menyebutkan diperlukan literasi digital yang menargetkan orang tua untuk memahami pentingnya keamanan siber dan pemanfaatan AI sebagai bekal melindungi buah hati di ruang digital.
“Sebenarnya sama dengan melindungi anak bergaul di dunia nyata kan, orang tua tetap harus ambil andil, memastikan pola komunikasinya seperti apa dengan sekitarnya, nah itu orang tua harus terlibat. Nah ini juga sama di media sosial dan internet yang menyediakan pintu-pintu serupa,”katanya.
Lebih lanjut, Firman kemudian menyebutkan beberapa hal yang bisa diambil oleh masing-masing bagian dari ekosistem digital menyukseskan literasi bagi orang tua tentang perkembangan AI hingga potensi bahayanya apabila disalahgunakan.
Untuk platform digital, menurutnya salah satu yang bisa dilakukan untuk membantu orang tua lebih terliterasi tentang keamanan siber ialah memastikan panduan fitur-fitur atau layanan pemantauan akun anak bisa diakses dengan mudah tanpa kendala bahasa.
“Jadi kadang dia (orang tua) tidak ngerti bagaimana cara mengatur pengawasan anak di akun platform digital karena mungkin disajikan dalam Bahasa Inggris. Jadi ya harusnya mungkin menyediakan bahasa Indonesia sejak awal agar ini bisa dipahami sebelum (layanan platform digital) digunakan,”ujarnya.
Sementara bagi pemerintah yang memang bertugas menyiapkan aturan yang tepat, pengamat budaya digital ini merekomendasikan agar dalam rancangan peraturan pemerintah terhadap penyelenggara sistem elektronik (PSE) aturan ini juga diterapkan bagi para pengembang teknologi AI.
Meski begitu aturan tersebut juga harus bisa mengakomodasi agar orang tua bisa mendapatkan literasi lewat panduan terkait AI sehingga nantinya bisa membina anaknya agar memahami rambu-rambu dan aturan pemanfaatan teknologi yang tengah berkembang pesat itu.
“Aturan itu, selain memang para penyedia layanan platform digital harus diketatkan keamanan sibernya untuk pembatasan akses sesuai usia, tapi untuk orang tuanya juga harus dipastikan mendapatkan literasi yang setimpal sehingga anak-anak itu bisa dibina sama mereka,” tutup Firman.
Pewarta: Livia Kristianti
Leave a Reply