NEW YORK, DeiJournal – Perkembangan kecerdasan buatan atau artificial intelligence (AI) menjadi perhatian dalam pembahasan perlindungan anak di tingkat internasional. Indonesia menekankan pentingnya memastikan perkembangan teknologi tidak mengabaikan hak, keselamatan, dan kepentingan terbaik anak.

Kemajuan AI membawa perubahan besar dalam cara anak belajar, berkomunikasi, memperoleh informasi, dan menggunakan berbagai layanan digital. Di sisi lain, teknologi yang semakin mudah diakses juga menghadirkan risiko baru, mulai dari paparan konten berbahaya, eksploitasi data pribadi, manipulasi informasi hingga penggunaan teknologi untuk melakukan kekerasan terhadap anak.

Dalam forum Perserikatan Bangsa-Bangsa (PBB), isu tersebut menjadi bagian dari pembahasan mengenai bagaimana negara-negara dapat menciptakan lingkungan digital yang aman sekaligus tetap memberikan ruang bagi anak untuk memperoleh manfaat dari perkembangan teknologi.

Anak menjadi pengguna teknologi sejak dini

Berbeda dengan generasi sebelumnya, anak-anak saat ini berinteraksi dengan teknologi digital sejak usia sangat muda. Perangkat seperti telepon pintar, tablet dan komputer telah menjadi bagian dari aktivitas pendidikan maupun kehidupan sehari-hari.

Kemunculan AI generatif kemudian memperluas kemampuan teknologi tersebut.

Anak dapat menggunakan AI untuk mencari informasi, membantu memahami pelajaran, membuat tulisan, menerjemahkan bahasa hingga menghasilkan berbagai bentuk konten.

Namun, kemampuan AI menghasilkan informasi secara otomatis juga membuat anak menghadapi persoalan baru.

Informasi yang diberikan sistem AI tidak selalu benar. Anak yang belum memiliki kemampuan literasi digital dan kemampuan memeriksa sumber informasi dapat menerima jawaban AI sebagai sesuatu yang sepenuhnya benar.

Karena itu, perlindungan anak di era AI tidak cukup hanya dengan membatasi akses terhadap teknologi.

Risiko terhadap privasi dan data anak

Salah satu perhatian penting adalah data pribadi.

Layanan digital dapat mengumpulkan berbagai informasi mengenai penggunanya. Ketika pengguna adalah anak, persoalan perlindungan data menjadi semakin sensitif karena anak belum tentu memahami konsekuensi dari informasi yang mereka berikan secara daring.

Data mengenai identitas, lokasi, kebiasaan penggunaan internet, preferensi, suara, foto atau informasi lainnya dapat memiliki nilai ekonomi maupun risiko keamanan apabila dikelola secara tidak tepat.

Pengembangan AI juga membutuhkan data dalam jumlah besar. Kondisi tersebut membuat perlindungan data anak menjadi salah satu aspek yang perlu diperhatikan dalam pengembangan dan penerapan teknologi.

Ancaman konten dan manipulasi

Perkembangan AI juga memungkinkan pembuatan gambar, video dan suara sintetis yang semakin sulit dibedakan dari konten asli.

Teknologi tersebut dapat digunakan untuk tujuan kreatif dan pendidikan, tetapi juga dapat disalahgunakan untuk membuat konten palsu yang melibatkan anak.

Risiko lainnya adalah manipulasi atau penipuan berbasis AI. Anak dapat menjadi sasaran konten yang dirancang untuk memengaruhi perilaku mereka tanpa mereka sadari.

Karena itu, literasi digital menjadi bagian penting dari perlindungan.

Anak perlu dibekali kemampuan untuk mengenali informasi yang meragukan, menjaga data pribadi, memahami risiko berinteraksi dengan orang asing di internet serta mengetahui kepada siapa mereka harus melapor ketika menghadapi masalah di ruang digital.

AI tetap memiliki peluang bagi pendidikan

Pembahasan mengenai perlindungan anak bukan berarti menempatkan AI hanya sebagai ancaman.

Teknologi tersebut juga dapat membuka peluang dalam pendidikan.

AI dapat membantu memberikan penjelasan materi pelajaran dengan cara yang lebih personal, membantu penerjemahan, mendukung anak dengan kebutuhan tertentu serta memperluas akses terhadap berbagai sumber pembelajaran.

Persoalannya adalah bagaimana memastikan manfaat tersebut dapat diperoleh tanpa mengorbankan keselamatan dan hak anak.

Penggunaan AI di lingkungan pendidikan karena itu membutuhkan keterlibatan guru, orang tua, sekolah, pemerintah dan pengembang teknologi.

Tanggung jawab tidak hanya berada pada anak

Perlindungan anak di ruang digital juga tidak dapat dibebankan kepada anak dan orang tua semata.

Platform teknologi memiliki tanggung jawab untuk membangun sistem keamanan yang mempertimbangkan usia pengguna. Sekolah perlu memiliki aturan mengenai penggunaan AI. Pemerintah perlu menyediakan regulasi dan mekanisme pengawasan, sementara orang tua membutuhkan pengetahuan yang memadai untuk mendampingi anak.

Pendekatan tersebut penting karena perkembangan teknologi bergerak jauh lebih cepat dibandingkan kemampuan sebagian masyarakat untuk memahami risikonya.

Aturan perlindungan anak juga perlu mengikuti perubahan teknologi. Risiko yang muncul dari media sosial beberapa tahun lalu dapat berkembang menjadi persoalan yang berbeda ketika AI mampu menghasilkan konten, meniru suara dan berinteraksi dengan pengguna secara semakin alami.

Menjaga keseimbangan antara inovasi dan perlindungan

Tantangan bagi pemerintah dan masyarakat internasional adalah menemukan keseimbangan antara perlindungan dan akses.

Pembatasan yang terlalu luas dapat mengurangi kesempatan anak memperoleh manfaat teknologi. Sebaliknya, akses tanpa perlindungan yang memadai dapat meningkatkan risiko terhadap keselamatan, privasi dan perkembangan anak.

Karena itu, prinsip kepentingan terbaik bagi anak perlu menjadi salah satu pertimbangan dalam pengembangan kebijakan AI.

Indonesia sendiri memiliki kepentingan untuk memastikan bahwa transformasi digital tidak hanya menghasilkan masyarakat yang semakin terhubung, tetapi juga menciptakan ruang digital yang aman bagi generasi muda.

Di tengah perkembangan AI yang semakin cepat, perlindungan anak pada akhirnya bukan hanya persoalan teknologi. Ia menyangkut bagaimana negara, industri, sekolah, keluarga dan masyarakat memastikan bahwa inovasi tetap berjalan tanpa mengorbankan hak dan keselamatan anak.