TIMETODAY.ID, JAKARTA — Perkembangan kecerdasan buatan atau artificial intelligence (AI) kini menghadirkan berbagai tren baru di media sosial. Salah satunya adalah tren membuat gambar hingga video berbasis AI yang menampilkan wajah manusia, termasuk anak-anak.
Konten semacam ini sering kali menarik perhatian karena terlihat menggemaskan dan kreatif. Namun di balik popularitasnya, tersimpan risiko jangka panjang yang perlu diwaspadai.
Anak-anak pada dasarnya belum memiliki kemampuan untuk melindungi data pribadi dan privasi mereka sendiri. Hal inilah yang membuat penggunaan wajah anak dalam konten AI dinilai berpotensi menimbulkan ancaman digital.
Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, menegaskan bahwa mengunggah foto anak ke dalam sistem AI dapat membuka peluang penyalahgunaan data.
Foto yang telah diproses AI berpotensi masuk ke ruang publik digital dan sulit dikontrol penyebarannya.
“Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital,” ujar Prof Yeni dalam keterangan yang dikutip dari laman resmi IPB.
Peran Orang Tua Jadi Kunci
Prof Yeni menekankan pentingnya kesadaran orang tua dalam memahami risiko digital sebelum membagikan foto anak, terlebih jika foto tersebut digunakan untuk konten berbasis AI.
Setiap data visual yang diunggah ke internet berpotensi tersimpan dan digunakan kembali tanpa sepengetahuan pemilik data.
Selain ancaman penyalahgunaan data, penggunaan AI juga berpotensi mengganggu perlindungan privasi anak. Hal ini menjadi semakin kompleks karena teknologi AI terus berkembang dengan kemampuan pengolahan data yang semakin canggih.
Menurutnya, peningkatan literasi digital masyarakat menjadi langkah penting untuk meminimalkan risiko tersebut. IPB University sendiri berupaya menanamkan pemahaman etika dan tanggung jawab penggunaan teknologi kepada mahasiswa sejak awal perkuliahan.
Risiko Disinformasi dan Manipulasi Konten
Kekhawatiran serupa juga disampaikan oleh Dana Anak Perserikatan Bangsa-Bangsa (UNICEF). Lembaga internasional tersebut menyoroti potensi penyalahgunaan AI yang dapat menghasilkan informasi maupun visual yang sulit dibedakan dari kenyataan.
UNICEF menilai anak-anak termasuk kelompok yang paling rentan terhadap manipulasi teknologi AI. Jika digunakan secara tidak bertanggung jawab, teknologi ini dapat merusak kebebasan berekspresi, kebebasan berpikir, hingga hak atas privasi anak.
Lembaga tersebut menekankan bahwa pengembangan teknologi AI perlu disertai sistem perlindungan yang berbasis hak asasi manusia, transparansi, serta akuntabilitas.
Langkah tersebut dinilai penting agar pemanfaatan AI tetap memberikan manfaat tanpa menimbulkan dampak berbahaya bagi anak.
Di tengah pesatnya perkembangan teknologi, tren konten AI memang membuka ruang kreativitas baru.
Namun, perlindungan data dan keselamatan anak tetap harus menjadi prioritas utama agar inovasi digital dapat berjalan beriringan dengan tanggung jawab sosial.***
Editor : Syafira
Sumber : Detik.com
Follow dan Baca Artikel lainnya di Google News atau whatsapp channel
