Penggunaan teknologi kecerdasan buatan (AI) untuk mengedit wajah anak demi konten hiburan di media sosial kian marak. Namun, di balik kemudahan tersebut, pakar mengingatkan adanya potensi risiko terhadap keamanan data dan privasi anak.
Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, menjelaskan bahwa teknologi yang banyak digunakan saat ini termasuk dalam kategori generative AI (Gen-AI), yaitu sistem yang mampu menghasilkan data seperti gambar, video, teks, hingga suara berdasarkan model dan informasi yang tersedia.
Menurutnya, algoritma dapat membentuk hasil yang tampak nyata ketika diberi masukan berupa foto asli. “Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto real, maka AI dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya,” kata Yeni, dikutip dari laman IPB.
Di sisi lain, penggunaan wajah anak sebagai data dalam proses berbasis AI dinilai rentan terhadap kejahatan digital. Yeni menekankan bahwa ketika foto diunggah ke ruang publik, data tersebut pada dasarnya dapat diakses dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.
“Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital,” ujarnya, juga dikutip dari laman IPB University.
Karena itu, orang tua diminta memahami risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan AI. Risiko yang disoroti mencakup keamanan data, perlindungan privasi, serta kemungkinan penyalahgunaan data.
Yeni juga mengingatkan bahwa data yang diberikan kepada algoritma AI dapat digunakan untuk melatih model sebagai dataset dan berpotensi muncul kembali dalam bentuk lain. Ia menekankan pentingnya literasi digital di masyarakat, termasuk pemberian materi etika dan tanggung jawab penggunaan teknologi secara konsisten dalam perkuliahan berpikir komputasional bagi mahasiswa baru sejak tingkat pertama.
