Hati-Hati Ikut Tren Edit Wajah Anak dengan AI, Pakar Ingatkan Risiko Ini

JAKARTA, DISWAY.ID - Maraknya tren mengedit wajah anak menggunakan kecerdasan buatan (artificial intelligence/AI) untuk konten dance di media sosial perlu disikapi secara kritis oleh masyarakat.

Ketua Program Studi Kecerdasan Buatan IPB University, Prof Yeni Herdiyani, menegaskan bahwa di balik tampilan visual yang lucu dan menarik, terdapat risiko serius terkait keamanan data dan privasi anak.

Prof Yeni menjelaskan bahwa teknologi AI yang banyak digunakan saat ini merupakan generative AI (Gen-AI), yakni teknologi yang mampu menghasilkan data berupa gambar, video, teks, hingga suara berdasarkan model dan informasi yang tersedia.

BACA JUGA:Ramai Jebakan Diskon, Pakar Ingatkan Bahaya Perilaku Konsumtif selama Ramadan

“Bayi dan dance adalah model yang sudah bisa dibuat oleh algoritma. Jika diberi informasi berupa foto riil, maka AI dapat membuat hasil secara otomatis yang tampak nyata. Itulah mekanisme teknologinya,” ujarnya.

Dari sisi risiko, penggunaan wajah anak sebagai data AI dinilai rentan terhadap kejahatan digital.

Prof Yeni menyebutkan bahwa ketika foto diunggah ke ruang publik, data tersebut pada dasarnya dapat diakses dan berpotensi disalahgunakan oleh pihak yang tidak bertanggung jawab.

“Kondisi ini menempatkan anak sebagai kelompok yang sangat rentan dalam ekosistem digital,” ucapnya.

BACA JUGA:Pakar: Pemanfaatan Air Tanah di Pulau Jawa Sudah Level Eksploitasi Masif

Karena itu, lanjut Prof Yeni, orang tua perlu memahami risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan AI.

Risiko tersebut mencakup keamanan data, perlindungan privasi, serta kemungkinan penyalahgunaan data.

Selain itu, penting bagi pengguna untuk memahami bahwa data yang diberikan kepada algoritma AI bisa digunakan untuk melatih model sebagai dataset dan berpotensi muncul dalam bentuk lain. 

Untuk merespons tren ini, Prof Yeni menekankan keutamaan literasi digital di masyarakat.

BACA JUGA:Pakar Ekotoksikologi Sebut Mikroplastik Kurangi Efektivitas Laut dalam Menyerap Karbon

Sumber: