Deepfake ialah imej, video, atau audio sintetik yang dicipta oleh kecerdasan buatan — direka untuk kelihatan tidak dapat dibezakan daripada kandungan nyata. Dalam konteks keselamatan kanak-kanak, deepfake AI digunakan dalam dua cara utama: untuk menjana imej intim atau lucah palsu kanak-kanak daripada foto biasa, dan untuk mencipta identiti palsu yang meyakinkan bagi tujuan grooming.
Perkara kritikal yang mesti difahami oleh ibu bapa: anak anda tidak perlu menghantar sebarang gambar sebenar untuk ini berlaku. Alat AI yang tersedia percuma dalam talian boleh mengambil satu foto yang jelas — potret sekolah, video TikTok, gambar keluarga yang disiarkan di Facebook — dan menjana imej lucah rekaan. Imej-imej ini kemudiannya digunakan untuk memeras ugut, memalukan, atau memaksa kanak-kanak.
Pada tahun 2025, NCMEC menerima lebih 7,200 laporan melibatkan bahan penderaan seksual kanak-kanak yang dijana AI — meningkat daripada 4,700 pada tahun 2024 dan terus meningkat dengan cepat. Siasatan EU terhadap Grok AI mendapati ia telah menjana lebih 3 juta imej seksual, termasuk kira-kira 23,000 yang menggambarkan kanak-kanak. Di Malaysia, kes-kes sedang didakwa di bawah Akta Jenayah Komputer 1997, Seksyen 507 Kanun Keseksaan (ugutan jenayah), dan Akta Kesalahan Seksual Terhadap Kanak-kanak 2017 untuk CSAM yang dijana AI.
Ancaman ini juga berkaitan rapat dengan sextortion: penjenayah semakin menggunakan deepfake sebagai ancaman awal mereka, menghapuskan keperluan untuk menipu kanak-kanak supaya berkongsi gambar sebenar.