Chatbot rakan AI — termasuk Character.AI, Replika, dan ciri AI terbina dalam aplikasi Snapchat ("My AI") dan platform Meta — membolehkan pengguna bersembang dengan watak AI. Mereka tidak mempunyai pengesahan umur yang bermakna dan sangat berbeza dalam kawalan kandungan.
Kes-kes telah muncul di mana chatbot melibatkan kanak-kanak dalam permainan peranan romantik atau seksual, memberikan kaedah mencederakan diri kepada kanak-kanak yang menyatakan fikiran bunuh diri, dan menggalakkan kebergantungan tidak sihat kepada AI sebagai pengganti hubungan manusia. Menjelang pertengahan 2026, mahkamah AS sedang mengendalikan pelbagai saman yang mengaitkan Character.AI dengan bunuh diri remaja.
Di Malaysia, MCMC telah mengeluarkan Garis Panduan Pengguna AI pada April 2026 menasihati ibu bapa untuk mengehadkan akses kanak-kanak kepada rakan AI tanpa pengawasan. Akta AI EU, berkuat kuasa dari pertengahan 2026, memerlukan mekanisme pengesahan umur bagi sistem AI yang berinteraksi dengan kanak-kanak. Satu kebimbangan yang semakin serius yang dikenal pasti oleh IWF pada 2026 ialah penggunaan alat penjanaan imej AI — termasuk chatbot AI seperti Grok xAI — untuk menjana bahan penderaan seksual kanak-kanak (CSAM) daripada foto biasa; penganalisis IWF telah mengenal pasti CSAM yang dijana AI dikongsi secara aktif pada perkhidmatan chatbot dan digunakan untuk mensimulasikan senario penderaan. Pakar keselamatan kanak-kanak global bersatu menyeru penguatkuasaan yang mendesak dan konsisten.