Um relatório anual do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) revelou um aumento preocupante no uso de inteligência artificial (IA) em casos de abuso sexual infantil online em 2023. De acordo com o relatório CyberTipline do NCMEC, as denúncias de abuso infantil online aumentaram mais de 12% em 2023 em relação ao ano anterior, totalizando mais de 36,2 milhões de denúncias. Além disso, houve um aumento nas denúncias envolvendo extorsão sexual e casos em que IA generativa esteve envolvida na criação de conteúdo de exploração sexual infantil.
A organização expressou preocupação com o uso malicioso da tecnologia, destacando a rápida expansão dessa tendência. O relatório também apontou que a maioria das denúncias de abuso sexual infantil ocorreu fora dos Estados Unidos, com cerca de 90% delas sendo urgentes e envolvendo crianças em perigo iminente. A plataforma que mais enviou denúncias de casos de abuso foi o Facebook, seguido do Instagram e do Google, enquanto o X (antigo Twitter) foi o que menos identificou casos de abuso sexual infantil online.
É importante notar que algumas plataformas ainda estão fazendo pouco para denunciar os casos, muitas vezes dependendo de algoritmos de moderação de conteúdo. As autoridades enfatizam a necessidade de melhorias nesse processo por parte das empresas, especialmente nos Estados Unidos, onde são obrigadas a reportar os casos.
