La IA ha facilitado enormemente que los delincuentes generen y compartan material gratuito. Hoy en día, pueden producir imágenes de abuso sexual infantil (CSAM) altamente realistas con hardware asequible, a menudo sin ningún contacto físico entre el agresor y la víctima, ni material de origen auténtico.
Y las imágenes son tan realistas que la mayoría pueden ser procesadas bajo las leyes existentes como si representaran a niños reales. Como tal, la legislación actual, la responsabilidad de las plataformas y las capacidades forenses están luchando por mantener el ritmo.
La Internet Watch Foundation (IWF) sugiere que los vídeos de abuso generados por IA han «cruzado el umbral» de ser claramente distinguibles de las imágenes reales, y también se han vuelto mucho más frecuentes en línea este año.
En la primera mitad de 2025, el organismo de control verificó 1.286 vídeos realizados por IA que contenían CSAM y que infringían la ley, en comparación con los dos del mismo periodo durante 2024. La IWF afirma que más de 1.000 de los vídeos retratan abusos de categoría A, el tipo de material más grave.
Nuestro nuevo estudio examina el alarmante aumento del CSAM generado por IA y sus implicaciones para las fuerzas del orden, los legisladores y los profesionales de la defensa penal.
El estudio se basa en datos verificados no solo de la IWF, sino también del Departamento de Seguridad Nacional, Thorn, el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y otros organismos de control.
Los hallazgos revelan que la IA generativa está acelerando exponencialmente la creación, el realismo y la accesibilidad de imágenes y vídeos de explotación.
CSAM generado por IA: no es un delito sin víctimas
Para algunos, el CSAM sintético se considera «sin víctimas» ya que representa a menores ficticios. Sin embargo, la realidad es mucho más compleja. Las herramientas de IA ahora pueden usarse para modificar y manipular imágenes reales y crear nuevo material de explotación a partir de fotografías de niños conocidos, menores famosos o incluso particulares.
La escala de este problema es significativa y está empeorando. Por ejemplo, el Departamento de Seguridad Nacional informó de un aumento del 400 % en las páginas web de CSAM generadas por IA en la primera mitad de 2025.
En un solo mes durante 2025, la IWF encontró 20.254 imágenes de CSAM generadas por IA en un solo foro, el 90 % de las cuales fueron clasificadas como lo suficientemente realistas como para ser procesadas como si fueran representaciones de niños reales. Y, cada vez más, las comunidades de agresores comparten abiertamente técnicas de ingeniería para perfeccionar rápidamente el realismo de las imágenes.
Incluso en los casos en los que no se produce abuso físico, las víctimas pueden sufrir daños a través de la revictimización, el daño a la reputación y el costo psicológico de ver su imagen profanada.
Se están utilizando herramientas de IA para dañar a los niños, sin consecuencias
Y es más fácil que nunca crear imágenes abusivas con las herramientas modernas de IA generativa de imágenes, incluidas las llamadas aplicaciones de «desnudar» (nudify y unclothe), que están siendo explotadas para crear CSAM a gran escala. Tales plataformas a menudo operan sin salvaguardias, restricciones de edad u obligaciones de notificación. Por ejemplo, solo cinco plataformas de IA están registradas para informar sobre CSAM al NCMEC, y muchas nunca han presentado un solo informe.
Además, los administradores de aplicaciones de «desnudar» aún no están obligados legalmente a denunciar imágenes de explotación y no colaboran con los organismos de control. Y los delincuentes pueden obtener legalmente herramientas de IA y trabajar fuera de línea, produciendo material ilimitado sin ser detectados.
Esta brecha regulatoria ha creado un entorno donde el contenido ilegal puede proliferar en gran medida sin control, dejando que las fuerzas del orden intenten ponerse al día.
El enorme repunte de CSAM por IA abruma a las fuerzas del orden
El aumento del CSAM por IA ha ejercido una presión sin precedentes sobre los investigadores. No solo están aumentando en número tales imágenes, sino que su realismo también hace que la revisión forense requiera más tiempo y recursos. Las fuerzas del orden y otras partes interesadas deben ahora negociar desafíos sin precedentes.
Por ejemplo, el NCMEC recibió más de 7.000 informes de CSAM generado por IA en 2024, una pequeña fracción de los más de 36 millones de informes de CyberTipline presentados ese año. Ese número aumentará rápidamente en los próximos años e, incluso con sistemas de detección avanzados, la gran escala significa que muchos delincuentes e imágenes quedarán sin investigar.
Las plataformas lo saben, pero hacen poco o nada al respecto
Lamentablemente, los organismos de control han documentado una sorprendente falta de compromiso por parte de las plataformas tecnológicas cuyas herramientas se están utilizando para generar CSAM.
De las plataformas de IA registradas en el NCMEC, la mayoría ni siquiera ha enviado informes. Las plataformas que permiten la modificación explícita de imágenes aún no han participado en debates sobre medidas de prevención.
Sin requisitos de notificación obligatoria, gran parte de este contenido permanecerá en circulación indefinida. Y eso significa un daño y un trauma prolongados para las víctimas.
1 de cada 8 adolescentes conoce a una víctima de deepfake
El peligro de la explotación por IA va más allá de los foros de la red oscura; las plataformas convencionales y las escuelas ya están viendo los daños.
La investigación de Thorn de 2025 reveló que el 31 % de los adolescentes están familiarizados con los desnudos deepfake, 1 de cada 8 adolescentes conoce a una víctima de desnudos deepfake, 1 de cada 5 niños de entre 9 y 17 años ha visto imágenes sexuales compartidas de nuevo sin consentimiento, y 1 de cada 10 conoce a compañeros que han creado imágenes sexuales deepfake.
Para los menores, incluso las imágenes falsas pueden crear traumas emocionales duraderos, acoso y daños a la reputación.
Precedentes legales y procesamientos
Los casos del mundo real ya demuestran el hecho de que el sistema de justicia trata el abuso generado por IA con la misma seriedad que el CSAM tradicional. En Charlotte, Carolina del Norte, David Tatum fue sentenciado por cargos de pornografía infantil tras usar aplicaciones de IA para «desnudar» y modificar imágenes de menores.
Una imagen alterada representaba a una joven de 15 años esperando un autobús; la foto original fue tomada 25 años antes de ser manipulada digitalmente. La víctima tenía unos 40 años cuando fue identificada, lo que ilustra el hecho de que el CSAM por IA aún puede cobrarse víctimas décadas después de que se crearan las imágenes originales.
El camino por delante: tecnología, ley y responsabilidad
El CSAM generado por IA puede crearse de muchas maneras diferentes. El contenido para adultos puede manipularse para que parezca de menores; las imágenes de menores totalmente sintéticas (y, sin embargo, increíblemente reales) se generan fácilmente. Sea cual sea el método utilizado, presenta un desafío único para los organismos legislativos, los equipos forenses y los organismos de control ético. Abordar esta crisis requerirá lo siguiente:
- Mandatos de notificación de plataformas más estrictos
- Herramientas de detección de IA mejoradas para ayudar a los esfuerzos de las fuerzas del orden
- Definiciones legales más claras con respecto a la explotación sintética
- Educación pública continua para reducir la demanda y el mal uso
En Suzuki Law Offices, creemos que abordar la explotación impulsada por la IA requiere el mismo nivel de integridad y diligencia que aportamos a cada caso.
Nuestro equipo cuenta con décadas de experiencia combinada, incluido el historial de nuestro fundador como fiscal federal. Estamos comprometidos a comprender la tecnología, la ley y el impacto humano en el centro de estos casos.