Proponen una ley para proteger a niñas, niños y adolescentes de imágenes sexuales falsas creadas con inteligencia artificial

La diputada provincial Gabriela Lena, del bloque Juntos por Entre Ríos (JxER), presentó en la Cámara de Diputados un proyecto de ley para prevenir y abordar la violencia sexual digital contra niñas, niños y adolescentes cometida mediante el uso de inteligencia artificial.

La iniciativa busca crear mecanismos de protección frente a la creación, manipulación y difusión de imágenes o videos de contenido sexual que son generados o alterados con herramientas tecnológicas.

Por qué surge la propuesta

El proyecto responde a la preocupación por el uso de sistemas de inteligencia artificial capaces de producir representaciones falsas de personas menores de edad, que luego pueden utilizarse para hostigar, intimidar, amenazar o extorsionar a las víctimas.

Según sus fundamentos, el objetivo es resguardar la dignidad, la intimidad, la identidad, la imagen y la integridad psicofísica de niñas, niños y adolescentes, y garantizar sus derechos frente a estas nuevas formas de violencia.

Qué alcanza la norma

La propuesta abarca la creación, alteración, utilización o difusión de imágenes, videos y otras representaciones digitales de desnudez o contenido sexual elaboradas con inteligencia artificial. Pero no se limita a la circulación de ese material: también contempla su uso como forma de presión, humillación, intimidación o amenaza contra las personas afectadas.

El rol del CGE y el Copnaf

Uno de los ejes del proyecto es la intervención de los organismos provinciales vinculados a la educación y a la protección de la infancia. En ese sentido, asigna funciones al Consejo General de Educación (CGE) y al Consejo Provincial del Niño, el Adolescente y la Familia (Copnaf), cada uno dentro de sus competencias.

El texto dispone que las escuelas deberán contar con pautas institucionales claras para recibir y canalizar de manera confidencial las situaciones que se denuncien. Además, propone garantizar orientación y acompañamiento a las víctimas, evitando su exposición pública y cualquier procedimiento que pueda vulnerar nuevamente sus derechos.

Prevención en las aulas

La iniciativa prevé acciones de concientización dirigidas a estudiantes, docentes y familias, para que puedan identificar prácticas de manipulación digital y reconocer los riesgos del uso indebido de la inteligencia artificial. Entre los temas a abordar figuran las consecuencias de crear, publicar, reenviar o utilizar representaciones sexuales falsas con fines de hostigamiento, intimidación o extorsión.

Sin culpa para las víctimas

Otro punto central es evitar que las personas afectadas sean responsabilizadas por la circulación de contenidos elaborados o modificados sin su consentimiento. El proyecto establece expresamente que ninguna niña, niño o adolescente podrá ser culpabilizado por la creación, manipulación o difusión de ese material.

También busca impedir prácticas que profundicen el daño durante la asistencia. Por eso, dispone que no podrá exigirse la exhibición, reproducción o envío reiterado del material como condición para acceder a orientación, acompañamiento o medidas de protección.

La iniciativa deberá seguir ahora el trámite legislativo correspondiente antes de convertirse en ley.