La Jueza Daniela Benenatti tomó la medida tras una denuncia de estudiantes que fueron víctimas de «deepfakes» sin su consentimiento. El fallo sienta un precedente en la lucha contra la violencia digital en Argentina.
En una decisión histórica para la protección de la privacidad en la era digital, la Justicia de San Luis ordenó el bloqueo inmediato en todo el país de una plataforma de Inteligencia Artificial (IA). Esta aplicación permitía crear imágenes de desnudos falsos utilizando rostros de personas reales sin su autorización.
Todo comenzó con una denuncia de una escuela en la ciudad de San Luis. Un grupo de estudiantes descubrió que sus rostros habían sido utilizados para generar imágenes de cuerpos desnudos mediante el uso de algoritmos avanzados de «aprendizaje profundo».
Ante esta situación, la fiscal de Género, Antonella Córdoba, inició una investigación y solicitó una medida urgente para detener el daño. La jueza penal juvenil, Daniela Benenatti, hizo lugar al pedido, advirtiendo que la aplicación representa un riesgo grave para la integridad de niños, niñas y adolescentes.
Aunque la plataforma se presentaba como un software de edición y aseguraba tener filtros para no procesar fotos de menores, la investigación judicial demostró lo contrario:
- Falsa seguridad: No existían barreras reales de verificación de edad.
- Manipulación: La IA «desnudaba» fotos comunes para crear una ilusión de cuerpo desnudo muy realista.
- Sin consentimiento: Cualquiera podía usar la foto de un tercero para generar este contenido sin que la víctima lo supiera.
La jueza Benenatti ordenó al Ente Nacional de Telecomunicaciones (ENACOM) que bloquee el acceso al sitio web en todo el territorio argentino. La medida se basa en leyes fundamentales como la Ley Olimpia, que castiga específicamente la violencia digital, y leyes de protección integral de menores y mujeres.
«El entorno digital no garantiza barreras efectivas de edad, lo que expone a los jóvenes a formas modernas de violencia psicológica y simbólica», advirtió la fiscal Córdoba en su escrito.
Este caso pone en el centro del debate la violencia digital. Los especialistas señalan que, aunque la tecnología avance, el derecho a la dignidad y la privacidad debe estar por encima. El bloqueo de la app no solo busca proteger a las víctimas de San Luis, sino evitar que más personas en todo el país sufran este tipo de acoso virtual.