La utilización de inteligencia artificial para crear o modificar imágenes sexuales sin consentimiento se convirtió en una problemática creciente, especialmente entre adolescentes. En las últimas semanas se conocieron casos en distintas localidades del país, con denuncias por fotografías de alumnas manipuladas para simular desnudez y luego difundidas en redes sociales.
En San Justo, un adolescente de 14 años habría utilizado estas herramientas para generar imágenes falsas de al menos seis chicas de la ciudad. En Lomas de Zamora, Buenos Aires, cuatro estudiantes fueron señalados por manipular fotografías de alrededor de 50 compañeras y difundirlas e incluso comercializarlas en páginas para adultos.
En diálogo con EME, Walter Agüero, especialista en delitos cibernéticos y manipulación de imágenes con inteligencia artificial, explicó que acceder a estas herramientas es relativamente sencillo y advirtió que el avance tecnológico expone las limitaciones de los mecanismos legales y educativos para abordar estas situaciones.
“Lamentablemente es bastante sencillo. Hay aplicaciones que se pueden descargar de la Play Store, que son gratuitas, y con un abono de $10 a $20 se puede tener una opción más avanzada”, señaló Agüero al describir la facilidad con la que se pueden manipular fotografías.
El desafío de la legislación frente a las imágenes falsas
Para el especialista, uno de los principales problemas es que las conductas vinculadas con el entorno digital no siempre encuentran una respuesta clara dentro de los procedimientos judiciales existentes. En ese sentido, planteó la necesidad de avanzar hacia mecanismos específicos para investigar y abordar los ciberdelitos.
“Hay que entender que tenemos fuero civil, comercial, penal, pero no tenemos el digital. Y dadas las características de avance con tanto impacto que está teniendo en la sociedad, es necesario”, sostuvo.
Agüero mencionó la Ley Olimpia, que incorporó herramientas para abordar la violencia digital contra las mujeres, y la Ley 26.061, que protege la dignidad, la imagen, la intimidad y la reputación de niñas, niños y adolescentes.
Sin embargo, consideró que la existencia de normas no siempre garantiza una respuesta uniforme. “Como no hay una claridad dentro de la legislación nuestra, y esto según el contexto y cómo se plantea, cada caso es como que tiene un desenlace distinto de otro que sea parecido”, explicó.
Por eso, insistió en la necesidad de fortalecer el conocimiento especializado dentro del sistema judicial y de contar con fiscalías preparadas para investigar estas situaciones. “Es necesario tener esto acorralado, el ciberdelito, para no estar haciendo transpolación de si esto es un delito en el derecho penal, cómo esto que sucede, que no está contemplado, cómo lo relacionamos”, afirmó.
Las plataformas y las responsabilidades por el contenido
Otro de los puntos que señaló Agüero es la dificultad para determinar responsabilidades cuando una imagen es creada o manipulada mediante inteligencia artificial. En esos casos, advirtió, pueden surgir interrogantes sobre el papel de quien desarrolla la herramienta, de quien da la instrucción para generar el contenido y de quien finalmente lo produce o difunde.
“Como no hay una claridad dentro de la legislación nuestra, y esto según el contexto y cómo se plantea, cada caso es como que tiene, depende del lugar y del conocimiento, un desenlace distinto”, señaló. A su entender, establecer criterios claros permitiría reducir las interpretaciones dispares y brindar respuestas más previsibles a las víctimas.
También destacó la existencia del Convenio de Budapest, un acuerdo internacional vinculado con la ciberdelincuencia y la ciberseguridad al que adhirió la Argentina. Según explicó, ese marco puede resultar relevante cuando las herramientas legales nacionales no alcanzan para resolver determinadas situaciones.
-
También lee: Actores argentinos lanzaron una campaña para exigir límites al uso de la inteligencia artificial
Cuando las víctimas no saben dónde denunciar
Agüero advirtió que las dificultades no aparecen únicamente durante la investigación judicial, sino también al momento de realizar una denuncia.
“Muchas veces ni siquiera toman la denuncia porque no la pueden encasillar. A veces la toman y cuando la trasladan a veces no se saben cómo tratar porque justamente falta el sustento y el conocimiento”, describió.
El especialista vinculó ese problema con la falta de formación sobre los riesgos digitales y con la percepción de que manipular una imagen ajena puede ser una simple broma. “Primero apareció como una travesura, una picardía, como esto, como no hay castigo, no hay algo severo, entonces se va propagando de ciudad en ciudad”, alertó.
Además, relató que, al consultar a adolescentes sobre el uso de redes sociales, encontró casos de cuentas privadas en las que algunos jóvenes compartían fotografías propias desnudos. Para Agüero, esa práctica también requiere atención y acompañamiento, porque puede exponerlos a consecuencias que no dimensionan.
“Es un hecho gravísimo, algo que es para tratar, ver, ayudar a esos chicos que evidentemente no entienden a dónde puede llegar eso, que es más grave que desnudar a alguien con IA”, sostuvo.
Frente a ese escenario, reclamó incorporar educación digital y vincularla con la ciberseguridad. “Hay que hacer una educación digital que no existe hoy en nuestro país, pero es necesario cruzarlo con el tema de lo que es ciberseguridad, porque es algo que cruza transversalmente todos los campos, no solamente educativo, sino también los profesionales”, planteó.
Antecedentes judiciales y reclamos contra las plataformas
El especialista también mencionó dos causas judiciales contra Facebook y Meta en las que participó como perito informático. Según relató, uno de los procesos se tramitó en Villa Mercedes, San Luis, y posteriormente hubo una resolución de una cámara federal en una acción vinculada con daños y perjuicios.
Agüero destacó la rapidez con la que, según su experiencia, actuaron los juzgados federales en esos expedientes, aunque señaló que todavía existen dudas sobre la competencia de los distintos fueros y los procedimientos que corresponden en cada caso.
“Hay que ponerle transparencia y claridad para que los argentinos podamos litigar donde corresponde. Para todas las personas, no hay que tenerle miedo cuando uno tiene la verdad y tiene la ciencia y tiene las pruebas que acompañan y aportan esa ciencia”, afirmó.
También hizo referencia a decisiones judiciales vinculadas con perfiles falsos en redes sociales y a la posibilidad de exigir a las plataformas información sobre el origen de determinadas publicaciones.
WhatsApp y las dudas sobre el uso de inteligencia artificial
Durante la entrevista, Agüero también se refirió a los mensajes virales que advierten sobre el uso de fotografías personales en redes y aplicaciones. Según explicó, algunas de esas publicaciones mezclan inquietudes reales con afirmaciones alarmistas o pedidos de consentimiento que no tienen el efecto que sus autores imaginan.
“Siempre aparecen mensajes de tipo apocalíptico, ¿no? O personas que ponen ‘no doy consentimiento a compartir mi foto’, cuando la foto ya está distribuida por todos lados”, señaló.
El especialista contó que utiliza WhatsApp Business y que tuvo acceso a una función de inteligencia artificial para interactuar con sus contactos. A partir de esa experiencia, planteó interrogantes sobre el acceso a las conversaciones y el uso de información para entrenar sistemas de respuesta automatizada.
“WhatsApp se caracteriza por ser como otras plataformas end-to-end, es decir, que si yo le envío un mensaje a un receptor solamente entre los dos conocemos, nadie lo puede tener, no existen copias de seguridad excepto en los teléfonos”, sostuvo, antes de cuestionar qué información se utiliza para entrenar esas funciones de inteligencia artificial.
Sus planteos se suman al debate sobre la protección de la privacidad, el alcance de las nuevas herramientas tecnológicas y la necesidad de que usuarios, instituciones educativas, plataformas y organismos judiciales cuenten con información clara para prevenir y abordar los riesgos digitales.
