Deepfakes de IA en escuelas de Buenos Aires: vacío legal y violencia de género

Un escándalo que sacudió a dos de las escuelas más prestigiosas del país volvió a poner en el centro del debate una realidad que crece sin freno: la violencia de género digital potenciada por inteligencia artificial. Alumnos del Colegio Nacional Buenos Aires y de la Escuela Superior de Comercio Carlos Pellegrini, ambas dependientes de la UBA, circularon y hasta comercializaron imágenes de sus compañeras con los cuerpos desnudados mediante IA, usando sus rostros reales tomados de redes sociales.

Todo comenzó a fines de junio, cuando alumnas de segundo año del Pellegrini descubrieron un archivo en Google Drive con sus nombres, fotos y hasta un precio asignado a cada una. Las imágenes combinaban sus caras reales con cuerpos generados o desnudados artificialmente, tomados sin consentimiento de sus perfiles en redes sociales. Pronto se supo que también había alumnos del Nacional Buenos Aires involucrados, y algunas versiones apuntaban a otras instituciones.

La mayoría de los alumnos implicados tienen alrededor de 14 años y cursan segundo año. La magnitud del daño quedó expuesta en una frase que apareció escrita en un pupitre tras hacerse público el caso: "Ustedes nos pueden delatar, pero no vamos a parar de desnudarlas y venderlas". Una amenaza que resume la impunidad con la que operan quienes utilizan estas herramientas para humillar y cosificar a sus compañeras.

Ambas instituciones activaron sus protocolos de violencia de género para contener a las víctimas, que en un primer momento no querían compartir aulas con los varones denunciados. El caso también llegó a la Justicia, pero allí aparece el problema más urgente: el vacío legal que rodea a este tipo de delitos en Argentina.

La fiscal Daniela Dupuy, titular de la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas (UFEDyCI), explicó en diálogo con Radio Mitre cómo funciona la mecánica del delito: "Lo que hacen los adolescentes es utilizar un software o una app de inteligencia artificial que desnuda las fotos que ya tienen de sus compañeras. Percibimos una nena, un adolescente con una cara real, pero su cuerpo está desnudo". Dupuy aclaró que desde su unidad reciben este tipo de denuncias de forma constante, y que por el momento se trabaja en determinar el encuadramiento legal de los casos, que vulneran la privacidad y la integridad moral y sexual de las jóvenes.

La funcionaria fue contundente al reclamar acción legislativa: "Debemos impulsar a los legisladores a que de una buena vez lo incorporen en sus legislaciones penales". Y fue más lejos al analizar el fondo jurídico del asunto: "Cuando hay una creación parcial de inteligencia artificial y un cuerpo que se lleva al desnudo, el delito se consuma", sostuvo, en referencia al bien jurídico protegido que es la libertad en el desarrollo de la sexualidad.

Este tipo de imágenes se encuadra dentro de lo que se conoce como deepfakes, una tecnología que permite alterar o generar contenido audiovisual de manera hiperrealista. Su uso como herramienta de violencia de género no es nuevo ni exclusivo de Argentina: hay antecedentes en múltiples países, y el fenómeno se vuelve cada vez más accesible y frecuente a medida que las aplicaciones de IA se masifican.

En ese contexto, la voz de Laura Sánchez adquiere una dimensión especialmente dolorosa. Es la mamá de Ema Bondaruk, una adolescente que se suicidó tras la difusión de imágenes de su intimidad. Desde entonces, Sánchez milita incansablemente para que ninguna otra familia atraviese lo que vivió la suya. Tras conocerse los casos recientes, declaró a Página 12: "Es doloroso y pone a la vista que la violencia digital de género dejó de ser una problemática emergente para convertirse en urgente".

Su lucha dio lugar a la elaboración de la Guía Ema, una herramienta especialmente diseñada para abordar la violencia digital en las escuelas. Desde ese espacio, Sánchez propone que las comunidades afectadas trabajen en convenios de corresponsabilidad digital firmados por estudiantes, instituciones y familias, como forma de construir una cultura de cuidado colectivo frente a un problema que ya no puede esperar.

El caso de las escuelas porteñas no es un hecho aislado. Es el síntoma más visible de una crisis que se replica en colegios de todo el país, incluida la región de Rosario y Santa Fe, donde organizaciones de mujeres y docentes vienen advirtiendo desde hace años sobre el avance de la violencia digital entre adolescentes. La pregunta que queda abierta es cuánto tiempo más el sistema legal y el educativo van a correr detrás de una tecnología que avanza más rápido que las respuestas institucionales.