Violencia sexual digital e inteligencia artificial: un desafío pedagógico y corresponsable

La creciente complejidad de los fenómenos vinculados con la ciudadanía digital y el uso de la inteligencia artificial plantea nuevos desafíos para las instituciones educativas. El caso conocido en el Colegio Carlos Pellegrini —y en otras instituciones dependientes de la Universidad de Buenos Aires—, en el que estudiantes habrían utilizado inteligencia artificial para producir imágenes sexuales falsas de sus compañeras y comercializarlas, no puede reducirse a una «broma», una travesura adolescente ni un uso inadecuado de la tecnología. Se trata de una forma de violencia sexual digital y de género que vulnera la intimidad, la dignidad, la identidad y el derecho de las jóvenes a decidir sobre sus cuerpos y sus imágenes.

Las violencias que se despliegan en los territorios digitales no son creadas exclusivamente por la tecnología: expresan y profundizan desigualdades, estereotipos y relaciones de poder presentes en la sociedad. Sin embargo, las plataformas y las herramientas de inteligencia artificial introducen nuevas condiciones para la producción y amplificación del daño: anonimato, velocidad de circulación, alcance masivo, reproducción ilimitada y dificultad para eliminar definitivamente los contenidos.

“Una imagen puede ser falsa en su construcción, pero la humillación, el hostigamiento y sus consecuencias son profundamente reales.”

Cuando ya no hace falta una foto íntima

La utilización de deepfakes sexuales incorpora una dimensión especialmente preocupante: ya no es necesario que exista una fotografía íntima previa. Cualquier imagen cotidiana puede ser capturada, manipulada y transformada en una representación sexual sin consentimiento. De este modo, el cuerpo de las adolescentes deja de ser reconocido como parte de una persona con derechos y pasa a ser tratado como un objeto disponible para la diversión, el intercambio o el lucro ajeno.

La problemática, por lo tanto, no se agota en la herramienta tecnológica. También obliga a interrogar las conductas violentas y misóginas de algunos adolescentes, las formas de masculinidad que se construyen entre pares y los pactos de silencio que pueden legitimar la humillación de las mujeres. Crear, comprar, vender, compartir o celebrar estas imágenes no constituye una práctica neutral: reproduce la cosificación de los cuerpos, convierte la intimidad ajena en mercancía y puede funcionar como una forma de disciplinamiento y control sobre las jóvenes.

Ni impunidad ni respuesta solo punitiva

Reconocer que quienes realizan estas acciones son adolescentes y sujetos en formación no significa minimizar el daño ni eximirlos de responsabilidad. El desafío institucional consiste en evitar dos respuestas igualmente insuficientes: la impunidad fundada en la idea de que «son chicos» y una reacción exclusivamente punitiva, limitada a sancionar o expulsar sin intervenir sobre los sentidos culturales que hicieron posible la agresión. La responsabilidad debe considerarse de acuerdo con la edad, el grado de participación y la gravedad de los hechos, dentro de un proceso que establezca límites claros, promueva la reparación y permita revisar críticamente las prácticas misóginas aprendidas.

El informe de la Defensoría del Pueblo de la Ciudad de Buenos Aires advierte que el 13 % de las y los adolescentes consultados conoce situaciones de deepfakes en su entorno escolar, y que solamente el 26 % recurriría a personas adultas o autoridades educativas ante una experiencia de violencia digital. Estos datos muestran que la familiaridad juvenil con las tecnologías no equivale a una formación ética, crítica y responsable, y evidencian la distancia que persiste entre aquello que sucede entre pares y la capacidad institucional para ofrecer escucha, protección y respuestas oportunas.

Corresponsabilidad: nadie puede quedar al margen

La corresponsabilidad no supone que todos los actores tengan las mismas obligaciones, sino que ninguno puede permanecer al margen. El Estado debe garantizar marcos normativos actualizados, políticas públicas de prevención, canales accesibles de denuncia y dispositivos de protección, acompañamiento y reparación. Las familias requieren orientación para construir mediaciones adultas y promover conversaciones sobre consentimiento, intimidad, masculinidades y usos responsables de las tecnologías. Las escuelas, por su parte, deben proteger a las estudiantes afectadas, evitar su revictimización, intervenir para detener la circulación de los contenidos, resguardar las evidencias sin reproducirlas y articular con organismos especializados.

Sin embargo, la intervención educativa no puede limitarse a una respuesta administrativa o disciplinaria. Uno de los principales desafíos consiste en intervenir pedagógicamente desde una Educación Sexual Integral con perspectiva digital, capaz de abordar el consentimiento en los entornos virtuales, el derecho a la intimidad, la autonomía sobre la propia imagen, las violencias de género, la cosificación de los cuerpos y la construcción de masculinidades. La ESI debe ofrecer herramientas para reconocer el daño, desarmar complicidades, cuestionar prácticas misóginas y construir formas de vinculación basadas en el respeto, la igualdad y el cuidado.

Las instituciones educativas no pueden desentenderse porque los hechos hayan ocurrido mediante dispositivos personales o fuera de sus paredes. Cuando una violencia afecta la subjetividad, los vínculos y la convivencia de quienes integran una comunidad educativa, se convierte también en un problema escolar. Educar para la ciudadanía digital implica construir una ética del consentimiento y del cuidado, pero también cuestionar las desigualdades que encuentran en las tecnologías nuevas posibilidades de reproducción.

Una obligación pública, institucional y social

Finalmente, en el marco de la Ley 27.078, la protección de la privacidad y de los datos personales de las y los usuarios compromete tanto la responsabilidad estatal como la de quienes prestan servicios de tecnologías de la información y la comunicación. Las plataformas y empresas que operan en el ecosistema digital deben contar con mecanismos accesibles y eficaces para denunciar, bloquear y remover contenidos que vulneren derechos. Al Estado le corresponde regular y fiscalizar estas prácticas, garantizar políticas de prevención, facilitar el acceso a la justicia y promover medidas de sanción y reparación frente a las violencias digitales. Proteger a niñas, niños y adolescentes en estos entornos no constituye una responsabilidad privada: es una obligación pública, institucional y social.