Hoy, cualquier persona con un teléfono celular y una aplicación de inteligencia artificial, puede crear imágenes, audios o videos falsos en cuestión de minutos, sin conocimientos técnicos avanzados. En términos simples, así se le conoce a los deepfakes.
Este problema va más allá de una simple broma. En el ámbito educativo, esta conversación suele centrarse entre alumnos, pero investigaciones recientes muestran que los profesores también están siendo blanco de esta práctica, mientras que las instituciones aún no saben cómo responder.
Datos de WIRED y la consultora, Indicator, documentaron alrededor de 90 escuelas afectadas en el mundo y más de 600 víctimas de abusos relacionados con los deepfakes. Solo en Norteamérica, se han reportado 30 casos desde 2023, mientras que existen 10 incidentes en Sudamérica, más de 20 en Europa y otra docena en Australia y Asia Oriental. Los especialistas coinciden en que estas cifras solo son una parte del problema, ya que muchas de ellas no llegan a denunciarse.
Siddharth Pillai, cofundador de la Fundación RATI, señala que la IA cambió tres elementos con respecto al contenido importantes: la escala, velocidad y accesibilidad. En otras palabras, ahora es posible producir contenido falso mucho más rápido, distribuido en segundos y hacerse con herramientas al alcance de cualquiera.
Los deepfakes tienen diferentes variantes: las imágenes sexualizadas falsas representan uno de los ejemplos más graves, también hay videos de personas insultando, amenazando, consumiendo drogas o participando en situaciones completamente irreales.
El fenómeno es especialmente delicado en el entorno escolar. Allí conviven menores de edad, docentes y personal administrativo en espacios donde la confianza resulta indispensable para enseñar y aprender.
Los deepfakes también afectan a los maestros
Durante mucho tiempo se pensó que las víctimas eran los estudiantes. Sin embargo, casos documentados demuestran que los docentes también enfrentan esta nueva forma de violencia.
En diversas escuelas, alumnos han creado imágenes falsas de profesores desnudos o en situaciones sexuales inexistentes. En otros casos, han manipulado fotografías para representar a docentes arrolladillados, comiendo alimento para perros o sosteniendo armas de fuego.
Varios maestros de una escuela ubicada en Oregón, Estados Unidos, vivieron una pesadilla cuando apareció una cuenta que se dedicaba a publicar imágenes manipuladas. La situación generó tal nivel de indignación que solicitaron incapacidad médica como forma de protesta, obligando a la escuela a contratar sustitutos.
Este tipo de ataques no solo busca generar risas entre compañeros. También pretende humillar públicamente a la víctima, destruir su credibilidad o convertirla en objeto de burlas permanentes.
Otro caso estuvo protagonizado por un profesor de sexto grado en Arizona, que fue víctima de un deepfake creado por uno de sus alumnos, quien difundió en TikTok una imagen falsa donde aparecía besando a otro docente.
Aunque el maestro denunció las cuentas por pertenecer a menores de 13 años, estas no fueron eliminadas. La escuela investigó el caso, identificó al responsable y le impuso una suspensión de tres días por acoso sexual, la máxima sanción prevista para una primera infracción.
El camino suntuoso de lo que sigue para las víctimas
Detrás de cada imagen manipulada existe una persona que debe enfrentar sus consecuencias todos los días. Las víctimas describen sentimientos de miedo, incertidumbre, vergüenza y ansiedad. Muchas desarrollan el temor a regresar a la escuela porque desconocen quién vio el contenido o quién participó en su difusión.
Los especialistas también advierten un problema adicional: una vez que el contenido llega a internet es muy difícil eliminarlo, por lo que las víctimas viven con el miedo de que las imágenes vuelvan a aparecer años o meses después.
También el daño puede extenderse a su reputación profesional. Basta con que una foto manipulada llegue a padres de familia, compañeros de trabajo o reclutadores para afectar la percepción sobre una persona completamente inocente.
¿Por qué los estudiantes hacen este tipo de contenido?
Pensar que todos los casos donde un deepfake afecta a un maestro corresponden únicamente a motivaciones sexuales sería simplificar el problema.
Amanda Goharian, directora de investigación del grupo, explica que existen diversas razones detrás de estos ataques. Algunos adolescentes actúan por curiosidad, otros buscan vengarse o es posible que se reten entre sí para demostrar quién puede crear el montaje más conveniente.
Para el cofundador de la Fundación RATI, añadió a la lista que estos ataques reflejan problemas de género que ya existían antes de la IA y que ahora encuentran una nueva herramienta para manifestarse.
El tiempo de respuesta de las escuelas es insuficiente
La velocidad con la que evolucionó esta tecnología superó la capacidad de respuesta de muchas instituciones educativas.
En numerosos casos no existen protocolos claros para actuar cuando aparece un deepfake. Los directivos deben decidir cómo proteger a la víctima, preservar evidencia digital, informar a las familias y colaborar con autoridades, mientras el funcionamiento de la escuela debe seguir con normalidad.
A ello se suma un desafío legal. Las leyes avanzan más lentamente que la tecnología y, en algunos países, todavía existen vacíos para atender casos donde las imágenes fueron creadas mediante inteligencia artificial.
Expertos en seguridad digital sostienen que las escuelas necesitan preparar planes específicos para enfrentar este tipo de incidentes. Eso incluye capacitar al personal, establecer protocolos de denuncia, conservar evidencia digital y ofrecer apoyo psicológico a las víctimas.
La educación digital también forma parte de la solución
La respuesta no consiste únicamente en instalar más filtros tecnológicos.
La prevención comienza enseñando a los estudiantes cómo funciona la inteligencia artificial, cuáles son sus riesgos y qué consecuencias legales y humanas puede provocar un uso irresponsable.
La alfabetización digital debe incluir conversaciones sobre consentimiento, privacidad, respeto y pensamiento crítico.
También es importante explicar que crear una imagen falsa de otra persona puede tener consecuencias legales (dependiendo del país), incluso cuando quien la produce sea menor de edad.
¿Qué dice la ley en México?
La legislación todavía evoluciona para responder a este fenómeno.
En México se presentó una iniciativa para reformar el Código Penal de la Ciudad de México con el fin de sancionar la creación de deepfakes relacionados con violencia sexual contra niñas, niños y adolescentes. La propuesta contempla penas de prisión, multas y el decomiso del material utilizado para cometer estos delitos.
Aunque esa iniciativa no ha prosperado, la Ley Olimpia podría servir como base jurídica en determinados casos.
Esta legislación sanciona la creación, difusión, distribución y publicación de imágenes, audios o videos íntimos sin consentimiento, incluyendo material simulado de contenido sexual. Las sanciones contemplan penas de prisión y multas económicas.
Los deepfakes afectan a maestros, estudiantes y comunidades escolares completas. No representan una moda pasajera, sino una nueva forma de violencia digital impulsada por herramientas cada vez más accesibles.
La tecnología seguirá evolucionando, pero la solución no dependerá únicamente de desarrollar mejores sistemas de detección. También será necesario fortalecer la educación digital, promover el uso responsable de la inteligencia artificial y establecer protocolos claros para proteger a las víctimas.
Preparar a estudiantes, docentes y escuelas desde ahora permitirá reducir el impacto de un problema que seguirá creciendo, reconocer sus riesgos y actuar con rapidez será tan importante como enseñar cualquier otra habilidad para desenvolverse de forma segura en el entorno digital.
