Deepfake: una nueva forma de ciberacoso escolar

BRAVE UP!

julio 12, 2024

La convivencia educativa está en constante cambio y se ve impactada todos los días producto de las nuevas formas de relacionarse y vincularse que tienen los diferentes actores que la componen. Es así como los colegios han experimentado significativas transformaciones debido al masivo uso de redes sociales, juegos en línea y otras plataformas de internet, lo cual ha venido a redefinir la forma en que los(as) estudiantes se vinculan e interactúan entre sí, poniendo en la palestra nuevas formas de convivir. 

Frente a este escenario, los colegios han debido enfrentarse a nuevos desafíos respecto a la forma de orientar y educar a los(as) estudiantes, poniendo como horizonte lograr tener comunidades educativas sanas, positivas y respetuosas entre sí independiente del espacio donde se vinculen.

Uno de los nuevos fenómenos que ha emergido con fuerza durante el último tiempo hace alusión al uso de inteligencia artificial (IA) como herramienta de apoyo para la optimización y mejora de las técnicas de aprendizaje en los procesos educativos, pero también, como una nueva forma de acoso y ciberacoso escolar.

En los últimos meses se ha advertido que estudiantes utilizan estas nuevas tecnologías para generar material ofensivo, que denigra y se burla de compañeros(as). También se ha visto que se utilizan herramientas de IA para modificar imágenes y agregar cuerpos desnudos sobre el rostro de otra persona con el fin de hostigar y acosar, conocido como deepfake. Todos estos elementos son parte del llamado cyberbullying y puede traer consigo una serie de consecuencias a corto y largo plazo, afectando en la integridad y el bienestar de las personas involucradas. 

El impacto que la inteligencia artificial tiene en las vidas de los(as) estudiantes y de toda la comunidad educativa en general, es bastante grande y difícil de manejar ya que al ser algo que ocurre en el mundo virtual, la posibilidad de realizar acciones de manera anónima es muy alta, por lo que se hace difícil identificar a quienes cometen este tipo de ciberacoso y por ende, aplicar las medidas necesarias. 

Adicionalmente, es sabido que el mundo digital ofrece como ventajas la inmediatez y el mayor acceso a información, algo que en estos casos resulta más que problemático, ya que al difundir contenido ofensivo en la red, este se masifica en cosa de segundos y queda al alcance de todos(as), generando un daño inconmensurable a quienes sean víctimas de estas situaciones. A esto, se le agrega la llamada huella digital, elemento que indica que todo lo que se sube en Internet, se queda ahí y por tanto es imposible de eliminar, dejando un rastro, una historia de nuestra vida y de nuestras acciones. 

Frente a este escenario, emerge la pregunta ¿Qué hacer como colegio? ¿Cómo enfrentamos esta nueva realidad? y, antes de responder estas inquietudes es importante revisar a qué nos enfrentamos. Frente a ello, de acuerdo a datos de BRAVE UP! del 2024, de más de 12.000 estudiantes (entre 4to básico y 4to medio) que respondieron un test sociométrico, un 71% declaró ser parte de redes sociales y más de 2.400 de ellos comentó saber de alguien que ha sido víctima de ciberbullying, destacando que las principales formas de agresión online que han presenciado son a través de memes, sticker o videos burlándose de algún compañero(a), seguido por el inventarse rumores, elementos que van en directa relación con el fenómeno del deepfake.

Entendiendo la gravedad de esta situación, la nueva pregunta que emerge es  ¿Cómo posicionarse frente a este nuevo panorama? ¿Qué acciones tomar? ¿Cuál es la responsabilidad que tiene la escuela frente a la prevención del ciberacoso? y la respuesta es clara: tienen una gran responsabilidad, pero siempre alineados y en conjunto a las familias.
La escuela es el segundo agente socializador de los(as) estudiantes, y por tanto, es esencial el rol que puedan cumplir en el educar, orientar y guiar a los(as) estudiantes en el uso positivo y respetuoso de estos espacios y la prevención de cualquier forma de acoso o ciberacoso.
Además, los(as) estudiantes pasan gran parte de su día en la escuela, y conviven de diferentes formas con sus compañeros(as) por lo que es clave que se les enseñe de manera sistemática los riesgos y beneficios del mundo digital, en particular de las nuevas tendencias que van emergiendo y de las consecuencias de elementos como el deepfake o cualquier forma de ciberacoso. 

¿Qué hacer? Es importante que la escuela incluya en sus programas, protocolos y normativas el ciberacoso junto con sus sanciones y estar en constante actualización de los nuevos elementos que lo componen, en este caso el deepfake.
Además, es imperante crear más instancias de trabajo en torno al bienestar socioemocional de los(as) estudiantes, abordando temas como la empatia, el respeto, la configuración identitaria, entre otros. Y la importancia de esto recae en que estos valores y temáticas no solo se aplican en la presencialidad, sino que también en los espacios digitales, que no son sino que otro medio por el cual interactuamos entre personas.
Finalmente, se sugiere incorporar el tema de la violencia digital con actividades periódicas para los(as) estudiantes, de tal manera que puedan ir generando conciencia de los riesgos y consecuencias al molestar y burlarse de otros(as).

La convivencia educativa está en constante redefinición, y los colegios deben estar al día en su forma de abordarla y trabajarla, teniendo como horizonte crear climas sanos, nutritivos y armónicos que permitan experiencias positivas y un desarrollo integral en el estudiantado.

Publicaciones Relacionadas