El uso de deepfakes ha crecido de forma acelerada, convirtiéndose en una herramienta cada vez más común para el fraude digital, el chantaje y el acoso, incluso afectando a celebridades y siendo utilizado para cometer delitos, como estafas o generación de imágenes sexualmente explícitas. Este concepto, que une deep learning (aprendizaje profundo) y fake (falso), hace referencia a imágenes, videos o audios manipulados o generados mediante inteligencia artificial, capaces de imitar con sorprendente precisión a personas reales. Esta problemática fue el eje central del trabajo realizado por Valentina Ramos y Fernanda Guerrero, estudiantes de Química y Farmacia de la Facultad, quienes obtuvieron el segundo lugar en el 2do Concurso de Reels sobre Violencia Sexual Digital contra las Mujeres, siendo reconocidas el pasado jueves 27 de noviembre en la ceremonia de premiación realizada en el Ágora de la Plataforma Cultural de la Universidad de Chile.
Violencia sexual digital
El reels presentado por las estudiantes, titulado “Deepfakes: Violencia sexual digital”, exploró esta forma emergente de agresión digital, impulsada por el uso de inteligencia artificial y cada vez más presente en plataformas en línea.
“Nos pareció una temática súper importante, sobre todo considerando el alcance que tiene internet hoy en día”, comentaron. En su preparación, revisaron antecedentes, bases del concurso y distintas líneas posibles, pero optaron por centrarse en los deepfakes dada su creciente gravedad y baja visibilidad.
Las estudiantes no se equivocan al señalar la magnitud del problema: hoy resulta cada vez más difícil distinguir entre contenido real y manipulado, y la amplia disponibilidad de voces en internet, donde según el Portal Security.org, más del 50% de las personas comparte grabaciones al menos una vez por semana, sumada al auge de herramientas gratuitas, ha impulsado la expansión del fraude. Solo entre 2023 y 2024, las búsquedas de “software gratuito de clonación de voz” aumentaron un 120%, y se estima que el 95% de los videos deepfakes se generan con programas de código abierto. Este tipo de contenido aprovecha la rapidez y alcance con la que circula la desinformación; en plataformas como X, los rumores más virales pueden alcanzar entre 1.000 y 100.000 personas, muy por encima del alcance habitual de las noticias verificadas.
La sorpresa del segundo lugar
Luego de cursar el electivo “Farmacia y Mujer”, impartido por la académica Karina Valdés, académica del Departamento de Ciencias y Tecnología Farmacéutica, las estudiantes finalizaron el ramo investigando un tema de su interés. Posteriormente, transformaron ese trabajo en distintos formatos de divulgación: un póster científico, una pieza de divulgación social y un video de difusión.
A partir de esta experiencia, comentaron que decidieron participar en el concurso porque les permitió visibilizar unaproblemática actual y relevante, especialmente para las mujeres. Además, destacaron que el proceso les ayudó a desarrollar nuevas habilidades: “Hicimos el video en Canva. No sabíamos usarlo antes de empezar… y ahora somos expertas”, contaron. “Una aprende cosas que pueden servir en otros espacios”, agregan.
De esta forma, fueron reconocidas en la ceremonia de premiación en el Campus Juan Gómez Millas, lugar donde se proyectaron todos los trabajos participantes y se entregaron reconocimientos. Al anunciarse el segundo lugar, Valentina y Fernanda aseguraron sentirse sorprendidas y muy felices.
“Pensábamos que podíamos ganar, pero igual fue inesperado. La encargada del concurso nos felicitó harto, le gustó mucho nuestro trabajo”, relataron.
Deepfakes que se vuelven realidad
El impacto en empresas y sectores económicos también es preocupante. Entre 2022 y 2023, el fraude mediante deepfakes aumentó más de diez veces a nivel global, concentrándose especialmente en los sectores de criptomonedas y fintech. En América del Norte, el incremento alcanzó un 1.740%, mientras que ataques como el “fraude del CEO” ya afectan a unas 400 compañías cada día. Pese a este escenario, más del 80% de las organizaciones no cuenta con protocolos para enfrentar este tipo de amenazas y solo un 5% dispone de sistemas de prevención sólidos, lo que revela una brecha crítica entre el riesgo real y la preparación institucional. Ahora bien, ¿qué sucede cuando este tipo de fraude llega a los entornos educativos y a las comunidades estudiantiles?
Las estudiantes fueron consultadas sobre este tema en el entorno universitario y reconocieron que, si bien en la Facultad la incidencia de estos casos es baja, el fenómeno tiene un impacto mucho mayor en la educación media. Allí, la combinación de desinformación, amplio acceso a tecnologías y menor madurez puede favorecer la aparición de nuevas formas de violencia, esta vez generadas mediante inteligencia artificial.
Finalmente, ambas hicieron un llamado a que más estudiantes se atrevan a participar en iniciativas de este tipo: “Es importante lanzarse a hacer cosas. Aunque no sea un tema que te afecte directamente, somos personas y tenemos que respetarnos. Participar en estos espacios te permite aprender, opinar y aportar a conversaciones que sí importan”.
.jpg.jpg)
