Una fotografía, una voz o un video pueden manipularse hasta parecer auténticos. La inteligencia artificial ha abierto posibilidades extraordinarias para la educación, la creatividad y la comunicación, pero también ha facilitado nuevas formas de violencia. Entre ellas se encuentran los deepfakes, contenidos audiovisuales creados o modificados mediante tecnología para hacer creer que una persona dijo o hizo algo que nunca ocurrió.
El problema va mucho más allá de distinguir lo verdadero de lo falso. Cuando estas herramientas se utilizan para fabricar imágenes íntimas, humillar a una persona o suplantar su identidad, la tecnología se convierte en un instrumento de agresión. Y quiénes somos jóvenes tenemos razones para prestar especial atención: gran parte de nuestras relaciones, recuerdos y experiencias se construyen en espacios digitales donde una publicación puede difundirse en cuestión de minutos.
En febrero de 2026, UNICEF advirtió sobre el uso de inteligencia artificial para generar imágenes sexualizadas falsas de niñas, niños y adolescentes. De acuerdo con un estudio internacional impulsado por UNICEF, ECPAT e INTERPOL, al menos 1.2 millones de menores en once países reportaron que sus imágenes habían sido manipuladas para producir deepfakes sexualmente explícitos durante el año anterior. Estas cifras muestran que no estamos ante una posibilidad remota, sino frente a una forma de violencia que exige atención inmediata.
Hay algo especialmente injusto en estas agresiones: la víctima puede terminar enfrentando vergüenza, burlas, aislamiento y cuestionamientos por un contenido que nunca produjo ni autorizó. Mientras tanto, quien lo creó puede intentar esconderse detrás de una pantalla o justificarlo como una broma. Pero una falsificación no convierte el sufrimiento en ficción.
Por eso, necesitamos cambiar la manera en que entendemos la responsabilidad digital. No basta con recomendar que las personas protejan sus fotografías o tengan cuidado con lo que publican. La prevención también exige que las plataformas reduzcan los riesgos, respondan oportunamente ante las denuncias y eviten que sus herramientas faciliten el abuso. Asimismo, las instituciones deben contar con mecanismos de atención y vías de justicia que no expongan nuevamente a las víctimas.
Como jóvenes, también tenemos una responsabilidad frente a lo que compartimos. Antes de reenviar una imagen, debemos preguntarnos si es auténtica, si existe consentimiento y qué daño podría causar su difusión. No necesitamos ser quienes crearon un contenido para contribuir a la violencia; basta con amplificarlo.
La educación digital debe enseñarnos a utilizar la tecnología, pero también a reconocer sus consecuencias y respetar los derechos de los demás. Y cuando alguien sea víctima de una manipulación, la respuesta no debería ser el juicio, sino la solidaridad y la búsqueda de apoyo.
La inteligencia artificial puede fabricar una mentira convincente, pero nuestra sociedad decide qué hacer con ella. Ninguna innovación debería convertirse en una excusa para vulnerar la dignidad de una persona. Porque detrás de cada rostro manipulado hay alguien cuya vida no puede reducirse a una publicación viral.
Fuentes oficiales para consulta: “UNICEF México: IA y deepfakes, nuevos riesgos de violencia sexual contra la niñez” (https://www.unicef.org/mexico/historias/ia-y-deepfakes-nuevos-riesgos-de-violencia-sexual-contra-la-ni%C3%B1ez) y “UNICEF: declaración sobre el abuso mediante deepfakes” (https://www.unicef.org/press-releases/deepfake-abuse-is-abuse).
