Laura Victoria Bonhôte, abogada especializada en infancia y adolescencia, dialogó con Radio UNNE sobre una iniciativa que busca acompañar a las familias en la incursión tecnológica de menores de edad. Señaló la necesidad del control parental para prevenir la manipulación de su identidad vía herramientas de inteligencia artificial.
En los últimos años, la inteligencia artificial (IA) ha revolucionado la forma en que interactuamos con el mundo digital. Entre sus aplicaciones, una de las más controvertidas en términos de seguridad, es la tecnología deepfake: la creación de imágenes, audios o videos ultrarrealistas manipulados por IA, capaces de suplantar rostros y voces de manera casi indetectable.
Los menores de edad se encuentran especialmente vulnerables: al estar en proceso de desarrollo cognitivo y emocional les resulta más difícil distinguir entre contenido real y falso, haciéndolos blancos fáciles para numerosos riesgos. Atendiendo a esta problemática, en una iniciativa interinstitucional e interdisciplinaria, lanzaron una guía para acompañar la incursión segura de niños, niñas y adolescentes en las tecnologías, útil para entornos familiares y escolares.
Bonhôte apuntó: “Este trabajo viene de hace dos años con el boom de acceso a Open IA, y la disposición que hoy hay en torno al uso de IA generativa sin ningún tipo de control ni de protección de datos. Esto quiere decir que cualquier persona, independientemente de su edad, puede hacer uso de estas herramientas”.
«Estamos empezando a tomar conciencia de cuáles son los beneficios del uso de las tecnologías, pero también los riesgos. Las familias tienen que tomar conciencia de cuáles son las dificultades que pueden enfrentar los chicos dentro de los entornos digitales, para acompañar y educar”, explicó la especialista en el aire de la 99.7.
En el caso del ciberacoso y el bullying digital, los deepfakes pueden ser utilizados para crear videos o imágenes humillantes de niños y adolescentes, difundiendo contenido falso que daña su integridad. Estos materiales pueden circular en las escuelas y redes sociales, incrementando la presión y el malestar psicológico de la víctima. La IA también puede ser utilizada para generar imágenes o videos sexuales falsos de menores de edad.
La especialista indicó que no existen datos oficiales sobre las afectaciones a menores de edad por deepfakes. Son los casos más resonantes que llegan a visibilizarse en el plano mediático o vía denuncia penal, como suele ocurrir con los casos vinculados a la violencia sexual digital. La abogada advirtió: “Muchos de los casos que estamos viendo y diría más del 90% son casos que se gestaron en las aulas, con víctimas niñas, mujeres”.
“Muchos de los casos que estamos viendo y diría más del 90% son casos que se gestaron en las aulas, con víctimas niñas, mujeres”.
«Las consecuencias están presentes y perduran, sobre todo cuando hablamos de infancias. No se soluciona con borrar un material de internet. Genera una gran afectación emocional”, detalló Bonhôte y apuntó a la importancia de la toma de conciencia, la información, el conocimiento, el control parental y la prevención para la protección de niños, niñas y adolescentes frente a la manipulación de su imagen y datos personales.
El material, titulado “Deepfakes e Infancias. Proteger identidades digitales” busca acompañar el acceso temprano a la tecnología, facilitando la interacción de los jóvenes con herramientas de IA, sensibilizar para su utilización lúdica y atendiendo a los riesgos y fomentar la protección. Se trata de una iniciativa del Ministerio de Justicia y Derechos Humanos de la provincia de Santiago del Estero, acompañada por la Universidad de Buenos Aires, la Universidad de Rosario y la Sociedad Argentina de Inteligencia Artificial.
«Las consecuencias están presentes y perduran, sobre todo cuando hablamos de infancias. No se soluciona con borrar un material de internet. Genera una gran afectación emocional”.
«El interés superior del niño es un principio que viene de la Convención Internacional sobre los Derechos del Niño y para todos aquellos que trabajamos en temáticas de infancia, es nuestro norte. Otra cuestión fundamental es la autonomía, que en nuestro país viene de la mano de la legislación civil. Es aquello que también tratamos de analizar y de dar respuestas: a medida que van creciendo tienen mayor posibilidad de brindar consentimiento respecto a uso de imagen», señaló Bonhôte.
