Estudiante de escuela de Nueva Jersey es acusado de crear fotos de desnudos de 34 de sus compañeras con IA
Uno de los estudiantes de Westfield High School, Nueva Jersey, le comentó a una alumna lo que un niño de la escuela hizo con las fotos de verano e inteligencia artificial, creando imágenes pornográficas despertando el temor de todas las niñas
El menor que supuestamente hizo las imágenes fue suspendido por unos días, pero ya regresó de su "castigo" a la escuela. Crédito: Leon Neal | Getty Images
Informes dieron a conocer que los estudiantes masculinos de Westfield High School, Nueva Jersey, hicieron uso de la Inteligencia Artificial para producir imágenes de desnudos de 34 alumnas usando sus fotos originales que publicaron durante el verano.
Antes del 20 de octubre, la estudiante de Westfield, Francesca Mani, de 14 años, no imaginó que su foto aparecería en línea en una imagen de IA falsa.
“Nunca pensé que sería como un estudiante, la IA ni siquiera me vino a la mente. Simplemente, pensé que sería como un monstruo en Internet“, dijo Mani.
Uno de los adolescentes le contó a una de las chicas y al día siguiente le comentó a las demás.
Mani no sabía qué hacer en ese momento, así que fue a la oficina de la directora de su escuela.
La directora Mary Asfendis declaró que cree que todas las imágenes creadas con la IA fueron eliminadas y ya no están circulando en internet.
Actualmente, una semana y media después, el menor que presuntamente hizo las imágenes fue suspendido temporalmente por unos días, pero ya regresó de su “castigo”.
Mani descubrió que no se trataba de un solo joven, sino de un grupo de adolescentes que usan más de una docena de imágenes de niñas para producir fotos pornográficas con la IA.
“Todas las demás chicas están de acuerdo conmigo, no lo quieren en esta escuela. Están muy asustadas“, expresó Mani.
Es un hecho tan preocupante que la madre de la niña entrevistada nunca imaginó que algo así le pasaría a su hija.
La madre ahora reclama un cambio en la política escolar y para que niño responsable de generar las imágenes sea expulsado de la escuela.
“No creo que mi hija, las otras víctimas y las niñas de Westfield High School deban ser castigadas con otros dos años y medio de él en el aula”, dijo Dorota, la madre de Mani.
“El desafío con esta tecnología es que cuando crea un deepfake tuyo, porque en realidad no eres tú, tu privacidad no está siendo violada realmente, aunque tu imagen ha sido intercambiada y cambiada y se adjunta otra imagen a la tuya para crear estas situaciones muy traumáticas“, manifestó la especialista en ética de IA de datos Renee Cummings.
El superintendente de las escuelas públicas de Westfield, envió a FOX 5 NY un comunicado que decía:
“Todos los distritos escolares están lidiando con los desafíos y el impacto de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y en cualquier lugar.”
“El Distrito de Escuelas Públicas de Westfield cuenta con medidas de seguridad para evitar que esto suceda en nuestra red y en los dispositivos proporcionados por la escuela.”
“Continuaremos fortaleciendo nuestros esfuerzos educando a nuestros estudiantes y estableciendo pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable en nuestras escuelas y más allá”.
Las pesquisas sobre el caso siguen en curso.
Sigue leyendo:
