NJ prohíbe las alteraciones vía inteligencia artificial: gobernador firmó ley tras pedido escolar

Nueva Jersey prohibió las fotos, videos y audios engañosos generados por inteligencia artificial (IA/AI), conocidos como “deepfakes.”

Ayer el gobernador demócrata Phil Murphy firmó una ley que establece sanciones civiles y penales para quienes produzcan este tipo de material, incluyendo hasta 5 años de cárcel y multas de $30,000 dólares. La nueva normativa tipifica como delito la publicación de “deepfakes” no consensuados en Nueva Jersey y se espera que se convierta en ley federal, acotó ABC News.

La ley también aborda el problema del uso de “deepfakes” con IA en política para engañar a los votantes. “Son una poderosa herramienta de engaño capaz de socavar la confianza pública”, dijo la vicegobernadora de Nueva Jersey, Tahesha Way.

La nueva ley se inspiró en parte en un incidente ocurrido en una escuela secundaria donde un estudiante usó IA para colocar las fotos de sus compañeros en imágenes pornográficas. Francesca Mani, una alumna de 16 años, presentó su caso ante los legisladores tras ser víctima de una imagen “deepfake” explícita generada por IA.

“Esta ley es para todas las mujeres y adolescentes que han sido ignoradas sin que nada suceda o que simplemente deben seguir adelante”, dijo Francesca Mani. Hace dos años, ella y otros 29 estudiantes descubrieron que un estudiante de Westfield High School publicó imágenes pornográficas que no eran reales. El alumno fue suspendido por un día, pero Mani se negó a conformarse y se embarcó en una misión.

“Hay chicos que usan esta tecnología, pero también hay delincuentes, pedófilos y, en general, personas indeseables. Así que, para Francesca, es un problema mucho mayor que la falta de leyes y legislación”, dijo su madre, Dorota Mani.

“Firmé una ley bipartidista que establece sanciones para los “deepfakes” engañosos y peligrosos de IA. Si bien la IA es una herramienta poderosa, debe usarse con responsabilidad”, escribió ayer el gobernador en Twitter/X. Comentó además que la ley era necesaria para proteger a los jóvenes. “Casi cualquier persona maliciosa puede usar inteligencia artificial en cualquier momento para producir imágenes y videos hiperrealistas que podrían explotar a niños, adolescentes y, francamente, a cualquiera”, dijo Murphy.

“Francesca, tu caso y casos como el tuyo francamente sacaron a la luz una laguna en nuestras leyes penales y civiles que dejaban a nuestros residentes vulnerables a daños reales”, comentó el Fiscal General de Nueva Jersey, Matt Platkin.

El Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) alertó desde 2020 sobre un aumento en los casos de pornografía infantil por el mayor tiempo de adultos y niños en línea usando las redes sociales.

El fin de semana Daniel James Halloran, ex concejal republicano de la ciudad de Nueva York que cumplió condena en una prisión federal por un esquema de sobornos, ahora fue arrestado en el aeropuerto de Miami por cargos de pornografía infantil al aterrizar procedente de Cuba.

El mes pasado José Sáez Jr., joven pastor de una iglesia cristiana en Long Island (NY), se declaró culpable en el Tribunal Federal de Central Islip de explotación sexual infantil por solicitar contenido en un servicio de mensajería encriptada donde mantuvo conversaciones obscenas con menores de edad.

A fines del año pasado Christopher Terranova, ex policía NYPD, fue acusado de pornografía infantil y abuso sexual de menores. En enero de 2024 Angad Beharry, oficial de la policía de Nueva York (NYPD), y Gisianet Christina Chirinos Viloria fueron arrestados y acusados como sospechosos de explotación sexual de una niña de 9 años. También ese mes un hombre mayor residente del condado Westchester (NY) fue acusado bajo cargos federales de explotación sexual de menores usando la aplicación Snapchat.

En octubre de 2023 un padre y su hijo, ambos maestros en ese estado, fueron arrestados y acusados como sospechosos de ver, descargar y poseer pornografía infantil. Por ese mismo delito se declaró culpable Damon Rallis, ex vicepresidente del Comité Demócrata de Southold Town (Long Island) y ex líder de la tropa de Boy Scouts de esa ciudad.

Si usted es víctima o sospecha que alguien algún está siendo maltratado, sobre todo si es un menor de edad o anciano:  

Busque ayuda

• Llame al 911, 988 o al (800)-942-6906.
• Envíe el mensaje de texto “WELL” a 65173.
• Revise información en https://nycwell.cityofnewyork.us/es/  www.988lineadevida.org   https://www.bbc.com/mundo/articles/c87g2n139e9o