Propuesta de ley en Nueva York tipifica como delito los audios y videos falsos creados por Inteligencia Artificial

Se trata de la primera legislación en el país que pone la "cascabel al gato" a una tecnología que potencia el riesgo de fraudes

A través de clonaciones de voces, los ancianos siguen siendo el centro de estafas telefónicas.

A través de clonaciones de voces, los ancianos siguen siendo el centro de estafas telefónicas. Crédito: Fernando Martínez | Impremedia

El gobierno estatal de Nueva York toma acciones para evitar los usos fraudulentos y no confiables de la Inteligencia Artificial (IA), una tecnología que sigue su marcha vertiginosa en todos los planos del bienestar humano, pero también ha potenciado el riesgo de novedosas formas de estafas y divulgación de material que manipula con varios fines la realidad.

En el presupuesto estatal del año fiscal 2025, la gobernadora Kathy Hochul está presentando una legislación, que agrega como un delito menor los usos no autorizados de la voz de una persona, permite el derecho de acción privada para combatir las imágenes falsas manipuladas digitalmente y actualiza la Ley Penal para incluir los usos no autorizados de la IA.

Se agrega como delito, por ejemplo, el uso no autorizado de la voz en relación con actividades publicitarias, también se crean penalizaciones específicas por la difusión o publicación ilegal de una imagen íntima, para incluir la responsabilidad por la difusión ilegal de audio auténtico o digitalizado con contenido sexual. 

La legislación también aclararía que la prohibición establecida por la ley actual sobre la distribución ilegal de imágenes íntimas o sexualmente explícitas, incluye ahora imágenes digitales. También añade un nuevo derecho de acción privada por la publicación de material falso alterado digitalmente.

“Como parte de nuestro trabajo para garantizar el futuro de la IA en nuestro estado, propongo protecciones únicas a nivel nacional, para garantizar que lo hacemos de manera segura y responsable“, dijo la mandataria estatal.

Ante la evolución tecnológica de estafas que se han detectado en Nueva York, ahora la IA permite a los delincuentes sofisticados, incluso clonar la voz. Por ejemplo, hay programas que permiten imitar o hacerse pasar por la voz de un ser querido, o un agente de servicio al cliente, para robar dinero o información. Decenas de ancianos han sido víctimas de estas actividades facilitadas por la tecnología.

Videos manipuladores y falsos

En un año electoral, se quiere evitar que la divulgación de material falso y montajes a través de videos generen confusión. En enero, una grabación de audio de 10 segundos se difundió por las redes sociales. Supuestamente, el jefe del Partido Demócrata de Manhattan y ex asambleísta estatal, Keith Wright, ofendía ferozmente a la asambleísta de Harlem, Inez Dickens. Todo era falso. Parecía real. Pero fue una creación de la IA ya conocida como ‘deepfakes’.

“Sí, ella no se postula. Ella ha terminado. Cavé su tumba y ella rodó hacia ella. Perezosa, incompetente. Si no fuera por ella, estaría en el Congreso”, decía el político con una voz clonada.

Perseguir a los malos actores

La legislación ayudará a establecer barreras importantes en torno al uso de esta tecnología y brindará a las autoridades las herramientas para perseguir a los malos actores.

A la par, se está creando un consorcio de instituciones líderes de Nueva York para crear oportunidades de IA centradas en el bien público.

Hochul también ha propuesto otra legislación, para exigir que todas las formas de comunicación política o campañas electorales, incluidas grabaciones de video, películas, películas, grabaciones de audio, imágenes electrónicas, fotografías, textos o cualquier representación tecnológica de discurso o conducta, creadas mediante digitalización, proporcionen una aclaratoria de su uso, cuando se publique o distribuya 60 días antes de una elección.

Mega centro tecnológico en NY

Asimismo, se confirma un nuevo consorcio financiado por la gobernación de Nueva York que pondrá en marcha un centro informático de Inteligencia Artificial de última generación en Buffalo, el cual será utilizado por las principales instituciones para promover la investigación, la creación de empleos y desbloquear oportunidades de IA centradas en el bien público. 

El consorcio estará respaldado por siete instituciones fundadoras (Columbia, la Universidad de Cornell, la Universidad de Nueva York, el Instituto Politécnico Rensselaer, la Universidad Estatal de Nueva York, la Universidad de la Ciudad de Nueva York y la Fundación Simons), así como por líderes de la industria.

Nuevas tecnologías, nuevos delitos:

La legislación planteada por Hochul actualizaría la Ley Penal para aclarar que los delitos cometidos con el uso no autorizado de Inteligencia Artificial ya están tipificados en las leyes:

  • Coacción a través de IA pasará ser un delito de tercer grado
  • La suplantación de identidad constituirá un delito en primer y segundo grado
  • El hurto de identidad significaría un delito.
  • Será considerada una actividad criminal grave la promoción y posesión de una actuación sexual por parte de un niño.
  • Además, la legislación establecería el delito de Difusión o Publicación Ilícita de un Registro Fotográfico, Videográfico o de Audio Fabricado.

En esta nota

Inteligencia artifical

Suscribite al boletín de New York

Recibe gratis las noticias más importantes de Nueva York diariamente en tu email

Este sitio está protegido por reCAPTCHA y Google Política de privacidad y Se aplican las Condiciones de servicio.

¡Muchas gracias!

Más sobre este tema
Contenido Patrocinado
Enlaces patrocinados por Outbrain