Las imágenes falsas de Taylor Swift generadas por inteligencia artificial motivaron a los legisladores a proponer una nueva ley, a través de la cual buscan acabar con las falsificaciones pornográficas hechas con IA generativa.
Luego de que se volvieran virales una serie fotografías explícitas falsas de la famosa artista, Taylor Swift, generadas con inteligencia artificial, los legisladores estadounidenses han propuesto un nuevo proyecto de ley que tiene como objetivo permitir que las personas presenten demandas por imágenes pornográficas falsas de sí mismos, realizadas sin su consentimiento.
La propuesta legislativa nombrada “Ley de Interrupción de Imágenes Falsificadas Explícitas y Ediciones No Consensuales de 2024 o Ley DEFIANCE por sus siglas en inglés, fue presentada por el líder de la mayoría del Senado estadounidense, Dick Durbin y respaldada por los senadores Lindsey Graham, Amy Klobuchar y Josh Hawley.
El proyecto de ley estipula que las “víctimas representadas desnudas o sexualmente explícitas en ‘falsificaciones digitales’ sin su consentimiento, tendrán derecho a tomar acciones legales y solicitar una sanción civil contra las personas que produjeron o poseyeron dicho contenido con la intención de distribuirlo.”
Los senadores se basaron en la Ley de Violencia contra las Mujeres de 2022, que les dio el derecho a las mujeres a demandar por la distribución de imágenes explicitas reales, sin su consentimiento.
Admiten que el caso de Taylor Swift impulsó la nueva ley en contra de los deepfakes de IA
En un comunicado de prensa en torno a la nueva propuesta legislativa, los senadores señalaron que esta surgió como “una respuesta al volumen exponencialmente creciente de imágenes explicitas manipuladas digitalmente mediante IA” en redes sociales, haciendo referencia al caso de Taylor Swift como un ejemplo de cómo los deepfakes pueden utilizarse para explotar y acosar a la gente, particularmente a figuras públicas, políticas y celebridades”.
“Este mes, imágenes falsas y sexualmente explícitas de Taylor Swift generadas por inteligencia artificial se extendieron por las plataformas de redes sociales y aunque estas fotografías son falsas, el daño causado a la artista por la distribución de los deepfakes sexualmente explícitos es muy real”, declaró Durbin.
Por su parte, Josh Hawley mencionó que: “Nadie debería estar expuesto a la pornografía generada por IA, ni las celebridades ni los estadounidenses comunes y corrientes. Las personas inocentes tienen derecho a defender su reputación y hacer que los culpables rindan cuentas ante los tribunales”, añadiendo que este proyecto de ley lo hará realidad.
La Casa Blanca juega su papel
Un par de días antes de que los legisladores presentaran su propuesta, la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, salió a declarar que era urgente crear una legislación para proteger a las personas de las imágenes sexuales falsas generadas por la IA, calificando el incidente de Taylor Swift como “alarmante” y enfatizando en que los deepfakes se encuentran entre los problemas de inteligencia artificial que la administración de Biden ha estado priorizando.
“Por supuesto que el Congreso debería tomar medidas legislativas”, mencionó Jean-Pierre, a lo que añadió, “así es como se abordan estos problemas”. En aquel momento la secretaria no se refirió a ninguna legislación específica que la Casa Blanca estuviera respaldando, sin embargo, sus palabras fueron escuchadas, ya que tan solo dos días después de sus declaraciones, los senadores presentaron el nuevo proyecto de ley.
X buscará enmendar su error con nuevo centro de moderación de contenido
Posterior a la viralización de las imágenes explicitas de IA generativa de Taylor Swift en X, la red social de Elon Musk fue duramente criticada por su incapacidad para evitar primero la publicación y luego la difusión de las imágenes. Incluso los “Swifties”, como se autodenominan los fanáticos de la cantante, reaccionaron antes, inundando la plataforma de imágenes reales de conciertos y videoclips de la artista con la leyenda “Taylor Swift AI” para evitar que las personas pudieran encontrar los deepfakes.
Fue hasta 18 horas después de que la publicación original fue compartida y de que rebasó los 45 millones de vistas que X eliminó el post y bloqueó todas las búsquedas relacionadas con Taylor Swift, pero el daño ya estaba hecho.
Cómo respuesta a los cuestionamientos, Elon Musk anunció que ha comenzado a construir un nuevo centro de moderación de contenidos para X en Austin y tiene planeado contratar a 100 trabajadores de tiempo completo que estarán enfocados en combatir los deepfakes de IA generativa, el contenido relacionado con la explotación sexual infantil, además de hacer cumplir las restricciones de la red social sobre las políticas de discurso de odio, entre otras cosas.
La compañía adelantó que planea comenzar a operar su nuevo centro, pero no especificó una fecha exacta. Sin embargo, se espera que X se movilice rápido, ya que los últimos reportes indican que la falta de moderación de contenido y el aumento de publicaciones falsas, le han causado pérdidas millonarias a la plataforma.
