Este podría ser el primer caso en Estados Unidos en el que dos jóvenes fueron arrestados y enfrentarán cargos penales por difundir deepfakes explícitos, marcando un precedente legal en torno a las consecuencias del uso irresponsable de la IA.
Las autoridades de Miami, Florida están marcando un precedente en torno a las consecuencias por el mal uso de herramientas de inteligencia artificial, tras arrestar a un par de estudiantes de secundaria que son presuntamente responsables de haber creado y compartido deepfakes de sus compañeros de clases desnudos que fueron generados con IA.
Los informes del arresto señalan que el Departamento de Policía de Miami-Dade, se movilizó luego de que los dos alumnos varones de 13 y 14 años de la Academia Pinecrest Cove en Westchester, Florida, fueron acusados de utilizar un software de inteligencia artificial no especificado para manipular y difundir imágenes falsas de sus compañeros.
¿Cómo fue que la policía de Florida arrestó a los estudiantes por sus deepfakes de IA?
En el informe policiaco se menciona que el incidente fue reportado a un administrador de la escuela, sin embargo, no se especifica quién lo reportó ni describe cómo esa persona se enteró de los deepfakes.
Por otro lado, la documentación policial detalla que posteriormente un directivo de la academia obtuvo copias de las imágenes alteradas y entrevistó a las víctimas de las falsificaciones, quienes dijeron que en ningún momento dieron su consentimiento para que se crearan dichas imágenes.
Inicialmente los estudiantes involucrados fueron suspendidos durante diez días, pero algunos de los padres de las víctimas consideraron que no era suficiente y se movilizaron legalmente en contra de los adolescentes. Fue entonces cuando las autoridades procedieron con el arresto, transportando a los dos alumnos acusados al Departamento de Servicios Juveniles del estado.
Ahora el incidente podría convertirse en el primer caso en Estados Unidos que resulta en un arresto y cargos penales debido a la difusión de deepfakes de desnudos hechos con herramientas de IA generativa, ya que los adolescentes fueron acusados de delitos graves de tercer grado en virtud de una ley de Florida que los legisladores estatales aprobaron en 2022, precisamente con el fin de mitigar el acoso relacionado con falsificaciones creadas con herramientas impulsadas por inteligencia artificial.
Las autoridades de Florida tienen la oportunidad de sentar un precedente
A pesar de que la ley en Florida señala como “delito de tercer grado” a la acción de compartir cualquier clase de representación sexual alterada” de una persona sin su consentimiento, poniéndolo al mismo nivel que un robo de auto y un secuestro, realmente aún no existe una legislación federal que proteja a las víctimas de la creación de falsificaciones o deepfakes de su persona sin su permiso.
De hecho, lamentablemente este no es el primer incidente de este tipo que ocurre en Estados Unidos:
A medida que las herramientas de IA generativa para la creación de imágenes se han popularizado, ha habido varios incidentes en los que menores supuestamente crearon deepfakes de desnudos de sus compañeros de clase y las compartieron sin consentimiento.
Recientemente, se han revelado al menos tres situaciones en los que estudiantes de las secundarias Issaquah en Washington, Westfield en Nueva Jersey y Beverly Vista en California han hecho malos usos de herramientas de IA para generar deepfakes pornograficos de otras personas. Si bien los estudiantes tuvieron consecuencias administrativas en ninguno de estos casos hubo repercusiones legales para los involucrados debido a la falta de leyes en torno a los lineamientos de uso de la IA.
Afortunadamente, las autoridades federales actualmente están presionando para que se apruebe una nueva legislación que proteja a las personas de las malas prácticas de la IA.
El pasado primero de febrero, luego de que una serie de deepfakes explícitos generados con inteligencia artificial de Taylor Swift se viralizaran en redes sociales, los legisladores estadounidenses presentaron un nuevo proyecto de ley que tiene como objetivo permitir que las personas presenten demandas cuando se realicen falsificaciones pornográficas de sí mismos, realizadas sin su consentimiento.
La propuesta legislativa nombrada “Ley de Interrupción de Imágenes Falsificadas Explícitas y Ediciones No Consensuales de 2024 o Ley DEFIANCE por sus siglas en inglés, estipula que las “víctimas representadas desnudas o sexualmente explícitas en deepfakes sin su consentimiento, tendrán derecho a tomar acciones legales y solicitar una sanción civil contra las personas que produjeron o poseyeron dicho contenido con la intención de distribuirlo.”
Por el momento, queda esperar el veredicto de las autoridades estatales, aunque sin importar cual sea el resultado este incidente en Florida sin duda marca la pauta de las acciones legales que se deben tomar para proteger a la sociedad de los deepfakes y sentar un precedente para que las personas piensen dos veces antes de utilizar la IA para generar una imagen falsa que puede dañar la reputación de alguien más.
