Con el objetivo de dirigirse a todos los ciudadanos de Nueva York en su lengua natal, Eric Adams está utilizando IA para crear mensajes de audio con su voz en distintos idiomas que realmente no habla.
El alcalde de Nueva York, Eric Adams está utilizando la inteligencia artificial para llegar a los ciudadanos neoyorquinos sin importar el idioma que hablen. La semana pasada, el político estadounidense reveló en una rueda de prensa que ha estado aprovechando un modelo de IA de voces sintéticas para generar mensajes en distintas lenguas conservando su propia voz, los cuales son transmitidos personalmente a los ciudadanos mediante llamadas de teléfono automáticas.
Adams señala que utilizó el programa Voice Lab de la compañía de IA Eleven Labs para realizar llamadas telefónicas en idiomas como mandarín, yiddish y español con el fin de alentar a los habitantes de Nueva York a postularse para puestos de trabajo disponibles en el gobierno de la ciudad, así como invitarlos a asistir a distintos eventos como conciertos y exposiciones que se estarán llevando a cabo próximamente en la gran manzana.
“Los ciudadanos me paran en la calle todo el tiempo para decirme que no sabían que hablaba mandarín o yiddish”, declaró Adams en la conferencia de prensa. “La IA conversacional es increíble: basta que escriba un guión, para que esta asombrosa tecnología lo traduzca al idioma que quiera y genere un mensaje de audio con mi voz”, agregó el alcalde.
Adams busca impulsar la adopción de la IA en el gobierno de Nueva York
Las llamadas automáticas impulsadas por IA comenzaron a realizarse justo un par de días después de que Adams anunció un “plan de acción” de 50 páginas que aborda como planean aprovechar la inteligencia artificial en la ciudad. Junto con este documento, el alcalde también anunció un nuevo chatbot llamado MyCIty, diseñado para ayudar a las personas con consultas relacionadas a la ciudad.
El plan de acción describe que MyCity fue creado utilizando la IA de Azure de Microsoft que recientemente ha sido optimizado mediante ChatGPT. Además, Adams se jactó de que el modelo fue entrenado con más de 2 mil documentos sobre toda clase de información turística, legal e histórica de la ciudad.
El alcalde de Nueva York considera que eventualmente podría utilizarse para responder preguntas básicas recibidas en la línea telefónica de ayuda de la ciudad, el 311.
Según Adams el 70% de las llamadas al 311 son preguntas simples que podrían fácilmente ser manejadas por un chatbot, permitiendo que los trabajadores de la ciudad se concentren en consultas más complejas y así reducir los tiempos de espera para las personas.
Ciudadanos temen por la IA
A pesar de los esfuerzos del gobierno de Nueva York, no todos están de acuerdo con el uso de la inteligencia artificial para la traducción de los mensajes, de hecho, algunos ciudadanos se proclamaron en contra de esta clase de prácticas en sus redes sociales, argumentando que el alcalde está tratando de engañarlos haciéndoles creer que habla idiomas que en realidad no conoce. Además, aseguran que un mal uso de esta tecnología abre las puertas a toda clase de engaños y malas prácticas utilizando la voz del alcalde.
“Sí, necesitamos anuncios en todos los idiomas nativos de los neoyorquinos, pero lo que está haciendo el alcalde es sólo un espeluznante proyecto de vanidad”, declaró Albert Fox Cahn, director ejecutivo del Surveillance Technology Oversight Project, quien además lidera un movimiento que en contra de la adopción de la IA debido a los peligros que esta tecnología aun representa.
Con el objetivo de demostrar los peligros de mal uso de la IA para la creación de voces sintéticas, Cahn creó un audio de parodia en el que utilizaba la voz de Adams para saludar a los ciudadanos neoyorkinos, pero en idioma élfico, la cual compartió en su cuenta de X acompañado de un mensaje que decía: “Si Eric Adams cree que es bueno utilizar esta clase de tecnología para promover sus mensajes, parece justo utilizarla también para burlarse de sus políticas”.
El CEO de STOP enfatizó en que solamente le costó $50 dólares y le tomó aproximadamente 10 minutos crear el mensaje falso, simplemente tomando audios de distintas ruedas de prensa de Adams y procesándolos a través de una herramienta de conversión de texto a voz en línea, demostrando lo fácil que es engañar a las personas con mensajes falsos utilizando la voz del alcalde.
Por otro lado, cabe recalcar que la molestia de algunos ciudadanos también se debe a la gran cantidad de dinero que se ha destinado a las iniciativas de IA en Nueva York, el cual proviene de sus impuestos. Esto luego de que funcionarios de la ciudad revelaran que hacer e implementar las llamadas automáticas les costó alrededor de $32 mil dólares, además de que se invirtieron otros $600 mil dólares en el desarrollo del chatbot MyCity.
Finalmente, Adams se defendió de las críticas negativas acerca de su uso de la inteligencia artificial señalando que el gobierno solo está tratando de llegar a los neoyorquinos a través de los idiomas que hablan. “Tengo que dirigir la ciudad y para eso tengo que poder hablar con los ciudadanos en los idiomas que entienden, por eso estoy feliz de que la IA me permita hacerlo”, puntualizó.
