Las empresas más importantes de la industria tecnológica se comprometieron a trabajar en conjunto para erradicar los deepfakes de IA generativa, con el objetivo de combatir la desinformación de cara a los procesos electorales que se estarán llevando a cabo en todo el mundo este 2024.
Este fin de semana durante la Conferencia de Seguridad de Múnich un grupo de 20 empresas, entre las cuales se encuentran algunos de los gigantes tecnológicos más pesados de la industria, se comprometieron a trabajar conjuntamente para combatir los deepfakes generados por inteligencia artificial y la desinformación en torno a las elecciones en todo el mundo, las cuales impactarán a más de cuatro mil millones de personas en más de 40 países.
“La generación y distribución intencional de contenido electoral falso impulsado por IA puede engañar al público de distintas formas que ponen en peligro la integridad de los procesos electorales”, se lee en la carta de compromiso.
“Afirmamos que la protección de la integridad electoral y la confianza pública es una responsabilidad compartida que trasciende los intereses de los políticos, ya que al impactar en la democracia nos afecta a todos como ciudadanos”.
La iniciativa reúne a los principales proveedores tecnológicos a nivel global como lo son Microsoft, Google, Amazon, Adobe e IBM con otras quince compañías de distintos sectores, incluyendo las startups de inteligencia artificial más importantes en la actualidad como OpenAI, Anthropic, Inflection AI, ElevenLabs y Stability AI, las plataformas de redes sociales más populares que incluyen a Meta, X, TikTok y Snap, el fabricante de chips Arm y los líderes en seguridad McAfee y TrendMicro.
¿A qué se comprometieron para combatir los deepfakes de cara a las elecciones?
Mediante el nuevo acuerdo las compañías se comprometieron a trabajar en conjunto bajo el enfoque de desarrollar y adoptar tanto nuevos protocolos de seguridad como un marco común para responder a los deepfakes generados por IA que utilizan audio, video e imágenes sintéticas altamente realistas para falsificar a los candidatos con el fin de dañar su reputación imagen o engañar a los votantes con información falsa de cara a las elecciones.
El acuerdo se conforma por ocho compromisos que estarán llevando a cabo las 20 empresas involucradas entre los cuales se encuentran: desarrollar soluciones para marcar, detectar y etiquetar los deepfakes creados con IA; abordar la distribución de dicho contenido en sus plataformas; fortalecer los protocolos de seguridad de los modelos de IA existentes para evitar malas prácticas y educar a las personas en torno a la inteligencia artificial generativa.
Por otro lado, los gigantes tecnológicos no especificaron las medidas específicas que se estarán poniendo en práctica para asegurar el cumplimiento de los objetivos, por lo que algunos actores políticos son un tanto escépticos del impacto real que el acuerdo pueda tener mientras no haya apoyo de las autoridades y los formuladores de políticas.
El senador estatal de California Josh Becker, por ejemplo, destacó la nueva alianza señalando que existen motivos reales para estar preocupados sobre las formas en que se puede utilizar la IA generativa para engañar a los votantes durante las campañas. No obstante, enfatizó en la necesidad de acelerar la creación de leyes formales que garanticen el uso responsable de las herramientas de inteligencia artificial.
“Es alentador ver que algunas de las empresas más importantes de tecnología se reúnen para abordar la problemática, pero esto es solo un inicio y lamentablemente no es suficiente. Necesitamos una legislación que establezca estándares claros de los usos adecuados de la IA y proteja a los ciudadanos de las malas prácticas electorales impulsadas por deepfakes”.
Confían plenamente en que la unión hace la fuerza
Por su parte, el presidente de Microsoft, Brad Smith, subrayó que la unión de los pesos pesados de la industria para combatir la desinformación electoral y los deepfakes creados por inteligencia artificial generativa para temas políticos ya representa un logro en sí mismo y refleja el compromiso de los líderes tecnológicos con el desarrollo responsable de esta la IA.
“Todos queremos y necesitamos innovar, hacer crecer nuestros negocios y competir entre nosotros”, afirmó Smith. “Pero para eso, primero es indispensable que hagamos un pequeño alto, asumamos nuestra responsabilidad y abordemos los desafíos que trae consigo la IA, incluyendo las amenazas a la democracia”.
Mientras tanto Nick Clegg, presidente de asuntos globales de Meta, afirmó que es necesario unirse como industria, además del trabajo que las empresas ya están haciendo, debido a la escala de la amenaza que representa la IA.
“Nuestras defensas contra el uso malicioso de deepfakes de IA durante las elecciones son tan fuertes como nuestros esfuerzos colectivos. El contenido hecho con IA generativa no se queda solo dentro de una plataforma, se mueve a través del Internet a gran velocidad saltando de una plataforma a otra, por eso es trabajo de todos unirnos para detenerlos”.
