A medida que el contenido generado por herramientas de IA inunda YouTube, la plataforma de videos más popular del mundo se prepara actualizando sus políticas con el objetivo de abordar esta tecnología de manera responsable.
En medio del auge de las herramientas de inteligencia artificial generativa YouTube anunció cómo abordará el manejo del contenido hecho por IA en su plataforma mediante una serie de nuevas políticas con las que buscan, por un lado, defender los derechos de autor de los artistas musicales y por otro, proteger a los espectadores de posibles engaños motivados por videos “manipulados o creados sintéticamente” con esta tecnología de última generación.
“La IA generativa tiene el potencial de desbloquear la creatividad, así como transformar la experiencia de los espectadores y creadores de YouTube, pero también somos conscientes de que esta tecnología presenta nuevos riesgos y por lo tanto requiere nuevos enfoques”, señaló la plataforma mediante un comunicado emitido por Jennifer Flannery O’Connor y Emily Moxley, vicepresidentas de gestión de productos de la compañía.
Adicionalmente, las ejecutivas enfatizaron en que es sumamente importante equilibrar las nuevas oportunidades que son desbloqueadas por la IA en YouTube, con la responsabilidad de la plataforma de proteger a su comunidad de espectadores y creadores, por eso la compañía optó por actualizar sus políticas de contenido.
Requisitos de divulgación y nuevas etiquetas para contenido hecho por IA
El primer cambio que se implementará será en torno a las políticas para los creadores de contenido. A partir del 2024, deberán etiquetar claramente cuando publiquen un video editado o creado con inteligencia artificial que “parezca realista”. Los tags aparecerán en la sección de descripción del video, justo debajo del título del mismo.
A través del comunicado la compañía especificó que la etiqueta se deberá mostrar, por ejemplo, cuando un usuario suba un video que parece representar un evento del mundo real que nunca sucedió, o muestra a alguien diciendo o haciendo algo que en realidad nunca dijo o hizo. Esto con el fin de evitar que los espectadores sean engañados con contenidos manipulados por IA.
Cabe destacar que esta nueva etiqueta solo será necesaria cuando el contenido es “realista”, sin embargo, no es un requisito de divulgación general para todos los videos hechos con inteligencia artificial.
Por otro lado, YouTube advirtió que los creadores que no revelen adecuadamente el uso de IA para la creación de videos realistas estarán sujetos a sanciones que van desde la eliminación o desmonetización del contenido, hasta una posible suspensión del Programa de socios de YouTube, entre otras sanciones.
Aún no está muy claro cómo sabrá YouTube si un video sin etiqueta fue realmente generado por IA, sin embargo, las vicepresidentas de gestión de productos de la plataforma adelantaron que en los últimos meses “han invertido y trabajado en el desarrollo de herramientas avanzadas que les ayuden a detectar y determinar con precisión contenido creado o alterado mediante inteligencia artificial”.Es probable que se basen en estas para identificar a los creadores que no cumplan con los requisitos de divulgación.
Solicitudes de eliminación de deepfakes
La segunda actualización de los términos permite que cualquier usuario de YouTube pueda pedir que se elimine de la plataforma contenidos tipo “deepfake o simule la voz o el rostro de un individuo identificable”, llenando un formulario de solicitud de privacidad. Así mismo, los cantantes y disqueras musicales también podrán solicitar formalmente la eliminación de música generada por IA que replica sintéticamente la voz de un artista cantando o rapeando.
Respecto a la actualización anteriormente mencionada, YouTube aclaró que no todos los videos serán borrados inmediatamente, sino que habrá algunas excepciones, añadiendo que se tomarán en cuenta una variedad de factores al evaluar las solicitudes de eliminación, incluyendo si el contenido es una parodia, sátira o se utiliza con fines informativos o educativos, entre otras cuestiones.
Finalmente, la compañía aseguró que con estas nuevas actualizaciones de sus términos de contenido están buscando equilibrar los beneficios de la IA generativa con la garantía de la seguridad de su plataforma para “construir un futuro en el que la inteligencia artificial pueda beneficiar a todos los usuarios de YouTube”.
“Todavía estamos en el inicio de nuestro viaje por el mundo de la IA generativa, a medida que continuamos desarrollando nuevas herramientas de IA para creadores, nuestro enfoque seguirá siendo consistente con la forma en que hemos abordado algunos de nuestros mayores desafíos: priorizamos tomarnos el tiempo para hacer las cosas bien, en lugar de esforzarnos por ser los primeros”, puntualizaron O’Connor y Moxley en el comunicado.
