El gigante de la tecnología busca encontrar nuevas formas de reentrenar a los algoritmos de un modelo de IA para volverlos más confiables y seguros mediante su concurso de desaprendizaje automático, Machine Unlearning Challenge.
En pleno boom de la inteligencia artificial y a medida que esta tecnología se desarrolla a una velocidad desmedida, Google sorprende al mundo anunciando el primer Machine Unlearning Challenge, una competencia que reta a los desarrolladores a lograr que una IA olvide lo que ha aprendido, por medio de la incipiente tecnología de desaprendizaje automático.
A través del concurso, el gigante de la tecnología busca encontrar formas innovadoras de entrenar nuevamente a los algoritmos de un modelo de inteligencia artificial, eliminando algunos datos privados o haciendo ajustes en la información que se encuentra actualmente en las redes neuronales de su sistema, con el fin de proteger la privacidad de los usuarios, así como mitigar los sesgos y las alucinaciones en los modelos entrenados a través del aprendizaje profundo.
“El desaprendizaje automático es una herramienta poderosa que tiene el potencial de abordar una serie de problemas importantes. A medida que la investigación en esta área continúa, esperamos que surjan nuevos métodos en este campo que sean más eficientes, efectivos y éticos”, declaró Google mediante el anuncio del desafío. “Estamos encantados de tener la oportunidad de despertar el interés en este campo a través de este concurso y nos entusiasma compartir con los participantes todos nuestros conocimientos y hallazgos en el sector”, agregó la compañía.
En los últimos meses, el deep learning ha avanzado de manera exponencial, impulsando importantes avances en aplicaciones para la generación de imágenes realistas y modelos avanzados de lenguaje capaces de mantener conversaciones como si fueran humanos. Sin embargo, Google considera que el desaprendizaje automático será fundamental para pulir el entrenamiento de cientos de sistemas con el fin de apegarse a los requisitos de seguridad y privacidad que surjan con la regulación de la IA, que según la compañía, está cada vez más cerca.
Google pretende volver la IA más segura y consciente mediante el desaprendizaje automático
El primer desafío de desaprendizaje automático de Google se llevará a cabo en la plataforma de Kaggle y formará parte de las actividades correspondientes a la NeurIPS 2023, uno de los congresos sobre sistemas de procesamiento de información neuronal más prestigiosos del mundo.
El reto consta de un caso realista en el que se ha entrenado a un sistema predictor de edad con base en imágenes de rostros. Los participantes deben ser capaces de hacer que el modelo olvide cierto subconjunto de datos específicos de las fotografías utilizadas para su entrenamiento con el fin de proteger la privacidad o los derechos de las personas que aparecen.
Para ello, Google pondrá a disposición de los participantes un kit de inicio que contiene un conjunto de datos que incluyen rostros sintéticos junto con anotaciones de edad y otra información clave que puede ser utilizada para desarrollar algoritmos de desaprendizaje automático.
Los participantes deberán enviar un código que tome como base el del predictor previamente entrando y rediseñado mediante algoritmos de olvido y retención integrados por ellos mismos, con el objetivo de crear un modelo que siga siendo funcional y eficiente, utilizando distintos datos de entrenamiento.
Los resultados del Machine Unlearning Challenge se evaluarán según la potencia de los algoritmos de olvido y la utilidad del modelo después de que se eliminó la información requerida. Además, también se realizarán pruebas estadísticas para cuantificar qué tan diferente es la distribución de datos en modelos producidos por un algoritmo de desaprendizaje, en comparación con la de sistemas que son reentrenados desde cero, si los resultados de estos dos son indistinguibles, significa que se logró con éxito el objetivo.
¿Tienes lo necesario para participar en el desafío?
Las inscripciones al concurso organizado por Google están abiertas desde la semana pasada y así permanecerán durante todo el mes de julio de 2023 en la página oficial del evento. Al inscribirse, los participantes recibirán un ejemplo de un algoritmo de desaprendizaje simple, junto con una explicación de los parámetros que se considerarán en la evaluación, para que tengan la oportunidad de comenzar a practicar.
Posteriormente, en agosto se habilitará el servidor de la competencia en Kaggle y los concursantes pueden comenzar tanto a realizar sus operaciones como a correr pruebas. Finalmente, los resultados deberán enviarse durante el mes de septiembre, ya que los ganadores se anunciarán la primera semana de octubre de 2023.
Google señala que el concurso tiene un doble objetivo. En primer lugar, afirma que, al unificar y estandarizar las métricas de evaluación para el desaprendizaje, esperan identificar las fortalezas y debilidades de distintos algoritmos a través de comparaciones justas. En segundo lugar, al abrir esta competencia al público general, buscan fomentar soluciones novedosas e impulsar nuevos avances en el desaprendizaje automático.
