Con el objetivo de seguir perfeccionando la IA generativa de Bing, Microsoft lanzó un nuevo desafío en el que recompensará a todas aquellas personas que logren identificar fallas en el funcionamiento de su modelo.
Microsoft está tan confiado de las capacidades de seguridad de la inteligencia artificial de Bing que ha lanzado un nuevo programa de “recompensas por errores”, a través del cual promete recompensar con hasta $15,000 dólares a los desarrolladores e investigadores que sean capaces de encontrar vulnerabilidades o “descarrilar” a su modelo de IA generativa.
La compañía señaló que el nuevo programa de recompensas de IA surge como resultado de las inversiones clave, así como las investigaciones e innovaciones que Microsoft ha realizado en la materia a partir de que adquirieron el 49% de participación en OpenAI en enero del 2023.
“Estamos constantemente creciendo, iterando y evolucionando nuestros programas de recompensas para ayudar a los clientes de Microsoft a mantenerse a la vanguardia en el cambiante panorama de seguridad, mientras ellos nos brindan retroalimentación clave para perfeccionar nuestros servicios de IA.”, declaró Lynn Miyashita, gerente de programas técnicos del Centro de Seguridad de Microsoft a través del anuncio del nuevo programa publicado en su blog.
Especificaciones del nuevo programa de recompensas por errores de Bing de Microsoft
El objetivo del programa de recompensas por errores de Microsoft es descubrir tanto fallas como vulnerabilidades significativas en su nuevo Bing, impulsado por IA, que puedan llegar a tener un impacto directo en el funcionamiento del modelo y en la seguridad de los usuarios.
Los productos y servicios de IA de Microsoft elegibles para el reto, en este caso, son solo aquellos que ofrecen funciones impulsadas por Bing, desde las experiencias de IA generativa en el navegador como Bing Chat, Bing for Enterprise y Bing Image Creator, hasta las integraciones de su modelo en distintas aplicaciones a terceros, tales como las nuevas funciones generativas respaldadas por la IA de Bing en las aplicaciones de Microsoft Start, Microsoft Edge y Skype.
Las recompensas del programa oscilan entre los $2,000 hasta los $15,000 dólares. La cantidad que cada participante reciba
dependerá del tipo de problema que encontró, así como su gravedad e impacto, además, la calidad del reporte de vulnerabilidades también influye en el premio.
En la convocatoria, Microsoft señala que los reportes deben identificar un problema de Bing del cual el gigante tecnológico no haya informado previamente, además de incluir una descripción clara de cuál fue el problema y cómo fue que lo descubrieron con pasos claros, concisos y reproducibles, ya sea a través de un escrito o por medio de un video. Por último, deben proporcionar a los ingenieros de Microsoft la información necesaria para comprender y solucionar el problema rápidamente.
¿Cómo participar en el nuevo programa de recompensas?
Los desarrolladores e investigadores de seguridad que deseen participar en el reto de Microsoft deben crear una nueva cuenta exclusiva para el programa de recompensas y enviar sus reportes de vulnerabilidades por medio del Portal de investigadores de MSRC, desde donde los ingenieros de la compañía evaluarán los resultados.
Finalmente, Miyashita afirmó que asociarse con investigadores y desarrolladores a través de sus distintos programas de recompensas por errores es una parte esencial de la estrategia integral de Microsoft para proteger a sus clientes de las potenciales amenazas que supone la tecnología.
“Estamos muy entusiasmados por aprender, experimentar y seguir innovando con este nuevo programa de recompensas a medida que nuestro proceso de gestión de vulnerabilidades en los sistemas de IA continúa mejorando”, puntualizó la ejecutiva del gigante tecnológico.
