Para evitar que su nuevo chatbot proporcione respuestas ofensivas y sin sentido, Microsoft ha impuesto medidas que limitan su uso hasta corregir los problemas del sistema.
Una semana después de lanzar su nuevo buscador Bing AI que es impulsado por la inteligencia artificial de OpenAI, Microsoft ha anunciado que tras detectar algunas fallas en su nuevo sistema de lenguaje avanzado estará implementando nuevas medidas para limitar el uso del nuevo chatbot en lo que logran solucionar estos problemas.
¿A qué se deben los problemas del nuevo chatbot de Microsoft?
A lo largo de la semana pasada distintos usuarios reportaron que el chatbot respondió a sus preguntas con información falsa, respuestas sin sentido, así como contestaciones escritas con tono violento, sexual u ofensivo.
Posteriormente, Microsoft confirmó los problemas con su chatbot, es por eso que la compañía anunció que a partir de esta semana, la experiencia de chat tendrá un límite de 5 preguntas por conversación y no más de 50 preguntas por día para cada usuario.
“En este proceso de prueba, hemos descubierto que en sesiones de chat profundas y extendidas de 15 o más preguntas, Bing puede volverse repetitivo o ser incitado a dar respuestas que no son necesariamente adecuadas, ni están en línea con los valores de la compañía o el enfoque con el que fue diseñado” señaló Microsoft a través de un comunicado.
El gigante de la tecnología señaló que esto lo pueden ocasionar dos factores. En primer lugar, las sesiones de chat muy largas pueden confundir al modelo de IA sobre las preguntas que debe responder, sobre todo cuando la conversación abarca distintos temas.
Lo anterior, hace que el robot comience a mezclar información de respuestas anteriores con los datos en referencia al más reciente cuestionamiento, generando contestaciones que carecen de sentido y factibilidad.Razón por la cual los ingenieros de Microsoft actualmente trabajan en una nueva función que permita a los usuarios reiniciar el chat para cambiar de tema y comenzar desde cero.
Microsoft explicó que el modelo de lenguaje avanzado que impulsa al sistema tiene la capacidad de adaptar el tono y las palabras de sus respuestas al estilo de la pregunta. Por lo tanto, es probable que preguntas redactadas con insultos u ofensas pueden llegar a generar respuestas con ese mismo lenguaje. La compañía afirmó que muy pronto estará agregando nuevas herramientas para brindar a los usuarios un mayor control sobre el tono del chatbot.
Por otro lado, Microsoft reveló que los datos de uso de Bing AI demuestran que únicamente poco más del 1% de las conversaciones con el chatbot se conformaban por más de 50 mensajes, por lo que consideran que las nuevas medidas de uso no representarán un problema para los usuarios. A pesar de esto, la compañía señala que a medida que se resuelvan las fallas del modelo considerarían aumentar los límites de preguntas en el futuro.
A prueba y error
A la empresa con sede en Seattle, no le preocupan las fallas de su chatbot, pues consideran que la mejor forma de mejorar la funcionalidad de los sistemas de inteligencia artificial, es lanzándolos al ruedo para aprender de las interacciones con los usuarios y mejorar el sistema en el proceso.
“La única forma de mejorar un producto como este, donde la experiencia del usuario es muy diferente a cualquier cosa jamás antes utilizada, es tener personas que prueben el producto y nos den su retroalimentación. Sabemos que debemos construir este modelo abiertamente con la comunidad, por tal razón, definitivamente no se podría lograr únicamente en el laboratorio” puntualizó Microsoft en su blog.
Finalmente, la compañía declaró que en la primera semana los comentarios de los usuarios respecto a los textos generados por el nuevo Bing AI han sido mayormente positivos. De hecho, 71% de las respuestas impulsadas por inteligencia artificial han recibido la aprobación de los usuarios mediante el botón de “me gusta”.
Sin duda, la guerra por la inteligencia artificial apenas comienza. Google recientemente reveló que están trabajando en un servicio similar, sin embargo, ha sido más precavido con su lanzamiento, mientras que Microsoft está actuando velozmente para obtener una ventaja tecnológica sobre su competidor, ¿le funcionará?
