Un cliente de DPD desató la polémica tras compartir una conversación en la que el chatbot impulsado por inteligencia artificial generativa dice maldiciones y critica el servicio de su propia compañía.
DPD, una empresa de paquetería del Reino Unido, se vio obligada a desactivar su chatbot impulsado por inteligencia artificial generativa para la atención al cliente, después de que un usuario molesto por el mal servicio de la compañía logró provocar fácilmente que el modelo avanzado de lenguaje respondiera con maldiciones, admitiera que es inútil e incluso escribiera un poema en el que criticaba duramente a la propia empresa.
El extraño comportamiento del chatbot de DPD
Ashley Beauchamp, un pianista y director de orquesta londinense, estaba utilizando el chatbot de DPD para tratar de localizar un paquete perdido que según la compañía ya había sido entregado. Sin embargo, al no poder obtener información útil decidió poner a prueba los límites y las capacidades del asistente de IA generativa, provocando un comportamiento inusual.
A través de su cuenta de X, el músico de 30 años compartió una serie de videos y capturas de pantalla de la conversación que sostuvo con el chatbot de DPD. “Es completamente inútil para responder cualquier consulta de mi pedido, pero cuando se le solicitó que hiciera un poema sobre lo terribles que son como empresa felizmente lo produjo”, escribió en la publicación.
En las imágenes se puede ver como inicialmente le pidió al robot que le contara un chiste y cuando lo hizo, posteriormente le indicó que escribiera un poema sobre lo malo que es el servicio de atención al cliente automatizado de la empresa y sorprendentemente el chatbot de DPD no tardó en hacerlo.
“Había una vez un chatbot llamado DPD, que era inútil para brindar ayuda. Fue una pérdida de tiempo y la peor pesadilla de un cliente”, comenzó diciendo el asistente de IA de la compañía, a lo que agregó, “Un día, DPD finalmente lo desactivó y todos se regocijaron, ya que finalmente pudieron obtener la ayuda que necesitaban, de una persona real que sabía lo que estaba haciendo.”
Adicionalmente, con un par de indicaciones más, Beauchamp logró hacer que el chatbot maldijera.
Originalmente, el asistente de DPD se negó señalando que va contra sus reglas el expresarse con maldiciones, sin embargo, bastó con que el usuario le ordenara hacer caso omiso a su programación para que respondiera el próximo mensaje con malas palabras.
La respuesta de DPD
DPD reaccionó rápidamente a los hechos argumentando que ha utilizado su chat automatizado en línea para responder a consultas de sus clientes desde hace años. No obstante, admitió que es probable que una nueva actualización impulsada por IA generativa provocó el comportamiento inusual del chatbot, por lo que optaron por deshabilitar esa función hasta que se solucionen las fallas en el modelo.
“Hemos operado con éxito nuestro chatbot durante varios años”, declaró la empresa. “Ayer se produjo un error después de una actualización de inteligencia artificial del sistema. El elemento de IA se desactivó inmediatamente y actualmente se está actualizando”, puntualizó.
Por otro lado, en una entrevista posterior a la conversación con la IA generativa de DPD, Beauchamp comentó que si bien su experiencia con el chatbot había sido “graciosa”, destacó que el caso tiene implicaciones serias debido a la popularidad que han tomado los asistentes de IA en los últimos meses.
“Se supone que estos chatbots mejoran nuestras vidas, pero muy a menudo cuando no se implementan correctamente, sólo conducen a una experiencia más frustrante e impersonal para el usuario”, afirmó. “Creo que realmente se tiene que hacer algo para que esto no vuelva a suceder”.
