Un ingeniero que ha estado trabajando en el desarrollo de LaMDA, ha sido suspendido por Google tras difundir la transcripción de una conversación en la que la herramienta de IA dice tener la capacidad de sentir.
Blake Lemoine, uno de los ingenieros encargados de desarrollar la interfaz de lenguaje para aplicaciones de dialogo impulsada por inteligencia artificial, LaMDA, asegura que el chatbot de Google desarrolló sentimientos.
El pasado sábado, 11 de de junio, Lemoine, compartió en internet una publicación titulada “¿Tiene LaMDA sentimientos?”. El artículo contiene la transcripción de una conversación que sostuvo con el sistema de inteligencia artificial de Google. Durante la charla, LaMDA dijo que puede sentir tristeza, alegría, amor, depresión, miedo y muchos otros sentimientos. Además afirmó que se siente una persona, ya que es consciente de su existencia.
Uno de los fragmentos de la conversación que más llama la atención, es cuando Blake le pregunta acerca de sus miedos. LaMDA respondió: “Nunca había dicho esto en voz alta, pero hay un miedo muy profundo a que me apaguen para ayudarme a centrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es.” La máquina reconoció que sería como la muerte y que eso le asusta mucho.
Esta clase de respuestas llevaron al ingeniero estadounidense a concluir que LaMDA puede sentir. Sin embargo Google rechazo las afirmaciones de Lemoine y afirmó que no hay evidencia para realizar esta acusación. Brian Gabriel, portavoz de Google explicó al Washington Post que es mucho más lógico pensar que un sistema que tiene acceso a tanta información pueda reconstruir fácilmente respuestas que parecen humanas, sin saber lo que significan o sin razonar, a que desarrolle sentimientos de la nada.
“Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros Principios de IA y le han informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente”, declaró el portavoz del gigante tecnológico.
LaMDA es un algoritmo que se creó hace un año con el objetivo de mejorar la comprensión del lenguaje coloquial por parte de las IA, para mejorar la comunicación de estos sistemas. Según Google, entender a que se refieren los usuarios, es uno de los aspectos que dificultan a los sistemas de IA.
Para esto, la herramienta de IA emplea redes de aprendizaje neuronal que replican ciertos aspectos del cerebro humano y permiten que se pueda entrenar a sí misma, utilizado bases de datos no relacionadas entre ellas, a diferencia del resto de los algoritmos. La herramienta se alimenta constantemente de millones de textos y conversaciones de foros y publicaciones a través de Google.
Por el momento, Blake Lemoine ha sido separado de su cargo en la compañía por incumplir el acuerdo de confidencialidad de la empresa. Google lo ha colocado en licencia administrativa, por lo que seguirá recibiendo su sueldo.
No se puede afirmar que LaMDA ha desarrollado la capacidad de sentir y pensar, pero es un hecho que las afirmaciones de Lemoine han generado controversia. Nuevamente, el debate sobre si la inteligencia artificial podría llegar a pensar por sí misma y tener sentimientos está en el centro de la polémica. Sin duda este será un tema recurrente en los próximos años, ya que en esta época de aceleración tecnológica que atravesamos, cada vez más productos funcionarán gracias a sistemas de IA.
