La startup de inteligencia artificial anunció que amplió la ventana de contexto para Claude, de 9 mil tokens a 100 mil tokens, permitiendo a su chatbot analizar mayor cantidad de texto que cualquier otro modelo en la actualidad, incluyendo ChatGPT.
En pleno auge de la inteligencia artificial, un nuevo rival de ChatGPT llega al ruedo, amenazando con mandar al tan sonado chatbot de OpenAI a la historia. Se trata del modelo avanzado de lenguaje Claude, creado por Anthropic, el cual cuenta con una ventana de contexto ampliamente superior a cualquier sistema existente, lo que le permite procesar una novela completa en menos de un minuto, entre otras habilidades que ningún otro modelo posee.
Claude de Antrhopic vs. ChatGPT de OpenAI
La ventana de contexto se refiere al texto que el modelo toma en cuenta para generar una respuesta. En la actualidad, incluso los sistemas más sofisticados como ChatGPT tienen la memoria de un pez dorado, cada vez que generan una respuesta, solo toman en cuenta una cantidad muy limitada de texto, convirtiéndose en un impedimento para ciertos casos de uso de la IA generadora de texto. Sin embargo, Anthropic confía en que está dejando atrás estos problemas.
La startup de investigación de IA respaldada por Google, anunció que amplió la ventana de contexto para Claude, el cual aún se encuentra en su versión preliminar, de 9 mil tokens a 100 mil tokens, lo que según la empresa permite a los usuarios introducir hasta 75 mil palabras en una sola entrada de texto. Una mejora significativa con respecto al resto de los modelos existente, tomando en cuenta que ChatGPT, por ejemplo, solo puede procesar alrededor de 4 mil tokens o 3 mil palabras en una sola promt.
Según Anthtopic esto significa que ahora las conversaciones con Claude podrán prolongarse durante horas o incluso días, manteniendo un mismo hilo conductor, además de que las empresas podrán aprovechar el modelo de lenguaje para que les analice cientos de páginas de toda clase de materiales en texto en mucho menor tiempo que una persona lo haría.
“Un humano promedio lee 100 mil tokens de texto en más o menos 5 horas y posiblemente necesite todavía más tiempo para comprender, digerir, resumir y analizar esa información. Claude ahora puede hacer esto sin problemas en menos de un minuto”, señaló Anthropic mediante un comunicado de prensa.
Entre más grandes sean las ventanas de texto, mayor potencia
En una publicación de blog, Anthropic explicó que pusieron a prueba su chatbot, introduciendo el texto completo de la famosa novela El gran Gatsby en Claude y posteriormente lo volvieron a hacer, pero ahora modificaron una oración para decir que el Sr. Carraway era “un ingeniero de software que trabaja con herramientas de Anthropic”. Cuando le pidieron al modelo que detectara la diferencia entre ambos textos, Claude respondió correctamente la respuesta en tan solo 22 segundos.
Además de lo anterior la firma de IA aprovechó la publicación para citar algunos de los principales casos de uso, así como ventajas de Claude:
- Extraer, resumir y explicar información de documentos densos como estados financieros o trabajos de investigación.
- Analizar riesgos y oportunidades estratégicas para una empresa a partir de distintos informes y reportes anuales.
- Evaluar los pros y los contras de un cambio al interior de una organización.
- Identificar riesgos, amenazas o simplemente información específica en documentos legales.
- Leer cientos de páginas de documentación para desarrolladores y encontrar respuestas a preguntas técnicas.
- Realizar prototipos de plataformas web rápidamente colocando un código base completo en el contexto y modificándolo de manera inteligente.
Por si fuera poco, las enormes ventanas de contexto también pueden ayudar a extraer o analizar información de contenido auditivo, ya que 100 mil tokens se traducen en aproximadamente 6 horas de audio.
AssemblyAI demostró cómo los usuarios pueden sacarle provecho a esta función, transcribiendo un capítulo muy largo de su podcast que dio como resultado un texto de 58 mil palabras. Después introdujeron el escrito en Claude y en cuestión de segundos el modelo les ayudo a generar un resumen claro de lo que se habló en el episodio junto con una serie de preguntas, con sus respectivas respuestas, acerca de información puntual mencionada en el podcast.
Por el momento, el nuevo Claude solo está disponible para los socios comerciales de Anthropic, quienes pueden registrarse para obtener acceso al chatbot a través de la API de la empresa. Además, la compañía no dio a conocer detalles acerca del costo del servicio, sin embargo, se espera que el aumento de precios sea significativo, ya que procesar más texto implica gastar más en potencia computacional.
Curiosamente, Anthropic fue fundada por Dario Amodei, miembro de la OpenAI Mafia: el grupo de exingenieros de la firma detrás de ChatGPT que salieron de ésta para crear sus propias empresas de IA. Ahora, parece ser que el alumno superó al maestro, ya que la compañía de Amodei está poniendo en jaque a la firma liderada por Sam Altman gracias a la ampliación de sus ventanas de contexto.
