Durante la celebración de su conferencia anual, la firma de IA detrás de ChatGPT, anunció importantes actualizaciones diseñadas principalmente para ayudar a los usuarios a sacarle el máximo provecho a sus distintas soluciones de inteligencia artificial.
Con el objetivo de mantener su posición de liderazgo en la industria de la inteligencia artificial a medida que la competencia en el sector aumenta rápidamente, este martes 1ero de octubre, OpenAI llevó a cabo su evento insignia, DevDay 2024, donde anunció cuatro interesantes innovaciones con las que la compañía pretende hacer la IA más accesible y eficiente para las empresas de todos los tamaños, sobre las cuales sin duda alguna vale la pena profundizar.
1. API en tiempo real para proporcionar respuestas instantáneas
Esta nueva herramienta les permitirá a los desarrolladores crear aplicaciones integradas con la capacidad de sostener conversaciones verbales y responder a las consultas de sus usuarios en tiempo real.
La nueva API permite utilizar hasta seis voces predeterminadas por OpenAI, distintas a las que están disponibles en el modo de voz avanzado de ChatGPT. Cabe destacar que la compañía no permitirá la personalización de voces para evitar conflictos de derechos de autor.
Durante la conferencia, el responsable de la experiencia de desarrollo de OpenAI, Romain Huet, quien presentó la nueva función durante el DevDay 2024 aseguró que la capacidad de la API en tiempo real para generar respuestas con baja latencia abre “un sin fin de posibilidades” para aplicaciones que requieren interacción continua con el cliente, como los asistentes virtuales o servicios telefónicos automatizados.
El ejecutivo de la firma de IA, además demostró cómo a través de su nueva herramienta lograron dotar al asistente virtual de una app para planear viajes con la capacidad de responder verbalmente a las consultas relacionadas con el itinerario de los usuarios.
2. Ajuste fino de visión
Esta nueva función les permitirá a los desarrolladores entrenar sus modelos de IA generativa con imágenes y textos simultáneamente para mejorar significativamente su capacidad de comprensión visual.
Según OpenAI, esta herramienta fue especialmente diseñada para ayudar a mejorar el rendimiento de aplicaciones que requieren de la ejecución de análisis visuales avanzados, como la conducción autónoma, la medicina basada en imágenes, la seguridad y las búsquedas visuales en línea.
El jefe de API de productos de OpenAI, Olivier Godement, quien se encargó de presentar la nueva función, presumió que la app asiática de viajes en taxi y entrega de alimentos, Grab, ya está aprovechando esta herramienta para automatizar las actualizaciones de tráfico en las zonas donde operan sus choferes, un proceso que anteriormente era manual.
3. Prompt Caching
Otra de las novedades presentadas por la firma de IA detrás de ChatGPT fue la optimización del almacenamiento en caché de mensajes en la API de OpenAI.
Esta función permitirá a los desarrolladores reducir los costos, acelerar el procesamiento de solicitudes y mejorar la latencia de sus aplicaciones al almacenar información contextualmente relevante que fue anteriormente compartida con el modelo en interacciones previas.
La capacidad de almacenar contexto permite a los usuarios optimizar el uso de los recursos computacionales, brindando a las empresas una herramienta más eficiente para manejar grandes volúmenes de datos. De hecho, OpenAI se jactó de que los usuarios pueden experimentar una reducción de hasta un 50% en los costos operativos al utilizar esta función.
Debido a lo anterior, la compañía liderada por Sam Altman asegura que la actualización de su almacenamiento en caché no solo beneficiará a las grandes corporaciones, sino también a startups y pequeñas empresas que buscan escalar sus soluciones de IA generativa sin incrementar los costos de infraestructura tecnológica.
4. Model Distillation
Por último, OpenAI presentó una herramienta a través de la cual proporciona un flujo de trabajo integrado para que los desarrolladores puedan ajustar modelos grandes como GPT-4o a versiones más pequeñas y eficientes. La compañía subrayó que esta función es particularmente útil para organizaciones que buscan aprovechar las capacidades avanzadas de los grandes modelos de IA sin tener que invertir en infraestructura tecnológica.
La destilación de modelos también permitirá a los desarrolladores mejorar el rendimiento de sistemas de inteligencia artificial más pequeños, lo que resulta en ahorros significativos de costos y recursos. Por si fuera poco, para complementar su nueva función OpenAI también lanzó una nueva herramienta de evaluación que aún está en versión beta para que los usuarios puedan medir el impacto de sus ajustes directamente dentro de la plataforma de la compañía.
Con el lanzamiento de estas nuevas herramientas en el DevDay 2024, OpenAI continúa consolidándose como un líder en la democratización de la inteligencia artificial a nivel global y reafirma su compromiso con el desarrollo de soluciones de inteligencia artificial más accesibles, rápidas y eficientes para todo tipo de usuarios, desde emprendedores independientes hasta grandes empresas.
De esta forma, la firma de IA detrás de ChatGPT busca promover un ecosistema más inclusivo, donde la IA puede integrarse a un mayor número de industrias y aplicaciones.
