OpenAI ha lanzado una actualización para sus modelos de lenguaje basados en inteligencia artificial, GPT-3.5 Turbo y GPT-4. Además, OpenAI ha ajustado su tabla de precios. ¡Checa aquí la información!
Específicamente, las dos versiones del modelo, GPT-3.5 Turbo y GPT-4, han incorporado una nueva funcionalidad , la “llamada de función“. Esta nueva capacidad permitirá a los desarrolladores describir funciones de programación, lo que permitirá a GPT-3.5 Turbo y GPT-4 generar el código necesario para ejecutar estas funciones.
Un ejemplo de cómo se puede utilizar esta funcionalidad es la creación de chatbots que puedan responder preguntas utilizando herramientas externas, convertir lenguaje natural en consultas de bases de datos y extraer información estructurada del texto.
GPT-4 and GPT-3.5 Turbo models in the API now support calling your custom functions, allowing the model to use tools you design for it. Also — reduced pricing & new model versions (including 16k context for 3.5 Turbo): https://t.co/dalfgEQ9k2
— OpenAI (@OpenAI) 13 de junio de 2023
“Estos modelos se han ajustado para detectar cuándo es necesario llamar una función (según la entrada del usuario) y para responder con JSON que se adhiere a la firma de la función. Las llamadas a funciones permiten a los desarrolladores recuperar datos estructurados del modelo de manera más confiable”
-OpenAI desde una entrada en el blog oficial de la compañía.
OpenAI ha ampliado la ventana de contexto para GPPT-3.5 Turbo, lo que significa que ahora el modelo puede tener en cuenta un contexto más extenso al generar respuestas.
Además de la nueva función, OpenAI ha ampliado la ventana de contexto del modelo GPT-3.5 Turbo a 16,000 tokens (16K), lo que representa un aumento de cuatro veces en comparación con la configuración anterior.
La ventana de contexto se refiere a la cantidad de texto que el modelo de IA puede tener en cuenta antes de generar sus respuestas. Esta ampliación de la ventana de contexto proporciona al modelo una mayor potencia y capacidad.
El ajuste en los precios.
Este aumento en la funcionalidad también viene acompañado de un ajuste en los precios. Los servicios que utilizan GPT-3.5 Turbo 16K deberán pagar una tarifa de 0.003 dólares por cada 1,000 tokens de entrada, y 0.004 dólares por cada 1,000 tokens de salida.
OpenAI ha reducido en un 25% el precio de la versión anterior de GPT-3.5 Turbo, lo que significa que el costo por cada 1,000 tokens de entrada será de 0.00015 dólares, mientras que por cada 1,000 tokens de salida será de 0.002 dólares. Esto resulta en aproximadamente 700 páginas de texto por un dólar.
El modelo de incrustación de texto de OpenAI, conocido como text-embedding-ada-002, también ha experimentado una disminución en su precio. Estas incrustaciones de texto se utilizan para medir la relación entre cadenas de texto y son ampliamente utilizadas en aplicaciones de búsqueda y recomendación.
Ahora, el precio de Text-embedding-ada-002 es de 0.0001 dólares por cada 1,000 tokens.
Estas actualizaciones en GPT-3.5 Turbo y GPT-4 respaldan la estrategia empresarial anunciada recientemente por OpenAI. La compañía se centra en realizar mejoras incrementales en sus modelos existentes antes de embarcarse en el desarrollo de un sucesor para GPT-4 desde cero.
Fuente: Wired
