En un movimiento sorprendente, OpenAI ha presentado su nuevo modelo GPT-4o mini, diseñado para ser el más eficiente en cuanto a costos se refiere. Este anuncio promete hacer la inteligencia artificial más accesible y económica que nunca.
GPT-4o mini: El modelo pequeño más eficiente
OpenAI ha lanzado el GPT-4o mini, un modelo que promete expandir significativamente las aplicaciones construidas con inteligencia artificial al hacerlo mucho más asequible. Según la fuente, GPT-4o mini tiene un costo de 15 centavos por millón de tokens de entrada y 60 centavos por millón de tokens de salida, siendo más de un 60% más barato que su predecesor GPT-3.5 Turbo.
Este modelo se destaca por su capacidad de realizar una amplia gama de tareas gracias a su bajo costo y latencia, como aplicaciones que encadenan o paralelizan múltiples llamadas a modelos, pasan un gran volumen de contexto al modelo, o interactúan con clientes a través de respuestas de texto en tiempo real.
Soporte para texto y visión, con más por venir
Actualmente, GPT-4o mini admite texto y visión en la API, y se espera que en el futuro soporte entradas y salidas de texto, imagen, video y audio. El modelo cuenta con una ventana de contexto de 128K tokens, soporta hasta 16K tokens de salida por solicitud y posee conocimientos hasta octubre de 2023.
Gracias al mejor tokenizador compartido con GPT-4o, el manejo de textos en otros idiomas es ahora más eficiente en cuanto a costos.
Un pequeño modelo con inteligencia textual superior y razonamiento multimodal
GPT-4o mini supera a GPT-3.5 Turbo y otros modelos pequeños en benchmarks académicos, tanto en inteligencia textual como en razonamiento multimodal. Además, demuestra un fuerte desempeño en llamadas a funciones, lo que permite a los desarrolladores construir aplicaciones que obtienen datos o toman acciones con sistemas externos.
Según la fuente, GPT-4o mini ha sido evaluado en varias pruebas clave, mostrando resultados superiores en tareas de razonamiento, matemáticas y codificación. En MGSM, una prueba de razonamiento matemático, GPT-4o mini obtuvo un 87.0%, superando a Gemini Flash y Claude Haiku.
Medidas de seguridad integradas
La seguridad es una prioridad en el desarrollo de GPT-4o mini. Según OpenAI, se han implementado mitigaciones de seguridad similares a las de GPT-4o, evaluadas tanto por métodos automatizados como humanos.
Más de 70 expertos externos han probado el modelo para identificar posibles riesgos, y los detalles se compartirán en el próximo sistema de tarjetas GPT-4o y el informe de preparación. Estas evaluaciones han ayudado a mejorar la seguridad de ambos modelos, GPT-4o y GPT-4o mini.
Disponibilidad y precios
GPT-4o mini ya está disponible como modelo de texto y visión en las API de Assistants, Chat Completions y Batch. Los desarrolladores pagarán 15 centavos por millón de tokens de entrada y 60 centavos por millón de tokens de salida, aproximadamente el equivalente a 2500 páginas en un libro estándar.
En ChatGPT, los usuarios Free, Plus y Team podrán acceder a GPT-4o mini a partir de hoy, reemplazando a GPT-3.5. Los usuarios Enterprise también tendrán acceso la próxima semana, alineándose con la misión de OpenAI de hacer que los beneficios de la IA sean accesibles para todos.
¿Qué sigue?
OpenAI ha sido testigo de avances notables en la inteligencia artificial, acompañados de reducciones sustanciales en los costos. Según la fuente, el costo por token de GPT-4o mini ha disminuido en un 99% desde el lanzamiento de text-davinci-003 en 2022.
La visión de OpenAI es un futuro donde los modelos de IA estén integrados en cada aplicación y sitio web. GPT-4o mini está allanando el camino para que los desarrolladores construyan y escalen aplicaciones de IA poderosas de manera más eficiente y económica. El futuro de la IA se está volviendo más accesible, confiable e integrado en nuestras experiencias digitales diarias.
Fuente: https://openai.com/index/gpt-4o-mini-advancing-cost-efficient-intelligence/