OpenAI выпустила GPT-4o mini для приложений, где важны стоимость большого числа запросов и скорость ответа. Компания назвала среди сценариев поддержку клиентов, обработку длинной истории переписки и последовательности обращений к нескольким инструментам. На момент анонса API принимал текст и изображения и возвращал текстовый ответ.
Контекстное окно составляло 128 тысяч токенов, а максимальный ответ — 16 тысяч. В ChatGPT новая модель начала заменять GPT-3.5 у пользователей тарифов Free, Plus и Team. OpenAI также сообщила о применении подхода с иерархией инструкций, предназначенного для повышения устойчивости к подмене указаний. Приведенные в публикации результаты сравнений относятся к тестам разработчика и условиям того релиза.
